지구 + 인간? vs 지구 – 인간?

지구 + 인간? vs 지구 – 인간?

 

여기서 또 하나 본질적인 문제가 발생합니다. 딥러닝이 만약 강한 인공지능의 알고리즘 중 하나라면 상당히 위험한 요소를 하나 가지고 있습니다. 인간의 뇌는 10층에서 15층 정도의 구조를 가졌는데 현재의 인공지능은 152층까지, 훨씬 더 깊은 사고를 할 수 있다는 것이죠. 여기서 문제가 생깁니다. 한번 상상해보세요.

손바닥에 개미가 한 마리 기어 다닙니다. 싫겠죠. 그래서 손으로 집어다가 바닥에 내려놓습니다. 근데 우연히도 손에 있었던 개미가 개미 중의 천재, 개미가 알 수 있는 건 다 아는 개미였습니다. 그렇더라도 개미 뇌는 기껏해야 2, 3층만 갖고 있습니다. 인간보다 뇌가 덜 발달했으니까요. 이 천재 개미가 생각할 수 있는 걸 다 생각하더라도 이 개미는 결국 푹신푹신한 바닥에 있다가 갑자기 발에 딱딱한 게 느껴진다 정도예요. 근데 개미하고 우리는 분명히 같은 우주에 살고 있습니다. 그리고 인간은 알겠죠. 개미의 발에 왜 딱딱한 게 느껴졌는지. 개미가 사는 세상에 인간도 살고, 인간은 문명과 도시를 만들고 강연도 하고, 손에 개미가 기어 다니는 게 싫어서 내려다 놓을 수도 있죠. 이것이 진정한 인과관계입니다.

인간은 개미보다 훨씬 더 깊은 심층정보 구조를 가지고 있기 때문에 개미가 알 수도 없는 것을 우리는 알 수 있습니다. 그런데 여기서 짚고 넘어가야 할 것이 있습니다. 인간이 가지고 있는 15층 정도의 구조는 진화적으로 우연히 만들어진 것입니다. 그렇다면 우리는 질문해야 합니다. 과연 우주에서 일어나는 모든 인과관계들을 이 15층으로 다 이해할 수 있을까요?

개인적으로 아닐 것 같습니다. 우주에 일어나는 엄청나게 많은 인과관계 중에서 인간이 이해하지 못하는 부분이 훨씬 더 많을 거예요. 만약 100만 층의 딥러닝 기계가 생긴다면, 우리가 개미를 우매하다 생각하는 것 같이 이 딥러닝 기계 역시 인간을 멍청하다 생각하지 않을까요? 인간보다 훨씬 깊은 층의 사고를 할 수 있으니 인간은 상상할 수도 없는 인과관계를 이해할 수 있지 않을까요? 그렇게 된다면 어쩌면 기계가 우리를 미워해서 우리가 멸망하는 게 아니라 기계에게 아무 상관이 없기 때문에 인류가 멸망하게 될지도 모릅니다.

「김대식지음, 김대식의 인간 VS 기계, 도서출판사 동아시아」