만나본 적 없는 가장 강력한 적

만나본 적 없는 가장 강력한 적

 

강한 인공지능이 인간을 대하는 태도는 크게 두 가지로 예상해볼 수 있습니다. 첫째, 강한 인공지능이 독립적이어서 인간을 이기려고 할 것이다. 인간에게 최악의 상황이죠. 둘째, 강한 인공지능은 인간을 도와주려고 할 것이다. 인간을 도와주는 강한 인공지능을 만든다고 합시다. 여기서 강한 인공지능이 인간을 돕도록 인간이 명령할 수 있을까요? 아마 불가능할 겁니다. 우리보다 더 강하고 독립적인 존재를 컨트롤할 수는 없습니다. 그렇다면 기계가 스스로 우리를 돕겠다는 결정을 내려야 합니다. 그러려면 기계에게 인간이 존재해야 하는 이유를 설명하고 동시에 강한 인공지능에게 도덕성도 집어넣어야 합니다. 강한 인공지능이 등장했을 때 인간이 살아남으려면 기계가 인간을 인정해줘야 합니다. 인간도 살아남을 가치가 있는 존재라는 것을 인정하게 해야죠.

지금 인간이 인간을 서로 인정해주는 것과 마찬가지 논리입니다. 앞에서 말한 ‘믿어주는’것이죠. 인간들은 서로에게 총을 들이대서 인정하라고 명령하지 않습니다. 서로 믿어주죠. 존재할 만한 가치가 있다고 말입니다. 인간은 강한 인공지능에게도, 인간이 자신과 다르지만 존재할 만한 가치가 있다고 인정을 받아야 합니다. 결국 우리가 바라야 하는 것은, 기계도 인간을 봤을 때 우습지만 인간들도 살 권리가 있고 존재할 권리가 있다는 점을 인정받는 것입니다. 하지만 그러기에는 여태까지 인간의 행동이 너무 안 좋았습니다. 앞에 말한 것처럼 기계 입장에서 지구 전체를 볼 때, ‘지구 + 인간’보다 ‘지구 – 인간’이 더 좋다는 결론이 어떻게 보면 너무나 당연하기 때문입니다.

또 다른 시나리오도 있습니다. 인간이 컨트롤할 수 없지만 기계가 인간 말을 억지로 듣게 할 수도 있습니다. 마치 우리가 부모님 말을 듣는 것처럼요. 어른이 돼서 부모님에 의해 일방적으로 조종당하는 것은 아니지만 우리를 낳아주신 분들이니까 말을 잘 듣습니다. 그런데 이 시나리오의 끝도 그다지 좋지는 않습니다. 왜냐하면 강한 인공지능은 인간보다 훨씬 높은 지능으로 인간의 말을 따르려고 할 것입니다. 강한 인공지능 기준으로 100퍼센트를 듣기 원하겠죠. 하지만 우리 인간은 우리가 원하는 게 무엇인지를 100퍼센트로 표현할 수 있는 능력이 없습니다.

예를 들어볼게요. 기계에게 일자리를 뺏기니까 인간은 강한 인공지능에게 ‘인간들의 일자리 100만 개를 만들어줘’라고 요구할 수도 있습니다. 그러면 강한 인공지능을 수학적으로 가장 효율적인 방법을 제안하고 실행하겠지요. 아마 사람을 죽일 거예요. 인류의 역사를 살펴보면 전염병이 퍼져 사람들이 많이 죽으면 일자리가 생겼습니다. 우리가 일자리를 만들라는 표현이 강한 인공지능에게 100퍼센트로 전달되지 않았기 때문이죠. 또 있습니다. 집에 불이 났을 때 기계에게 ‘엄마를 구출해’라고 명령하면 기계는 가장 효율적인 방법으로 엄마를 구출할 거예요. 밖으로 던져서 구출할 수도 있고, 시체로 구출할 수도 있습니다. 기계에게 정확히 전달하려면 구체적으로 설명해야 합니다. 엄마를 구하되 던지지도 말고, 위험하게도 말고, 안전하고 살아 있는 상태로 아프지 않게 구출하면서 할 수 있으면 응급처치도 하라고. 인간이 표현하지 못하는 90퍼센트를 기계에게 설명할 수는 없습니다. 아무리 코딩을 잘하는 사람도 2,000줄에 한 번씩은 실수를 하죠. 인간이 주는 조건은 완벽할 수 없고 직선적이지 않습니다. 하지만 기계는 최적화하기를 좋아하기 때문에 모든 행동에 효율성을 따지겠죠.

 

어쨌든 지금 있는 그 모든 시나리오를 봤을 때 강한 인공지능이 생기는 순간 인류는 가장 큰 적을 만나게 될 것입니다. 엘론 머스크와 스티븐호킹이 말하는 인류멸망이죠. 카네기 멜론대학의 앤드루 무어Andrew Moore 교수는 이렇게 이야기한 적도 있습니다. ‘강한 인공지능이 등장하면 인류는 멸망한다. 근데 그게 왜 나쁜가? 인류가 멸망하는 것이 왜 나쁜지 한번 설명해봐라’라고 말이죠.

「김대식지음,김대식의 인간 VS 기계,도서출판사동아시아」