오랜만에 TED 강연 하나 공유하고자 합니다. 강인공지능 및 초인공지능과 관련하여 세계에서 가장 유명한 사람 중의 하나인 옥스포드 대학의 닉 보스트롬(Nick Bostrom)의 강연입니다. 사실 그의 주장에 모두 동의하는 것은 아니지만, 여러 가지로 생각할 거리를 던져줍니다. 


지금까지의 인공지능은 박스에 명령을 넣는 것과 비슷합니다. 인간 프로그래머가 지식과 관련한 규칙들을 입력해서 만들어진 이런 인공지능 박스는 전문가 시스템이라고 불리면서 어떤 목적에 어느 정도 유용한 결과를 만들어 냈습니다. 그렇지만, 입력한 대로만 결과를 얻는다는 한계는 극복할 수 없었죠.


최근의 인공지능은 기계학습을 바탕으로 많이 발전하고 있습니다. 이 방식은 지식의 표현과 특징, 규칙 등을 인간이 추출해서 입력하는 것이 아니라 원초적인 센서를 통해 들어오는 데이터를 통해서 생성합니다. 이를 위한 알고리즘들이 최근 많이 개발 되었습니다. 이런 방식은 사실 인간이 태어나서 유아기에 지식을 습득하는 것과 근본적으로 크게 다르지 않습니다. 이런 방식이 일반화되면 비슷한 시스템으로 언어도 번역할 수 있고, 게임을 플레이할 수도 있는 것이죠. 최근 딥마인드가 보여준 알파고의 바둑도 이런 방식으로 익혀서 플레이를 합니다.


그렇다고 현재 인공지능이 인간처럼 행동하고 배우는 수준에 올라와 있지는 않죠? 인간의 대뇌피질은 아직까지는 기계가 따라가기에는 먼치킨에 가까운 능력치를 가지고 있습니다. 그렇다면 언제쯤 현재의 인공지능이 인간 수준에 도달할까요? 사실 여기에 대해서는 참 많은 논란이 있습니다. 일단 닉 보스트롬은 2013년 인공지능 전문가들을 대상으로 "우리가 인간 수준의 인공지능을 달성할 가능성이 50%가 되는 해가 언제라고 생각하십니까?" 라는 질문이 포함된 전문가 조사를 했고, 그 답변의 중간값은 2040년이나 2050년 정도였습니다. 



from TED.com



전문가들의 생각이 항상 그대로 되는 것은 아니지만 어느 정도 일리는 있다고 할 수 있을 것 같습니다. 신경세포는 최대 200Hz (1초에 200번) 속도로 신호를 전달할 수 있지만, 현재 대부분의 컴퓨터에 들어가 있는 CPU는 보통 GHz (1초에 10억번) 속도로 움직입니다. 신경세포가 신호를 전달하는 속도는 축삭돌기에서 최대 초속 100미터 정도가 한계지만, 컴퓨터의 신호는 빛의 속도로 움직입니다. 그리고 이들을 연결하는 네트워크가 거대한 뇌를 만들 수 있다고도 생각할 수 있겠죠. 그러니 가능성은 충분히 있다고 보는 것이 합리적이지 않을까요?


일단 초인공지능의 탄생을 상정한 다음에는 이들이 만드는 세상에 인간들이 같이 사는 형태가 될 가능성이 많겠죠? 마치 인간들의 세상에 침팬지들이 있듯이 말이죠. 그렇다면, 이런 초인공지능은 무엇을 원할까요? 이런 상상을 할 때 중요한 것은 의인화를 피하는 것입니다. 우리는 어떤 대상이든 감성을 투사해서 인간처럼 생각하는 버릇이 있는데, 실제로 그런 일이 벌어지지는 않습니다. 헐리우드 식의 상상력은 그다지 바람직하지 않다는 것입니다. 


좀더 객관적이고 추상적으로 접근해야 합니다. 닉 보스트롬은 지능을 최적화 과정이라고 주장합니다. 어떤 목표를 실현하기 위해 가용자원을 효과적으로 사용하는데 모든 것을 쏟아부을 것이라는 의미입니다. 이들의 목표가 인류가 가치있다고 생각하는 목표와는 다를 가능성이 많겠죠? 그는 여기에서 재미있는 비유를 듭니다.


인공지능에게 인간을 웃게 하라는 목표를 주었다고 가정하면, 인공지능이 인간의 아래에 있을 때에는 이용자를 웃게 하는 우리가 생각하는 방식의 작업을 주로 하면서 많은 사람들을 웃기려고 시도할 것입니다. 그런데, 초지능을 달성하면 목표를 달성하기 위해 아주 효율적인 방법으로 전 세계의 주도권을 확보하고 전극을 사람 얼굴근육에 고정해서 지속적인 웃음을 유발하기 위한 작업을 진행할지도 모릅니다. 그리고, 어려운 수학문제를 풀라는 목표에 대해 최고의 효율을 위해서 이 지구를 거대한 컴퓨터로 변화시키는 작업을 진행할 지도 모른다는 것이 그의 주장입니다.


그의 주장은 우리가 인공지능을 우습게 보고, 이들을 통제할 수 있다는 환상에 빠지지 말라는 경고입니다. 그래서 그는 인류의 가치를 공유하는 인공지능의 탄생을 위해 노력해야 한다고 주장합니다. 단순히 문제를 푸는 인공지능이 아니라, 우리의 가치를 배우고 동기부여 시스템이 우리의 가치 혹은 행동을 추구하는 방향으로 설계해야 한다는 것이죠. 


이를 위해서는 다양한 연구가 필요할 것입니다. 되려 초인공지능을 피할 것이 아니라 어떻게 이렇게 우호적인 초인공지능을 먼저 탄생시킬 것인가를 고민해야 될지도 모르겠습니다. 그의 강연을 한번 들어보시죠.





저작자 표시 비영리
신고
크리에이티브 커먼즈 라이선스
Creative Commons License

WRITTEN BY
하이컨셉
미래는 하이컨셉, 하이터치의 세계라고 합니다. 너무 메마르고 딱딱한 이야기보다는 글로벌 시대에 어울리는 세계 각국의 이야기, 그리고 의학과 과학을 포함한 미래에 대한 이야기의 세계로 여러분을 초대합니다.

받은 트랙백이 없고 ,