아이폰 4S의 Siri를 보면서 스페이스 오딧세이의 HAL 9000을 상상하는 것은 필자 만이 아닐 것이다. 비단 그렇게 똑똑한 인공지능이 아니더라도 우리는 이미 수많은 정보에 둘러싸인 세상에서 살고 있으며, 이런 정보에 장애가 생기면 큰 일이라도 난 것 같은 그런 행동양상을 보이고 있다. 이는 우리들이 정보와 알고리즘이 지배하는 세상으로 진입하고 있음을 보여주는 신호이다.

"스마트"라는 단어는 여기에 알고리즘이라는 녀석에게 조금은 더 힘을 실어주는 단어이다. 인터넷과 소셜, 그리고 모바일 기술은 기본적으로 수많은 사람들과 기기들로 하여금 과거와는 비교할 수 없는 네트워크에 대한 접근성을 선사하였고, 쉽게 접근이 이루어지기 때문에 그만큼 막대한 양의 데이터와 정보가 쏟아져 들어오고 있다. 이렇게 되면, 인간이 가지고 있는 인지의 한계 때문에 적절한 것을 걸러주는 어떤 "역할"이 필요하게 되고, "스마트"라는 이름을 가진 다양한 웹 서비스와 앱, 디바이스 등은 이런 역할을 자임하면서 많은 사람들을 자신들에게 의존하게 만들고 있다.

아마존의 경우에는 사람들이 어떤 책과 영화를 구매했고, 무엇을 검색했는지 등을 바탕으로 그 사람에게 맞는 책과 영화를 추천하고, 더 나아가서는 생활행태에 맞는 다양한 서비스를 제공하고 있다. 페이스북의 친구를 찾아주는 알고리즘을 보면 놀라울 지경이다. 이미지에 자신과 친구를 태그하고, 이런 다양한 행위를 데이터로 삼아서 최적의 것을 찾아주는 훌륭한 알고리즘을 가진 좋은 서비스들이 점점 많아지고 있다.

이와 관련하여 2011년 TEDGlobal 컨퍼런스에서 알고리즘 전문가인 Kevin Slavin의 강연을 보고 BBC에 실린 칼럼을 바탕으로 필자의 개인적인 생각을 엮어서 여러 가지 고민거리를 던져보고자 한다. 아래 임베딩한 비디오는 Kevin Slavin의 TED 강연영상이다.




그가 이야기한 다양한 예들 중에서 온라인 트레이딩 알고리즘이 점점 월스트릿을 지배하기 시작한 부분이 의미심장하다. 그는 이미 이들 알고리즘이 인간의 이해수준 바깥으로 벗어났고, 여기에 관여도 하기 어려우며, 심지어는 어떤 문제가 발생한 이후에는 그 원인이 무엇인지도 알 수 없었다는 이야기를 하였다. 즉, 뭔가 통제하기 어려운 어떤 것을 만들어냈다는 것이다. 우리가 만든 것임에는 분명하지만, 우리가 만든 것에 어떤 일이 일어나는지 정확히 알기 어려운 지경에 이르렀다는 것이 문제의 핵심이다.

이미 수학적인 알고리즘은 인간보다 똑똑해졌는지는 모르지만, 인간이 가지고 있는 인지능력은 없다. Kevin Slavin의 강의에서 등장한 아마존의 "The Making of a Fly" 라는 책은 누가 봐도 2360만 달러의 가치는 없다. 그러나, 우스꽝스러운 알고리즘이 어떤 인간도 관여되지 않은 가운데, 그런 황당한 가격을 만들어 놓은 것이다. 이것은 큰 문제가 아닐 수 없다. 언제부터인가 인간이 배제된 가운데, 세상의 가장 중요한 것들을 알고리즘이 쥐락펴락하기 시작한 것이다.

그렇지만, 이런 알고리즘이 우리의 인간의 생활에 관여하는 사례는 앞으로 점점 더 많아질 것이다. 어쩌면 우리의 문화적인 선호도도 이것에 의해 좌지우지 될지도 모른다. 넷플릭스와 같은 온라인 스트리밍 서비스를 통한 영화를 보거나, 교보문고에서 개인 맞춤형으로 추천하는 책을 읽고, 어떤 새로운 서비스가 등장하여 개인적으로 좋아할만한 콘서트를 추천하는 세상이 멀지 않았다. 실제로 영국의 Epagogix라는 회사에서는 대본과 구성, 등장하는 배우들과 위치 등의 다양한 요소들을 분석해서 어떤 영화가 히트할 것인지, 그리고 얼마나 돈을 벌어들일 것인지 예측하고 있다. 이를 이용해서 헐리우드 스튜디오에서는 어떤 영화를 제작할 것인지, 말 것인지를 결정하고 있는데, 이렇게 된다면 천편일률적인 영화들만 제작하게 되지 않을까? 물론 이런 부작용에 대한 대비도 할 것이고, 업그레이드를 하겠지만 결국 이런 복잡성의 한계에 부딛힌다면 재앙적인 결과가 나올 수도 있는 법이다.

이렇게 어떤 판단을 내리는 데 있어서 인간이 비판적인 사고를 하지 않고, 알고리즘이 시키는 데로 받아들이는 세상이 된다면 어떻게 될까? 아마도 니콜라스 카나 더 멀게는 소크라테스가 걱정을 했던, 인간이 기억을 아웃소싱함에 따라 인간의 뇌가 퇴화되는 상황보다 더 무서운 "판단력"을 아웃소싱하고 판단을 제대로 못하는 상황에 빠진다면 이는 정말로 매트릭스나 터미네이터에서 그려졌던 기계와 컴퓨터가 지배하는 세상이 도래한 것이 아닌가? Siri의 등장은 어쩌면 이렇게 기계에 의존적인 우리들의 변화에 불을 지르는 사건인지도 모른다. 아직은 여러 가지 한계가 있어 보이지만, 그냥 물어보고 답하고, 그런 가상인격이 시키거나 권하는데로 아무 생각없이 따르게 된다면 실제로 명시적으로 그에 대해 반발하고 있지 않을 뿐, 어쩌면 우리는 그들의 지배 하에 들어가 있는 것인지도 모른다.


참고자료:

When algorithms control the world

저작자 표시 비영리
신고

WRITTEN BY
하이컨셉
미래는 하이컨셉, 하이터치의 세계라고 합니다. 너무 메마르고 딱딱한 이야기보다는 글로벌 시대에 어울리는 세계 각국의 이야기, 그리고 의학과 과학을 포함한 미래에 대한 이야기의 세계로 여러분을 초대합니다.

받은 트랙백이 없고 ,