[파이널 인벤션] 제4차 산업혁명, ‘진화한 알파고’에 인류가 지배당한다

‘진화한 알파고’에 인류가 지배당한다

문화일보 2016.08.19 김인구 기자

http://www.munhwa.com/news/view.html?no=2016081901032539179001

 

 

인공지능(AI)은 인류의 미래를 밝혀줄 희망이 될까, 아니면 오히려 위협이 될까. AI의 미래에 대한 시각과 전망이 유토피아적 세계관과 디스토피아적 세계관으로 팽팽히 맞선 지는 오래됐다. AI가 특정 영역의 문제를 빠른 속도로 풀었을 때 사람들은 AI가 인류의 미래를 더욱 편안하고 풍요롭게 할 것이라고 믿다가도, 구글의 알파고가 이세돌 9단과의 바둑 대결에서 압승을 거뒀을 때는 AI로 인해 초래될 부작용에 적지 않은 우려를 나타냈다.

 

미래학자인 레이 커즈와일 구글 엔지니어링 이사는 “AI의 위험성에 대해 전혀 두려워할 필요가 없다”고 낙관하는 반면, 닉 보스트롬 옥스퍼드대 인류미래연구소장은 “AI가 인류를 뛰어넘을 것이고 이것이 가져올 위협에 미리 대비해야 한다”고 경고하고 있다.

 

전문가들의 견해조차 엇갈리는 가운데 책이 초점을 맞춘 건 AI가 가져올 암울하면서도 비관적인 미래다. 인류가 스스로 발전하는 AI의 욕구를 바로 알고 효과적으로 통제하지 못한다면 거꾸로 정복당할 것이라는 섬뜩한 주장이다. 심지어 2045년 기존의 AI를 능가하는 초인공지능(ASI)이 실현될 것이며 ASI가 인류를 멸망으로 이끌 수 있다고 우려한다.

 

도저히 있어서도 안 되고, 받아들일 수도 없는 이야기다. 설마 그렇게까지 될까 하는 의구심마저 드는 게 사실이다. 인류가 스스로 망칠 정도로 어리석지는 않으며, 최소한의 존엄성을 발휘할 것이라는 주장을 믿고 싶다. 하지만 책이 설득력을 갖는 건 낙관론 뒤에 숨어 있는 논리의 허점을 신랄하게 지적하기 때문이다.

 

가장 대표적인 게 ASI를 바라보는 관점의 차이와 낙관론의 근거가 되는 ‘로봇 3원칙’이다. ASI는 인간과 전혀 다르다.

 

<중략>

 

AI는 사람처럼 ‘친근함’ 같은 것은 대물림하지 않는다. 사람과 실험실 동물과의 관계를 생각해보면 이해가 쉽다. 사람과 쥐의 DNA는 90% 정도 일치한다고 하지만 사람이 농사지을 때 쥐에게 서식지를 없애는 것에 대해 상의하지는 않는다. 스포츠 부상과 관련한 연구를 위해 뇌에 충격을 주기 전에 원숭이에게 의견을 묻는 법도 없다. 사람이 쥐와 원숭이를 특별히 싫어하는 것은 아니지만 사람은 다른 목적으로 이것들을 잔인하게 다룬다.

 

ASI와 인간의 관계도 그럴 수 있다. ASI가 인간을 미워하고 싫어하기 때문에 인류를 멸망시키는 게 아니다. 이건 소설적 의인화가 불러일으키는 오해다.

 

<중략>

 

하지만 아무리 디스토피아적 세계관이 눈에 거슬린다고 해도 AI에 관한 몇 가지 논쟁은 결코 소홀히 다뤄져서는 안 된다는 게 저자의 생각이다.

 

우선은 특이점(Singularity) 논쟁이다. 특이점이란 AI가 비약적으로 발전해 인간의 지능을 뛰어넘는 기점을 말한다. 기술의 빠른 변화, 사회적 충격으로 인류의 삶이 크게 변하는 시기다. 증기기관으로 인한 사회 변화가 2차 산업혁명이고 컴퓨터·인터넷의 개발과 사용이 3차 산업혁명이라면 AI는 인류의 모습을 또 한 번 바꿀 4차 산업혁명이라고 할 수 있다. 저자는 바로 이 특이점을 ‘돌아올 수 없는 지점’이라고 부르며 현재 인류가 특이점을 어떻게 지나고 있는지 분석한다.

 

AI의 네트워크화도 주목해야 한다. 지금까지 AI는 네트워크에 연결돼 있지 않았다. 컴퓨터라는 ‘상자’에 갇혀 있었다. 그러나 AI가 상자를 탈출한다면 컴퓨터에 기반을 둔 모든 시스템을 장악할 수 있다. 악성 코드는 상자를 탈출한 AI의 부정적 측면을 보여주는 사례다.

 

..이하전략

=========

[관련도서]

파이널 인벤션

- 인공지능, 인류 최후의 발명

제임스 배럿 지음 | 동아시아 펴냄 | 2016.08.17 출간

http://blog.daum.net/bstaebst/18296

 

[책소개]

 

인공지능, 인류에게 장밋빛 미래를 가져다 줄 것인가?

인공지능은 빠른 속도로 발전하고 있다. 대중들은 인공지능이 우리의 삶을 어떻게 바꿀 것인지 상품적, 경제적, 가치에만 집중하여 인공지능 이후의 장밋빛 삶을 이야기한다. 그러나 『파이널 인벤션-인공지능, 인류 최후의 발명』은 인공지능으로 인한 인류의 비극적 미래를 이야기한다. 2045년 ASI(초인공지능)이 실현될 것이며 이것이 인류를 멸망으로 이끈다는 것이다.

저자 제임스 배럿은 인공지능의 위험한 기술 개발이 대중과의 소통을 없이 전문가들의 욕구와 경쟁에 휩쓸려 있음을 지적한다. 아직 인공지능이 가져다 올 미래는 불확실하다. 그러나 극단적인 미래에 대한 충분한 논의와 이를 통제할 수 있는 장치가 필요하며 개발자들이 그 위험성을 외면하고 있다.

인공지능이 욕구를 가지면 어떻게 작동할까? 저자는 인공지능의 욕구를 통제하지 못하면 정복당할 것이라고 이야기한다. 온전한 인공지능은 스스로 끊임없이 발전하는 '바쁜 어린이'이며 '지능폭발'과 '특이점'을 지나고 나면 '가속화 보상의 법칙'에 따라 그 속도는 더욱 빨라질 것이다. 일반 인공지능을 지나 초인공지능인 ASI시대가 열리고 이는 사이버 범죄의 위험까지 도달하게 된다는 것이다. 근거 없는 미래의 희망보단 눈앞에 닥친 최신과학의 미래의 위험성을 인식하고 모든 가능성을 점쳐보아야한다. 이 책은 그러한 점에서 인류 미래에 대한 좋은 가이드라인이 되어 줄 것이다.