'강한 인공지능(AI)’이 등장하는 순간, 인류는 비극적인 종말을 맞게 된다

"서구 과학자 60년간 AI 헛발질, 우리가 따라잡을 수 있다"

중앙일보 2016.04.07(목) 이지영 기자

http://mnews.joins.com/article/19850705

 

인간과 인공지능(AI)이 함께 살아가는 ‘포스트 휴먼시대’가 열리고 있다. AI 분야 저작으로 유명한 국내외 석학들의 인터뷰를 싣는다. AI시대의 의미를 두루 짚는다. <편집자주>

 

김대식 교수는 “판도라의 상자는 열렸다”고 했다. “비정량화된 정보를 학습하는 ‘딥러닝’ 기능이 구축됐으니, 인공지능 발전은 시간문제”라는 것이다. 또 “인공지능 시대의 미래가 유토피아일지, 디스토피아일지 아무도 확신할 수 없다”면서 “미래는 정해진 것이 아니라 만들어 가는 것”이라고 했다. [사진 권혁재 사진전문기자]

 

뇌과학 전문가 김대식(47) 카이스트 교수는 “우리가 원하든 원하지 않든 인공지능의 시대는 시작됐다”며 “우리에겐 행운”이라는 말을 여러 차례 했다. “인공지능 개발에 나선 서구의 과학자들이 60년 가까이 ‘헛발질’을 해 우리나라가 따라갈 시간을 벌어줬다는 것이 첫번째 역사적 행운이고, 최근 알파고와의 대결을 통해 우리나라 국민들이 인공지능이란 새 기술에 눈을 떴다는 것이 두번째 행운”이란 설명이다. 김 교수는 『이상한 나라의 뇌과학』 『김대식의 빅퀘스천』 등을 통해 뇌의 작동 원리와 인간 삶의 문제를 연결시켜 풀어온 과학자다. 인공지능의 현재와 미래를 짚은 새 책 『인간 vs 기계』 출간을 앞둔 그를 만났다.

 

Q)서구 과학자들이 ‘헛발질’을 했다는 의미는.

 

<중략>

 

 

'포스트 휴먼시대' 진단 ① 김대식 카이스트 교수

세상은 기호·논리로 풀 수 있다는

철학적 믿음에 묶여 ‘직관’ 간과

 

기호로 표현 못하는 정보 학습 가능

‘딥러닝’시스템 2012년에야 구축

 

김 교수는 ‘맹점’의 출발을 서양 철학에서 찾았다. “존재는 하나”라는 주장으로 세상 만물이 하나의 법칙을 따른다는 사상을 전한 철학자 파르메니데스, “자연은 숨은 걸 좋아한다”라고 말해 과학적인 탐구욕을 자극한 헤라클레이토스, 세상을 이해하는 도구로 ‘논리’를 강조한 아리스토텔레스 등의 영향이다.

 

Q)고대 그리스 철학이 인공지능 개발 과정에 어떤 영향을 미쳤나.

 

A)“2500년 전 아리스토텔레스의 믿음은 두 가지였다. 첫째는 ‘세상의 모든 것은 기호로 표현할 수 있다’이고, 둘째는 ‘기호와 기호와의 관계만 논리적으로 잘 연결하면 진실을 파악할 수 있다’였다. 첫번째 믿음이 문제였다. 1950년대부터 서구 과학자들은 컴퓨터에 정량화된 정보를 집어넣어 인공지능을 만드는 방법을 시도했다. 수학 문제는 빠르게 해결됐다. 처음엔 ‘아! 아리스토텔레스 말이 맞았구나’ 생각했다. 하지만 컴퓨터는 걷기나 얼굴 인식 같이 ‘인간에게 쉬운 일’을 해결 못했다. 이 세상 정보 중 언어를 비롯한 기호로 표현 가능한 정보는 10% 정도에 불과하다는 것을 간과했기 때문이다.”

 

Q)기호로 표현 못하는 90% 정보는 무엇인가.

 

A)“우리가 ‘직관’이라고 말하는 요소다. 외계인이 우리에게 와서 ‘팔을 어떻게 드냐’고 물었다고 치자. ‘그냥 들면 된다’고 대답할 수밖에 없다. 실제 일어나는 일은 ‘신경세포 몇 번 몇 번은 어떻게 움직이고 몇 번 세포는 쉬고…’겠지만, 이런 식의 답은 아무도 못한다. 하늘에서 떨어진 게 아니라 분명히 학습과 경험을 통해 만들어진 정보인데도 기호로 맵핑이 안되는 지식을 우리는 직관이라고 한다. 인간도 직관은 책이나 말로 배울 수 없다. 기계도 마찬가지다. 기호로 표현 못하는 비정량화된 정보를 학습하는 과정이 기계에도 필요하다는 걸 깨달으면서 인공지능 개발이 본격적으로 진행됐다. 인간이 일일이 정보와 판단 기준을 입력하지 않아도, 기계가 스스로 정보를 모으고 추상화시켜 학습하는 ‘딥러닝’이 인공지능의 핵심 원리다.”

 

Q)기계는 어떤 과정을 거쳐 학습하나.

 

<중략>

 

Q)인간처럼 자아를 갖고 독립적인 사고를 하는 인공지능도 가능할까.

 

A)“그런 ‘강한 인공지능’이 등장하는 순간, 인류를 비극적인 종말을 맞게 된다. 인공지능은 인간을 능가하는 지적 능력을 갖고 있으면서 인간이 안고 있는 문제는 갖지 않고 있다. 잊어버리지 않고, 밥도 안 먹고, 죽지도 않는다. 인공지능이 독립성을 갖게 된다면 인간이 콘트롤할 수 없다. 인문학자들은 인간의 정신과 자아는 인간만 가질 수 있다고 말한다. 나도 그랬으면 좋겠다. 하지만 정신과 자아를 만드는 방법을 인간은 모르지만, 인공지능이 스스로 찾아낼지는 알 수 없는 일이다.”

========

[추천도서]

 

■김대식의 인간 vs 기계

- 인공지능이란 무엇인가

 

 김대식 지음 | 동아시아 펴냄 | 2016.04.12 출간

http://blog.daum.net/bstaebst/17346

 

[책소개]

 

『김대식의 인간 vs 기계』은 김대식 교수의 깊은 철학적 사유가 돋보이는 책으로, 인공지능에 대해 다룬다. 다가오는 미래에 대한 예측과 전망, 그리고 인간과 사회를 향한 엄중한 경고를 보낸다. 인공지능 연구자이자 뇌과학자인 김대식 교수가 말하는 ‘인공지능’의 ‘현재’와 ‘미래’는 과연 어떠할 것인가.

 

■사피엔스

- 유인원에서 사이보그까지 인간 역사의 대담하고 위대한 질문  

유발 하라리 지음 | 김영사 펴냄 | 2015.11.24 출간

http://blog.daum.net/bstaebst/17261

 

[책소개]

 

이제 우리는 무엇을 인간이라고 할 것인가

 

지금으로부터 10만 년 전, 지구에는 호모 사피엔스뿐만 아니라 네안데르탈인, 호모 에렉투스 등 최소 6종의 인간 종이 살아 있었다. 이후 호모 사피엔스 종만이 유일한 승자로 지구상에 살아남게 되었고, 이제 그들은 신의 영역까지 넘보고 있다. 『사피엔스』는 이처럼 중요한 순간을 살고 있는 우리에게 다가올 미래에 대해 어떤 전망이 있는지, 지금이 전망을 가져야 할 때라고 말한다.

 

저자는 “앞으로 몇십 년 지나지 않아, 유전공학과 생명공학 기술 덕분에 인간의 생리기능, 면역계, 수명뿐 아니라 지적, 정서적 능력까지 크게 변화시킬 수 있게 될 것”이라고 예측한다. 하지만 이런 기술 발달은 모두에게 공평한 것은 아니다. 부자들은 영원히 살고, 가난한 사람들은 죽어야 하는 세상이 곧 도래할 것이라는 말이다.

 

하지만 저자가 우울한 이야기만 풀어놓는 것은 아니다. 그는 행복에 대한 연구를 시작한 것은 얼마 되지 않았고, 행복에 대한 가능성 역시 더 많이 열려 있다고 말하며, 일말의 여지를 남긴다. 이제, 인류가 멸종할 것인지, 더 나은 진보를 이룩할 것인지, 어떤 것에 방점을 두고 어떤 미래를 만들 것인지에 대해 함께 고민해야 할 때이다.