[파이널 인벤션] 인공지능(AI)…대재앙이 될 ‘1% 불확실성’에 대비하라

[정지훈의 미래세계](8) ‘인공지능’ 제어할 것인가, 지배당할 것인가…대재앙이 될 ‘1% 불확실성’에 대비하라

경향신문 2016.08.26 정지훈 경희사이버대학교 IT디자인융합학부 교수

http://news.khan.co.kr/kh_news/khan_art_view.html?artid=201608262046005&code=210100

AI, 인류 최후의 발명품 될까

인공지능 발전이 워낙 눈부시다보니 최근 들어 약인공지능(ANI)을 넘어서 인간 수준의 지능을 가진 강인공지능(AGI)이나 인간을 훨씬 뛰어넘는 초인공지능(ASI)이 세상을 지배할지도 모른다는 우려도 나타나고 있다. 사진은 천재과학자의 두뇌와 컴퓨터가 결합된 초지능 슈퍼컴퓨터 ‘트랜센던스’의 탄생을 다룬 영화 <트랜센던스>의 한 장면.

이세돌 9단과 알파고 사이의 역사적인 바둑대전을 계기로 인공지능이 단순한 학술연구 수준을 넘어서 우리 사회 전반에 큰 영향을 줄 수 있다는 생각이 널리 퍼지고 있다. 특히 알파고를 만든 구글의 딥마인드를 비롯해 IBM, 페이스북, 마이크로소프트와 중국의 바이두 등과 같은 내로라하는 글로벌 IT 기업들은 수년 전부터 인공지능을 가장 중요한 미래산업으로 생각하고 회사의 역량을 집중하고 있다. 그런 노력의 결실들이 최근들어 뚜렷하게 나타나고 있다.

인공지능이 인간의 실생활 구석구석으로 파고들 수 있는 준비는 사실상 끝났다고 볼 수 있다. 알파고와 같은 특화된 서비스뿐만 아니라, 구글이나 페이스북 등에서 제공하는 공개된 소프트웨어를 이용하면 초보 프로그래머도 간단히 자신들의 인공지능 프로그래밍을 시작할 수 있을 정도로 인공지능 기술 개발이 굉장히 쉬워졌다. 이렇게 되면 마치 증기기관이 도입되면서 농경시대에서 산업시대로 들어가는 산업혁명이 일어났듯이 인공지능의 일상화와 함께 기존의 IT 및 인터넷 인프라가 결합해 새로운 제4차 산업혁명 이 일어날 것이라고들 전망하고 있다.

<중략>이미지

필자는 이런 변화가 크게 나타나고 있다는 것을 직접 투자하고 자문하는 인공지능 관련 기업의 연구성과를 통해 실감하고 있다. 물론 이런 인공지능은 특정한 목적의 작업을 수행하는 것으로 흔히 약인공지능(ANI, Artificial Narrow Intelligence)이라고 부른다. 최근 인공지능의 성과가 눈부시다보니 약인공지능을 넘어서 인간 수준의 지능을 가지고 다양한 문제를 풀어낼 수 있는 강인공지능(AGI, Artificial General Intelligence)이나 인간을 훨씬 뛰어넘는 초인공지능(ASI, Artificial Super Intelligence)에 대한 우려도 나오고 있다. 과거에는 기우에 불과하다는 생각들이 우세했지만, 이제는 그냥 쉽게 넘겨 버리기 어렵다는 주장이 힘을 얻고 있다. 이와 관련해 <파이널 인벤션>이라는 책을 통해 세계적인 주목을 받은 제임스 배럿(James Barrat)은 세상을 제어하는 힘이 우리가 도달할 수 없는, 강력하고 예측불가능한, 높은 지능에 도달한 기계에 넘어갈 수도 있음을 이야기했다. 그의 주장을 흘려넘기기 어려운 이유는 만에 하나 나타날 수 있는 초인공지능의 파괴력 때문이다.

이 대목에서 우리가 흔히 말하는 경제성이나 효율 중심의 사고가 아니라, 완전히 다르게 생각해야 하는 ‘정상 사고(normal accidents)’라는 개념을 알아둘 필요가 있다. ‘정상 사고’는 조직이론가인 찰스 페로(Charles Perrow)가 그의 저서를 통해 제시한 것으로 간혹 발생하는 대재앙을 포함한 사고들이 복잡한 인프라 구조를 가진 시스템의 ‘정상적’인 특징이라고 설명한다. 이런 시스템들은 완전히 이해하기 불가능한 부분이 많고, 각각의 분리된 문제들이 개별적으로는 전체적인 시스템에 큰 문제를 일으키지 않는데, 이들이 합쳐졌을 때 전체 시스템에 재앙을 일으킨다. 이런 것들은 사실상 예측이 불가능하다.

대표적인 사례가 1979년 3월28일 미국에서 발생한 원전 사고인 ‘스리마일 아일랜드 재앙’이다.

<중략>

약인공지능의 경우에도 이와 유사한 사건이 나타난 적이 있다.

<중략>

개인적으로는 제임스 배럿과 같은 시각이 지나치게 극단적이고, 비관적이라고 생각한다. 그렇지만 다른 한편으로 인공지능에 대해 지나치게 장밋빛 환상을 가지거나, 인공지능의 한계만을 부각시키려는 사람들도 ‘가능성’에 대해 회피만 하는 것이 능사는 아니라는 생각이다. 벤 괴첼은 이렇게 말했다.

“나는 미래에 거대하고 축소불가능한 불확실성이 있음을 말하고 싶었습니다. 나의 딸과 아들들, 어머니가 일부 초인공지능에 의해 분자 형태로 재처리되어 죽는 것을 원치 않아요. 따라서 어떻게 윤리적인 강인공지능을 만들 것인지 생각하는 것은 중요하며 이를 위해 강인공지능 시스템에 대한 실험을 계속해야 합니다.”

두렵다고 뒷전에 물러나 있으면 예측불가능한 위험이 닥쳤을 때 이를 대비하기 어렵다. 그렇다면 강인공지능이나 초인공지능에 대한 가능성을 인정하고 보다 적극적으로 뛰어드는 편이 낫지 않을까? 물론 이에 대한 반론도 있다.

이번 강인공지능 학회도 예외는 아니었다. 수학적 모델을 이용해 명확한 강인공지능 구현을 목표로 하는 이레이 오즈쿠랄(Eray Ozkural)은 코넬 대학 제임스 밥콕(James Babcock)의 강인공지능에게 죽음을 인지시키고 사멸하는 연구 발표에 대해 “어떻게 일어나지도 않을 그런 바보 같은 주제를 연구할 수 있느냐”고 반박하며 “인간들이 좀 더 똑똑해지면 돌아와야겠다”는 말을 남긴 채 학회장을 박차고 나가버렸다.

어쩌면 오즈쿠랄의 말대로 제임스 밥콕과 동료들의 연구가 바보 같은 것일지 모른다. 하지만 누군가는 걱정하고 대비해야 하지 않을까? 필자도 인간의 지능, 감정과 함께 기본적인 윤리의식을 갖춘 로봇용 인공 윤리 에이전트(Artificial Moral Agent)를 개발하는 연구에 자문을 하고 있다. 일부에선 이런 연구가 어리석고, 왜 하는지 모르겠다고 생각할 수도 있다. 과연 인공지능은 인류 최후의 발명품이 될 것인가? 그 대답을 ‘아니요’로 만들지 여부도 결국 인간에게 달려 있다.

=================

[관련도서]

파이널 인벤션

- 인공지능, 인류 최후의 발명

제임스 배럿 지음 | 동아시아 펴냄 | 2016.08.17 출간

http://blog.daum.net/bstaebst/18296

 

[책소개]

 

인공지능, 인류에게 장밋빛 미래를 가져다 줄 것인가?

인공지능은 빠른 속도로 발전하고 있다. 대중들은 인공지능이 우리의 삶을 어떻게 바꿀 것인지 상품적, 경제적, 가치에만 집중하여 인공지능 이후의 장밋빛 삶을 이야기한다. 그러나 『파이널 인벤션-인공지능, 인류 최후의 발명』은 인공지능으로 인한 인류의 비극적 미래를 이야기한다. 2045년 ASI(초인공지능)이 실현될 것이며 이것이 인류를 멸망으로 이끈다는 것이다.

저자 제임스 배럿은 인공지능의 위험한 기술 개발이 대중과의 소통을 없이 전문가들의 욕구와 경쟁에 휩쓸려 있음을 지적한다. 아직 인공지능이 가져다 올 미래는 불확실하다. 그러나 극단적인 미래에 대한 충분한 논의와 이를 통제할 수 있는 장치가 필요하며 개발자들이 그 위험성을 외면하고 있다.

인공지능이 욕구를 가지면 어떻게 작동할까? 저자는 인공지능의 욕구를 통제하지 못하면 정복당할 것이라고 이야기한다. 온전한 인공지능은 스스로 끊임없이 발전하는 '바쁜 어린이'이며 '지능폭발'과 '특이점'을 지나고 나면 '가속화 보상의 법칙'에 따라 그 속도는 더욱 빨라질 것이다. 일반 인공지능을 지나 초인공지능인 ASI시대가 열리고 이는 사이버 범죄의 위험까지 도달하게 된다는 것이다. 근거 없는 미래의 희망보단 눈앞에 닥친 최신과학의 미래의 위험성을 인식하고 모든 가능성을 점쳐보아야한다. 이 책은 그러한 점에서 인류 미래에 대한 좋은 가이드라인이 되어 줄 것이다.

 

[저자소개]

저자 제임스 배럿 James Barrat은 내셔널 지오그래픽, 디스커버리, PBS 등 미국과 유럽의 여러 채널에서 다큐멘터리 필름 제작자로 일했다. 비과학적 사실을 과학적으로 증명하는 다큐멘터리를 다수 제작했다. 제임스 배럿은 이 책을 위해 2000년부터 레이 커즈와일, 로드니브룩스, SF 작가 아서 C. 클라크 등을 만났다. 10년간의 인터뷰와 탐사를 통해 『파이널 인벤션』을 펴냈고, 이 책은 미국, 일본, 스페인, 러시아 등 전 세계 각국의 언어로 번역 출간되었다. SNS와 강연, 다큐멘터리를 통해 인공지능 기술의 현재와 위험을 대중에게 알리는 일을 한다. http://www.jamesbarrat.com/

 

[역자소개]

역자 정지훈은 대한민국을 대표하는 미래전략가이자 IT전문가, 융합지식인이다. 현재 경희사이버대학 IT디자인융합학부 교수로 정부기관이나 여러 기업체에서 미래 트렌드와 전략에 관한 강연과 자문을 겸하고 있다. 한양대 의대를 졸업한 후 서울대 보건정책관리학 석사, 미국 남가주대학(USC)에서 의공학 박사학위를 취득했고, 명지병원 IT융합연구소장을 지냈다. 인공지능을 의학영상에 적용하는 연구를 진행하고 있으며, 현재 주목받는 인공지능 의학영상 스타트업인 루닛(Lunit)의 의학자문가이자 투자자로도 활동하고 있다. 인공지능의 활용도가 높아지는 미래 시대의 사회상을 전망한 에릭 브론욜프슨과 앤드루 맥아피의 『기계와의 경쟁』의 공동번역자이고, 여러 공저자들과 함께 인류의 미래와 관련한 다양한 통찰을 담은 『호모사피엔스 씨의 위험한 고민』을 비롯하여 『거의 모든 IT의 역사』, 『내 아이가 만날 미래』, 『무엇이 세상을 바꿀 것인가』 등 다수의 책을 저술하였다.