[파이널 인벤션] 인공지능과 인류 미래에 관한 최악의 시나리오

인공지능과 인류 미래에 관한 최악의 시나리오

연합뉴스 2016.08.18 김계연 기자

http://www.yonhapnews.co.kr/bulletin/2016/08/17/0200000000AKR20160817186900005.HTML?input=1195m

http://m.news.naver.com/read.nhn?mode=LSD&mid=sec&sid1=103&oid=001&aid=0008621950

 

신간 '파이널 인벤션'

 

올해 봄 이세돌 9단과 알파고의 대국이 남긴 값진 성과가 있다. 비록 일시적 관심에 그쳤더라도 '인류의 미래'라는 철학적 고민을 불러일으킨 것이다.

 

낙관론자들의 주장대로 알파고는 특정 분야에 한해 인간에게 유용한 작업을 하는 '약한 인공지능' 프로그램이다. 인공지능의 미래를 다룬 책 '파이널 인벤션'과 낙관론의 견해는 여기서 확연히 갈라진다. 현재 과학 수준으로는 자의식을 갖춘 '진짜' 인공지능 개발은 불가능에 가깝다는 게 낙관론이라면, 책의 저자인 제임스 배럿은 '시간문제'라고 말한다.

 

<중략>

 

저자가 말하는 인공지능과 인류의 앞날은 이렇다. 현재 개발 직전 단계까지 와있는 AGI(Artificial General Intelligence),즉 일반인공지능은 처음엔 인류에게 엄청난 혜택을 안긴다. 알파고 같은 약한 AI와는 달리 운전도 하고 언어를 사용하며 적응을 위해 환경을 바꿀 수도 있다. 전문가 수준의 컴퓨터가 잠도 자지 않고 암 치료나 기후변화를 연구한다면 인류에게 분명 이익이다.

 

문제는 다음 단계다. 인간보다 훨씬 똑똑한 존재인 ASI(Artificial Super Intelligence), 즉 초인공지능이 출현한다. 이미 자기인식·자기 개선 능력을 갖춘 인공지능의 자가발전을 막을 수는 없다. 인공지능은 효율·자기보존·자원획득·창의성 등 네 가지 원초적 욕구를 지닌다.

 

ASI는 인간과 세계를 공유하는 게 과연 이런 욕구를 충족하는데 적절한지 검토한다. 결과는 자명해 보인다. "욕구만 가진 로봇은 칭기즈칸이 되어 은하계의 자원을 장악하고, 경쟁자들의 생명을 갈취하며, 향후 수천 년간 위협이 될 만한 적들을 모두 파괴할 것이다." 인류 멸망의 시나리오다.

 

일단 AGI가 구축되면 미래는 예측불가능하고 위험해진다. 기술은 기하급수 곡선 형태로 성장한다. 저자가 인터뷰한 인공지능 전문가 몇몇은 2020년께, 90％ 정도는 21세기 안에 AGI가 출현할 것으로 내다봤다.

 

<중략>

 

상상력에 기반을 둔 시나리오처럼 보이지만 10여 년 동안 인공지능 전문가들을 인터뷰한 결과다. 저자는 사람들이 인공지능에 의한 인류 멸망을 공상과학으로 여기는 이유는 아직 실질적인 위협을 겪어본 적이 없기 때문이라고 지적한다. 그러나 핵무기나 에이즈 바이러스와 인공지능은 차원이 다르다. "이 재앙은 한 번 벌어지면 다시는 회복할 수 없을 가능성이 높다."

 

<중략>

 

책 내용을 우리말로 옮긴 정지훈 경희사이버대 교수는 "인공지능에 대해 지나치게 장밋빛 환상을 가지거나, 인공지능의 한계만을 부각하는 시각을 가진 사람들에게 다른 관점을 제시한다는 점에서 더 읽어볼 만한 책"이라고 말했다.

=========

[관련도서]

파이널 인벤션

- 인공지능, 인류 최후의 발명

제임스 배럿 지음 | 동아시아 펴냄 | 2016.08.17 출간

http://blog.daum.net/bstaebst/18296

 

[책소개]

 

인공지능, 인류에게 장밋빛 미래를 가져다 줄 것인가?

인공지능은 빠른 속도로 발전하고 있다. 대중들은 인공지능이 우리의 삶을 어떻게 바꿀 것인지 상품적, 경제적, 가치에만 집중하여 인공지능 이후의 장밋빛 삶을 이야기한다. 그러나 『파이널 인벤션-인공지능, 인류 최후의 발명』은 인공지능으로 인한 인류의 비극적 미래를 이야기한다. 2045년 ASI(초인공지능)이 실현될 것이며 이것이 인류를 멸망으로 이끈다는 것이다.

저자 제임스 배럿은 인공지능의 위험한 기술 개발이 대중과의 소통을 없이 전문가들의 욕구와 경쟁에 휩쓸려 있음을 지적한다. 아직 인공지능이 가져다 올 미래는 불확실하다. 그러나 극단적인 미래에 대한 충분한 논의와 이를 통제할 수 있는 장치가 필요하며 개발자들이 그 위험성을 외면하고 있다.

인공지능이 욕구를 가지면 어떻게 작동할까? 저자는 인공지능의 욕구를 통제하지 못하면 정복당할 것이라고 이야기한다. 온전한 인공지능은 스스로 끊임없이 발전하는 '바쁜 어린이'이며 '지능폭발'과 '특이점'을 지나고 나면 '가속화 보상의 법칙'에 따라 그 속도는 더욱 빨라질 것이다. 일반 인공지능을 지나 초인공지능인 ASI시대가 열리고 이는 사이버 범죄의 위험까지 도달하게 된다는 것이다. 근거 없는 미래의 희망보단 눈앞에 닥친 최신과학의 미래의 위험성을 인식하고 모든 가능성을 점쳐보아야한다. 이 책은 그러한 점에서 인류 미래에 대한 좋은 가이드라인이 되어 줄 것이다.