[SDF 2016] 스튜어트 러셀 "AI, 외계문명이 지구에 침입이나 마찬가지"

[SDF 2016] 인공지능 석학 러셀 "AI, 외계문명 침입이나 마찬가지"

이코노믹리뷰 2016.05.19(목) 조재성 기자

http://m.econovill.com/news/articleView.html?idxno=289586

 

"리스크 미리 대비해 AI로 인간 가치 실현해야"

<중략>이미지

 

인간을 뛰어넘는 인공지능의 개발은 외계문명이 지구에 도착하는 것만큼의 파장을 불러올 것이라는 전망이 나왔다. 다만 긍정적인 미래 모습을 미리 그려 대비하면 비관적 미래를 피할 수 있다는 설명이다.

 

SBS가 주최하는 '서울디지털포럼(SDF) 2016'가 19일 ‘관계의 진화-함께 만드는 공동체’를 주제로 개막했다. 첫 번째 메인세션인 ‘인간을 위한 AI’에는 인공지능 분야의 대표 교과서 '인공지능: 현대적 접근방식'의 저자 스튜어트 러셀 UC버클리대학 교수가 기조연사로 나섰다.

 

러셀 교수는 먼저 이세돌 9단과 알파고의 대국을 상기시키면서 인공지능의 발전 속도가 기대보다 훨씬 빠르다는 점을 지적했다. “알파고의 승리가 흥미로운 이유는 불과 1년 전에만 해도 이런 결과나 나오려면 향후 10년은 걸릴 것으로 예상했는데 실제로는 1년 안에 실현이 됐다”며 “인공지능 기술의 발전 속도가 매우 빠르다. 인공지능과 로봇 공학은 지금 혁명 직전에 있다고 생각한다”고 말했다.

 

그는 인공지능이 인류의 삶에 엄청난 영향을 미칠 것으로 내다봤다. “인간 레벨의 인공지능이 등장한다는 것은 지구에 외계 문명이 도착하는 것이나 마찬가지”라며 “그들이 지구에 온다면 큰 변화가 있을 것이며 인류 역사는 바뀌게 될 것”이라고 내다봤다.

 

이어 “우리가 인공지능을 직접 통제하지 못하게 되면서 기계에게 설득을 당하는 일까지 벌어질 수 있다”며 “우리 사회는 완전히 새로운 시스템으로 접어들 것이며 사회와 경제를 이에 맞춰 새로 만들어야 한다는 어려운 도전 과제가 대두되고 있다”고 말했다.

 

<중략>

 

이어 “인공지능의 목표는 인간 가치 실현에 있다”고 말했다. 그렇다면 인공지능은 인간 가치를 어떻게 배울 수 있을까? 역강화학습을 통해 가능하다는 것이 러셀 교수의 설명이다. 인공지능이 인간의 특정 행동을 관찰하면서 그 행동의 근간이 되는 가치 시스템이 무엇인지 파악할 수 있게 해야 한다는 것이다.

 

러셀 교수는 “초능력적인 인공지능이 발전된 이후를 우리가 정확히 예측하기는 어렵다”고 했다. 다만 “제대로 준비만 한다면 인류에게 어느 정도 선택권이 있을 것”이라며 “우리가 자부심을 느낄만한 미래를 준비해야만 한다”고 호소했다.

 

..이하 전략