김대식 KAIST 교수 “인공지능 악용되면 ‘범죄 기계’ 탄생 가능”

뇌 과학자 김대식 교수 “인공지능 악용되면 ‘범죄 기계’ 탄생 가능”

국민일보 2016.04.06(수) 심희정 기자

http://news.kmib.co.kr/article/view.asp?arcid=0923488895&code=11110000&cp=nv

뇌 과학자 김대식 교수 ‘알파고 시대의 인류와 범죄’ 강연

 

인공지능 시대의 범죄는 어떤 모습일까. 뇌 과학자 김대식 카이스트 교수는 인공지능으로 인한 기술 발전이 산업뿐 아니라 범죄의 영역에도 영향을 미칠 것으로 예측했다. 기술의 악용으로 유토피아가 아닌 디스토피아가 펼쳐질 수 있다는 것이다.

 

김 교수는 6일 서울동부지검에서 ‘알파고 시대의 인류와 범죄’ 를 주제로 강연했다.

 

그는 브레인 리딩(brain reading)으로 뇌 해킹이 가능한 시대가 올 것이라고 예측했다. 그는 “뇌에서 얻은 패턴으로 그 사람이 무엇을 보고 있는지 추론할 수 있는 기술이 이미 나와 있다”며 “뇌파를 측정하지 않고 미세혈관을 관측하는 것만으로도 뇌가 어떤 반응을 일으키고 있는지 알 수 있다”고 말했다. 뇌파만 보고 사람의 생각을 읽을 수 있는 날이 머지않았다는 얘기다.

 

조작된 증거를 구분하기 더 어려워질 것이란 전망도 내놨다. 지금까지 인간의 유전자는 가장 확실한 증거로 여겨졌는데, ‘유전자 편집’으로 조작이 가능해지면 증거로서의 가치가 낮아진다는 것이다.

<중략>

 

알파고 같은 인공지능이 바둑이 아닌 범죄를 학습한다면 ‘범죄 기계’가 탄생할 수 있다고도 했다.

<중략>

 

인공지능 기술로 범죄나 테러를 예측할 수 있는 긍정적인 측면도 강조됐다. 김 교수는 “범죄나 대형 테러 등을 예측하는 기술은 세계 각국에서 관심을 가지고 있다”며 “테러 등을 예측 가능한 수준까지 관련 기술이 발전한 것으로 알고 있다”고 전했다. 이어 “‘강한’ 인공지능은 인간의 명령을 거절할 가능성도 있다”며 “아직은 아니겠지만 인공지능에 대한 규제를 논의할 때가 올 것”이라고 덧붙였다. 

=============

[추천도서]

김대식의 인간 vs 기계

- 인공지능이란 무엇인가

 

김대식 지음 | 동아시아 펴냄 | 2016.04.12 출간

http://blog.daum.net/bstaebst/17346

 

[책소개]

 

『김대식의 인간 vs 기계』은 김대식 교수의 깊은 철학적 사유가 돋보이는 책으로, 인공지능에 대해 다룬다. 다가오는 미래에 대한 예측과 전망, 그리고 인간과 사회를 향한 엄중한 경고를 보낸다. 인공지능 연구자이자 뇌과학자인 김대식 교수가 말하는 ‘인공지능’의 ‘현재’와 ‘미래’는 과연 어떠할 것인가.