미래의 직업과 보편적 기본소득, 인공지능 등 기하급수적 기술의 윤리적 문제

일자리2030, 미래의 직업, 보편적 기본소득, 인공지능의 윤리적 위험에 관하여, 닐 야콥스타인과의 인터뷰

인데일리 2016.09.12 박영숙 세계미래회의 한국대표

http://www.indaily.co.kr/client/news/newsView.asp?nBcate=F1002&nMcate=M1003&nScate=1&nIdx=31638&cpage=1&nType=1

 

싱귤래리티 허브의 ‘일자리의 미래 시리즈’의 하나로 나는 인공지능과 로보틱스 부문의 공동의장을 맡고 있는 닐 야콥스타인(Neil Jacobstein)과 이야기할 수 있는 기회를 얻었다. 닐은 포춘 100 기업들을 위한 인공지능 애플리케이션을 만들고 있으며 지난 25년 동안 정부를 고객으로 삼아 일해 왔다. 닐은 환경과학에서 나노기술, 분자 제조에 이르기까지 여러 학문 분야에 깊은 조예를 가지고 있다. 닐은 또한 많은 시간을 기하급수적 기술의 윤리적 문제들을 연구해왔다.

 

Q) 머신러닝과 로봇은 많은 부를 창출하고 있다. 하지만 이들은 수많은 일자리를 대체하게 될 것이다. 우리는 산업혁명 과정에서 수많은 유형의 직업들이 사라지는 것을 목격했다. 그러나 이전에는 없었던 직업들이 생겨나는 것도 보았다. 지금의 기술적 파괴를 가져오는 새로운 파도를 맞아 사라지는 일자리의 비율과 새로 생겨나는 일자리의 비율이 균형을 이룰 것이라고 생각하는가?

 

<중략>

 

Q) 기업 또는 정부와 같은 거대한 조직들은 대부분 상황을 앞서서 주도하기보다는 상황이 일어난 후에 반응을 보이는 것으로 유명하다. (또는 악명이 높다) 우리가 사는 세계 사회가 다가오는 변화 또는 거대한 파도에 맞서 충분히 준비할 수 있을까? 파괴적인 변화를 최소화하기 위한 주된 대책은 무엇인가?

 

A) 역사적으로 사회는 변화되는 상황을 앞서서 준비하지 못했다. 사고가 나기 전에 정책을 준비한 적은 거의 없다. 나는 다가오는 10년 이내에 인간의 본성이 변하리라고는 생각하지 않는다. 따라서 수많은 사람들은 대체되거나 충분히 활용되지 않을 것이며 사람들은 이에 분개하게 될 것이다.

 

가장 큰 장애물은 심리적인 것으로, 변화에 필요한 사회적 태도이다. 대부분의 사람들은 현재 사람은 살아가기 위해서는 일해야 한다고 믿고 있으며, 일하지 않는 것에 대해 부끄럽게 여기거나 명예스럽지 못하다고 생각한다. 우리는 사회복지와 사회 안전망 프로그램을 이용하는 사람들을 부정적으로 여기는 경향이 있다. 우리는 모든 사람들이 교육과 보건, 주거, 사회적 서비스를 쉽게 조달할 수 있는 풍요의 세계로 향하고 있다.

 

Q) 보편적 기본소득에 대한 수많은 토론이 이루어지고 있다. 이러한 아이디어가 이루어질 것이라고 생각하는가?

 

A) 물론이다. 결국에는 기본 소득이 기초적이고 사회를 위해 중요하다고 여겨지게 될 것이다. 거저 주는 것이라고 생각할 필요는 없다. 우리는 사람들이 학교에 가게 하고 환경을 보호하며 어린이와 노인들을 돌보는 비용을 지불할 수 있다. 과거에는 사회가 이를 지불하기에는 너무 비용이 많이 드는 것이었다. 우리는 사람들이 수많은 사회적 문제들을 이겨내고 더 높은 삶의 질을 살아가게 할 능력이 있다.

 

Q) 1970년대부터 일부 소규모 실험과 연구가 계속 있었다. 보편적 기본소득이 대규모로 실행되는 것은 언제가 될까?

 

A) 진보적인 국가에서는 보편적 기본소득이 주류 의견이 되어 대규모로 실행되는데 5~10년 정도 걸릴 것이다. 미국은 최초의 국가가 되지는 않을 것이다. 그러나 적어도 기본최소소득은 민주당과 공화당 모두 받아들여질 수 있는 토론의 주제가 될 것이다. 이러한 주제가 주된 토론에 들어가는 것만 해도 앞으로 나아가기 위한 큰 발걸음이 된다.

 

한때, 아동노동에 관한 법률을 두고도 사회보장에 관한 논쟁이 있었다. 사람들은 아동 노동력을 고용하는 것이 필수적인 일이라고 생각했다. 주당 40시간 노동은 큰 변화였다. 산업안전과 보건, 환경보호도 마찬가지였다. 더 오래 전으로 가보면, 미국 등의 일부 국가의 사람들은 노예 없이는 살아갈 수 없다고 생각했다. 이러한 제도와 태도의 변화는 힘겹게 이어져 왔다.

 

Q) 다양한 형태의 인공지능과 로봇이 일터에 일반적인 것이 될 것이 분명하다. 우리 사회가 이러한 변화에 적응하고 사람들이 새로 직업을 가지기 위한 기술을 갖추게 될 수 있을 것이라고 생각하는가?

 

<중략>

 

Q) 21세기의 가장 중요한 기술은 학습 능력과 학습한 모든 것을 재학습할 수 있는 능력이라고 한다. 미래를 준비하기 위해 가장 중요한 기술은 무엇이라고 생각하는가?

 

A) 나는 가장 중요한 기술은 올바른 질문을 할 수 있는 능력이라고 생각한다. 비판적이고 창조적인 사고 능력은 언제라도 쓸모가 있을 것이다. 이것은 비즈니스, 제조, 조직, 자신들을 개선하기 위한 기초가 된다.

 

또한 통계적으로 생각하고 세계를 수학적으로 모델화하는 능력, 무엇이 열역학 제 2법칙에 위배되는지, 어떤 것이 경제적으로 가능하지 않은지를 아는 것도 중요하다. 영구 기관을 만들기 위해 시간을 낭비하지 않는 것도 중요하다. 한편 오늘날 불가능하다고 생각되는 것에 대한 돌파구를 찾을 수 있는 창의적이고 낙관적이며 기술적인 지식을 갖추는 것도 중요할 것이다.

 

Q) 칼 세이건의 관심사에 의하면 우리는 과학 기술에 점점 더 종속되어가는 사회에 살고 있다. 그러나 대부분의 사람들은 작동원리를 알지 못한다. 사람들이 매일 사용하는 기술에 대해 더 많이 알아야한다고 생각하는가?

 

<중략>

 

Q) 우리 경제와 사회는 전문화를 선호한다. 그래서 사람들에게 하나의 분야에 더욱 많은 지식을 가지도록 권장한다. 이러한 경향이 앞으로도 지속될 것인가?

 

A) 우리 사회의 이러한 전문화는 문제 해결과 창의성을 위해서는 매우 불안정한 모델이라고 생각한다. 강연 초반에 말했듯이, 나는 여러 학문 분야가 융합되는 것의 중요성을 늘 이야기한다. 세계는 전체가 이어져있다. 나는 사람들이 한 가지 전문성이라는 관점의 희생자가 되지 않기를 원한다. 여러 학문 분야의 기초를 가진 문제해결 능력을 구축하는 것이 가장 최선일 것이다.

 

Q) 싱귤래리티대학교는 미래에 대해 낙관적인 경향이 있다. 기하급수적 기술들이 우리를 풍요로 이끌어 줄 것이라고 생각하는가?

 

A) 그렇다. 인공지능, 로봇 공학, 합성생물학, 나노 기술, 분자 제조 기술들의 융합은 부와 자원 활용 수준을 극대화시킬 것이다. 문제는 언제 그렇게 될 것인가? 모든 사람을 위한 합리적인 분배가 이루어질 것인가? 모든 국민들이 일할 수 있고 건강한 사회를 만들 수 있을 것인가 하는 것이다.

 

Q) 최근 스티븐 호킹, 빌게이츠와 같은 인물들의 발언 덕에 일반인공지능을 둘러싼 우려가 커지고 있다. 일런 머스크는 ‘생명의 미래 연구소(Future of Life Institute)’에 이를 방지할 보호조치 연구를 위해 1,000만 달러를 기부했다. 이러한 우려에 대해 어떻게 생각하는가?

 

A) 인공지능 커뮤니티는 인공지능의 하방 리스크를 매우 심각하게 생각하고 있다. 나는 생명의 미래 연구소에서 후원하여 2015년 1월 푸에르토리코에서 열린 인공지능의 미래 워크숍에 참가했다. 인공지능의 윤리적인 문제가 핵심 주제였다. 더 나은 미래의 인공지능을 위해 다음의 핵심적인 네 가지 주제가 도출되었다.

 

검증 - 시스템이 설정한 스펙과 일치하는지를 입증할 수 있는 방법에 대한 연구

 

확인 - 검증된 시스템이더라도 원하지 않은 행동이나 결과를 도출하지 않는지를 확인할 수 있는 방법에 대한 연구

 

보안 - 구축된 시스템을 내부적 또는 외부적으로 조작하기 어렵도록 하는 방법에 대한 연구

 

통제 - 잘못되었을 때 인공지능 시스템을 중단시킬 수 있는 방법에 대한 연구

 

이러한 주제들은 철학적이거나 윤리적인 고려사항이 아니라 시스템 설계의 문제이며, 인공지능만이 아니라 더욱 강력하고 복잡하게 개발되는 모든 시스템에 더 강력하게 적용되어야 한다.

 

..이하전략