인공지능, 인간을 유혹하다, 김재호, 이경준

   

텔레프레즌스 기술

   

좋은 기업들. 창의적 기업을 육성하기 위해서는 무엇을 해야 할까? 미국

에서 소프트웨어 엔지니어로 일하는 박상민 연구원은 "창의력이란 문제

를 발견하는 눈"이라고 강조하였다고 예를 들어, 구글은 '알고 싶다',

아마존은 '사고 싶다'. 페이스북은 '친해지고 싶다', 트위터는 '말하고 싶다'

는 문제를 해결한 것이다. 구글 딥마인드는 '기계도 사유할까?'라는 문제

를 해결하려는 시도다.

   

여기서 두 가지 의문점이 생긴다. 첫째 의문점은 다음과 같다. 로봇이 통

제력을 상실한다면 모두 악이 된다고 하자. 그렇다면 통제력 상실 시 악

이 된다는 데이터가 설정되어 있어야 할 것 아닌가? 로봇이 스스로 생각

하고 판단한다는 가정만으로는 대답하기 어려운 문제다.

둘째 의문점은 다음과 같다. 세 가지 원칙은 완벽해 보인다. 이 원칙들은

로봇을 인간에게 이롭게 하기 위해 만들어졌다. 그런데 만약 인간들끼리

목숨을 빼앗는 사투를 벌이는데, 양쪽에서 위해를 주지 않는 정도로 상대

편을 제압하라는 명령을 내린다. 그릴 때 로봇은 어떤 판단을 해야 할까?

그래서 등장한 것이 로봇 0원칙이다.

   

제0원칙 로봇은 인류에게 해를 가하거나, 행동을 하지 않음으로써 인류에게 해가

가도록 해서는 안 된다.

   

   

MUSICA : Musical Improvising Collaborative Agent

   

로봇과 소프트웨어 만남 4단계

   

로보드림 프로젝트