로봇(Robot)의 시민권 선언한 유럽 연합

로봇(Robot)의 시민권 선언한 유럽 연합

 

2017년 EU 의회는 로봇(Robot) 윤리를 선언했다. 로봇의 기본 원칙을 천명했다는 점에서 의미가 크다. 2017년 유럽 연합(EU) 의회의 로봇 윤리 선언 원칙은 직설적이고도 정직하게 1942년 아이작 아시모프(Issac Asimov)의 로봇 3원칙을 빌려왔다. 이 또한 적절하다. 미국의 과학 소설가 아이작 아시모프가 이미 이를 바닥까지 탐구해 보았기 때문이다. 로봇 3원칙은 1942년 아이작 아시모프가 자신의 단편에서 발표한 뒤, 그의 모든 소설에 적용한 로봇의 기본 작동 원리로, 그의 세계관에서 이 원리를 무시한 로봇은 제작할 수 없다. 로봇(Robot) 3원칙은 다음과 같다.

 

1원칙: 로봇은 인간에게 피해를 입혀서는 안 된다. 인간이 피해를 입는 것을 모른 척해서도 안 된다.

 

2원칙: 1원칙에 위배되지 않는 한 로봇은 인간의 명령에 복종해야 한다.

 

3원칙: 1원칙과 2원칙에 위배되지 않는 한 로봇은 자신을 보호해야 한다.

 

로봇 3원칙은 안전성, 편의성, 내구성으로 요약된다. 지금도 실상 기계는 이 원칙하에 제작된다. 안전성은 편의성에 우선한다. (압력 밥솥은 밥을 찌는 동안은 열리지 않는다). 편의성은 내구성에 우선한다. (스마트폰 버튼이 고장이 잘 난다고 해서 누르는 횟수를 제한하지는 않는다). 물론 현실에서는 상황과 용도에 따라 세 원칙이 철저하게 적용되지는 않는다. 전쟁터에서는 사람을 해치라는 명령에 복종하는 전쟁 기계나 무인 전투기가 존재한다. (2원칙이 1원칙을 앞선다), 우주 탐사에 쓰이는 기계는 종종 내구성을 위해 편의성이 희생된다. (3원칙이 1원칙을 앞선다).

 

■ 로봇(Robot) 3원칙이 지배하는 세상

 

이 원칙이 철저하게 적용되는 아이작 아시모프(Issac Asimov)의 세계관에서는 이런 인간 사회와는 다른 다양한 현상이 일어난다. 우선 범죄가 일어날 수 없다. 사람이 해를 입는 것을 보면, 어디선가 로봇이 달려와 막기 때문이다. 이 세계에서 살인 사건이 일어나 로봇과 인간 형사가 함께 수사를 하는 소설이 로봇 ‘다닐 올리버’가 등장하는 장편 시리즈 첫 작품 ‘강철 도시’이다.

 

아이작 아시모프(Issac Asimov)는 자신의 무수한 작품에서, 자연 법칙의 우회로를 찾는 과학자처럼 이 원칙 아래 일어날 수 있는 맹점과 모순을 실험했다. 1원칙부터 살펴보자. ‘인간에게 해를 끼치지 않는’ 것은 대체 무엇인가? ‘아이, 로봇(I, Robot)’이라는 그의 단편집의 한 에피소드에는 사람의 마음을 읽는 로봇이 등장한다. 이 로봇에게 ‘인간에게 피해를 끼치지 않는’ 문제는 내면의 문제로 확장된다. 그는 인간에게 물리적인 피해뿐 아니라 심리적인 피해도 끼칠 수 없다! 그는 결국 귀에 달콤한 말만 하는 거짓말쟁이 로봇이 되어버리고, 이 거짓말이 결국 인간에게 피해를 끼쳤다는 것을 알게 되자 자기 모순으로 기능을 정지해버린다.

 

이 문제는 아시모프의 세계관을 차용한 영화 ‘아이, 로봇(I, Robot)’에서도 가볍게 건드려진다. 로봇은 사고 현장에서 아버지와 아들 중 아버지를 구한다. 아버지가 좀 더 살 가능성이 높았기 때문이다. 하지만, 아버지가 원한 것은 자신이 죽더라도 아들을 구하는 것이었다. 이 경우, 과연 로봇은 아버지에게 피해를 끼친 것인가? 천재적 작가 아이작 아시모프의 상상력은 과학계 그리고 인간 사회에 곧 닥칠 일들에 대한 놀라운 영감을 던져주었다. 그의 SF(공상 과학 영화)는 미래에 대한 시뮬레이션인 셈이다.

 

로봇이 인간에게 피해를 끼치지 않게 하려면 인간에게 ‘피해를 끼친다는 것이 무엇인가’를 먼저 정의해야 한다. 다시 말해서 로봇이 윤리적으로 행동하게 하려면 우선 우리가 ‘윤리가 무엇인지’ 먼저 이해해야 한다. 아시모프는 로봇 원칙에 숨겨진 다른 맹점도 놓치지 않았다. ‘인간’을 어떻게 정의할 것인가? 피부 색깔과 출신 지역에 상관없이 생물학적 인간 종(species) 모두에게 동등한 인권을 상정한 것은 인류 역사에서 그리 오래지 않았다.

 

그의 또 다른 장편 ‘파운데이션’ 시리즈에서는 특정 사투리를 쓰는 특정 지역의 주민만을 인간으로 규정해 버린다. 그리고 다른 인간을 공격하는 로봇이 등장한다. 로봇이 인간을 보편적으로 평등하게 존중하려면, 로봇을 제작하는 인간이 먼저 인간을 보편적으로 평등하게 존중해야 한다는 점을 시사한다. 이미 눈앞에 닥친 현실의 문제이다.

 

■ 로봇이 잘못 제작됐을 때에 일어날 위험성 경고

 

마이크로소프트(MS)사는 대화형 인공 지능(AI) 테이(Tay)를 트위터에 업데이트했다. 테이(Tay)는 학습이 가능한 인공 지능(AI)이다. 대화를 통해 사고력을 학습하며 성장할 예정이었다. 하지만 설치된 지 몇 시간 이내에 테이는 유대인. 무슬림. 여성, 이주민에 대한 혐오를 쏟아내기 시작하며 순식간에 차별주의자로 성장했다. MS사는 깜짝 놀랐다. 16시간 만에 테이의 활동을 중단시켰다. 테이는 우리가 가치 판단 없이 인공 지능(AI)을 제작했을 때 일어날 위험성을 경고했다.

 

아이작 아시모프(Issac Asimov)의 고민은 그의 작품에 등장하는 로봇의 지능이 높아지면서 점점 복잡해졌다. 로봇 장편 시리즈 중 마지막 편 ‘로봇과 제국’에서 지능이 고도로 발달한 로봇 다닐 올리버(danyl oliver)와 지스카드는 더 많은 인간을 도우려면 소수의 사람에게 해를 끼쳐야 하는 일이 비일비재하게 되는 모순에 끊임없이 직면했다. 이들은 결국 모순을 해결하지 못했고, 제 0원칙, ‘로봇은 인류에게 해를 끼칠 수 없다’는 새로운 전제를 만든다.

 

문제는 해결된 것 같았지만 한층 복잡해졌다. ‘인류에게 해를 끼치지 않는다’는 것은 과연 무엇인가? 이를 어떻게 정의할 것인가? 로봇이 인류에게 해를 끼치는 행동을 했다는 이유로 자기 모순으로 기능을 정지해버린다면, 너무 가혹한 일이 아닐까? 결국 이 원칙을 지키기 위해서는 한 인간의 지능을 한참 뛰어넘는 초지능의 존재를 가정할 수밖에 없다.

 

초지능을 보유한 로봇 다닐 올리버(danyl oliver)는 이후 ‘파운데이션’ 시리즈에 등장하여 인류가 멸망하지 않도록 옆에서 지켜보는 주시자의 역할을 한다. ‘인간에게 해를 끼칠 수 없는’ 로봇이 존재하는 세상에서 범죄가 사라졌듯이 ‘인류에게 해를 끼칠 수 없는’ 로봇이 존재하는 세상에서 인류는 멸망하지 않는다.