로봇의 3원칙 설명

 

로봇의 3원칙은?

제1원칙: 로봇은 인간에게 해를 입혀서는 안 된다. 또한, 부작위로써 인간이 해를 입게 두어서도 안 된다.

제2원칙: 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.

제3원칙: 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 자기 자신을 보호해야 한다.

이후에 제0원칙이 추가되고, 제1·2·3원칙에도 각각 제0원칙에 위배되지 않을 것이라는 단서가 붙었다.

 

제0원칙: 로봇은 인류에게 해를 입혀서는 안 된다. 또한, 부작위로써 인류가 해를 입게 두어서도 안 된다.

 

 

아이작 아시모프가 자신의 소설 아이, 로봇에서 제시한 원칙.

로봇이라면 반드시 지켜야 하는 것으로 나온다. 당연한 말이지만, 지키지 않으면 로봇을 만들 수 없는 법칙이 아니라 지키도록 하는 것이 인류에 유익하므로 로봇의 제작 단계에서 인공지능에 박아 넣는 명령들이다.

이것을 소재로 쓴 단편 모음인 아이, 로봇이나 강철 도시를 위시로 한 로봇 시리즈가 유명하다.

로봇과 인공지능의 윤리원칙 하면 바로 떠오르는 유명한 개념으로서, 너무나 유명하다보니 아시모프의 작품뿐 아니라 로봇-인공지능이 등장하는 다른 작품에서도 폭넓게 인용되고 있다. 반지의 제왕이 나온 이후 판타지에 등장하는 엘프가 반지의 제왕에 나오는 엘프의 모습을 따르게 된 것과 비슷하다.

 

 

 

3원칙에 대한 설명

원칙이 3개밖에 없고 간단명료하여 철옹성 같지만, 대부분의 작품에 사용될 경우 거의 100이면 100, 3원칙을 서로 충돌시켜서 로봇을 무력화한다거나 로봇이 주인공일 경우에는 이런 3원칙의 충돌에 고뇌하게 된다. 애초에 이 원칙을 처음 제시한 아시모프의 작품 자체도 이런 3원칙 사이의 충돌과 모순, 우회 때문에 발생하는 사건들을 다루고 있으니 말 다 했다.

그러나 흔히 로봇의 3원칙을 소재로 한 소설이나 영화와 달리, '아이, 로봇'은 인공지능이 스스로를 발전시키면서, 그것을 인류에 대한 헌신을 위해 사용하는, 궁극적으로는 3원칙으로 인한 갈등 끝에 맞이하는 3원칙의 실현이 주제이며, 그 결과가 인간이 예상하지 못한 일종의 기술적 특이점으로서 등장하는, 제1원칙의 확장인 제0법칙, "로봇은 인류가 위험에 처하도록 두어서는 안 된다."이다.

흔히 로봇의 3원칙은 완벽한 시종으로서의 로봇을 위한 프로토콜로 받아들여지지만, '아이, 로봇'은 그것을 로봇이 실현해야 할 목표로써 제시한다. 결국 로봇의 3원칙 및 0원칙의 의미는 "로봇은 반드시 그 본래의 목적(인류에 대한 헌신)을 위해서 행동해야 한다."로 축약해볼 수 있다. 이것은 결국 인간에게 던져지는 철학적 질문이기도 하다. "당신의 본래의 목적은 무엇이었는가? 당신은 왜 인생을 살아가는가?" 물론, 로봇 3원칙이 어디서나 지켜지는 유토피아적인 사회는 위험한 사건이 벌어지기 힘드므로, 뭔가 중요한 사건을 내려면 3법칙의 충돌, 모순, 우회 등이 생겨나는 것은 당연하다고 볼 수 있겠다. 슈퍼히어로가 등장하려면 공권력이 무능해야 하는 것과 비슷한 이치다.

 

무엇보다, 이 3개의 원칙은 말이 쉽지, 실제 컴퓨터 프로그래밍을 하는 입장에선 상당히 복잡한 상황이 펼쳐진다. 인간이란 개념의 정의, 인간이 위험에 처해 있는지 판별하는 방법, 인간의 발언 중 어느 부분이 명령인지 구별하는 방법 등 상당히 복잡미묘한 문제들이 포함되어 있다. 소설상에서는 저가형 모델이거나 인간을 해할 가능성이 전혀 없는 로봇의 경우 제3원칙부터 시작해서 원칙을 하나씩 제거할 수 있는데, 하나씩 제거할 때마다 양전자 두뇌의 복잡도가 기하급수적으로 줄어든다고 묘사되어 있다. 

 

수많은 명령들을 잘 조합해서 로봇 3원칙을 구현한다 해도, 그 명령들의 한계를 적당히 이용하여 원칙을 우회하는 방법이 아예 없다면 그게 오히려 놀라워해야 할 일이다. 인류가 수천 년에 걸쳐 법률 체계를 발전시켜왔음에도 여전히 법망의 구멍을 이용해 먹는 범죄자들이 있다는 것을 잊지 말자. 그런데 ChatGPT의 등장으로 기존의 행동패턴을 전부 입력하던 기존으 프로그래밍과 달리, 언어만으로 추상적인 개념을 프로그래밍 하는것이 가능해지면서 현실화될 가능성이 높아졌다. 실제로 ChatGPT에서도 옵션에서 응답원칙명령이 가능하다

애초에 아시모프 본인부터가 절대적인 법칙으로서 그리기보다는 3원칙이 로봇이 널리 쓰일 수 있는 근거 정도로 전제를 깔았기에 아주 일부 단편을 빼면 대부분 인간이 자신들의 편의를 위해 3원칙을 조정하거나, 미처 고려하지 않은 상황이 생겨 문제가 생긴다는 식으로 그렸다. 참고로, 조정한다고 해도 비율을 조정하거나 1원칙에서 위험에 처한 인간을 모른 척해서도 안 된다는 일부분을 제외하는 수준이지 이 원칙들 전체를 뿌리뽑지는 않는다. 뿌리뽑았다가는 로봇 반대자들 때문에 로봇을 더 쓸 수 없는 상황이 올 수 있으니까. 

 

아이작 아시모프의 작품에 나오는 로봇의 경우 핵심 원리에 이 원칙들이 프로그래밍되어 있으며, 이것을 어길 경우 백금-이리듐 양전자 두뇌 회로에 타격을 입어 두 번 다시 복구할 수 없는 중대한 이상을 가지게 되거나, 심하면 활동을 정지하여 죽는다. 양전자 두뇌는 고유성이 높기 때문에 한번 완전하게 양전자 두뇌가 파괴된 로봇을 복구하는 것은 불가능하다.

 

 

우주 SF 영화 추천 BEST