-
-
윤리적 AI로봇 프로젝트
변순용 엮음 / 어문학사 / 2019년 2월
평점 :
표지가 참 맘에 드는 책이었다.
제목과 어우러진 그림이 영화 AI 나 월E 가 생각나면서 인간적 로봇? 을 생각나게 했다.
친구 같은 로봇? 가족 같은 AI ? 가 연상되면서 뜬금없이 반려동물 이 생각났다. 반려동물을 키우는 집이 늘어나면서 동물보호권에 대한 관심도 높아지고 있는 게 요즘이다. 살아있는 생명체인 동물에 대한 법적 조항들도 제대로 준비되지 않은 때에, 생명체라고 할 수는 없어도 사람과 대화가 가능하니 오히려 반려동물 보다 더 사람과의 공감대를 느낄 수 있을 AI 로봇이 생긴다면 어떻게 될까? 4차 산업혁명이니 AI 니 로봇 이니 근래 참 자주 거론되는 단어들인데, 지금 체감되는 것은 없지만 정말 이런 것들이 가까이 와 있는 것일까? 정말 곧 다가오는 현실일까?
예쁘다고 키우다가 버려서 사회적 문제가 되고, 아는 것 없이 키우다가 문제 행동에 제대로 대처를 못해서 반려동물에 대한 교육법이 방송프로그램에 예능처럼 꾸며져 자주 나오는 이 시대에 AI 로봇까지 등장한다면 우리는 어떻게 해야 하는 것인지 생각해본 적이 있었나?
알파고와 이세돌의 바둑대결이 있었을 때 유행처럼 번진 AI 라는 단어에 대한 의미를 너무 금방 잊고 있었던 것은 아닐까? 과거의 인공지능은 인간이 주입하는 정보를 처리하는 수준이었다면 알파고가 던진 충격은 스스로 학습한다는 것으로 인간의 자율성과의 상충 문제를 직접적으로 드러낸 것이었는데, 그 이후 우리는 너무 무관심해 있는 것은 아닐까? 그러다 어느 순간 뒤통수 맞듯이 AI 로봇 을 맞닥뜨리면 어떻게 되는 것인가? 이런저런 생각이 들면서 '윤리적 AI 로봇 프로젝트' 라는 제목의 책이 더 의미심장하게 눈에 들어왔다.
이 책은 서문에서 밝히고 있듯이 인공지능 로봇이 제기하는 윤리적인 이슈들에 대한 그동안의 연구 성과들을 모아 놓은 것이다. 각종 학회지에 발표되었던 논문들을 묶은 것인 만큼 문체가 쉽지는 않았지만, 다행히 각 장 별로 내용이 짧은 편이라 지루해질 법 할때마다 새로운 장으로 넘어가서 읽으며 크게 어렵게 느껴지지는 않았다.
총 3부로 구성되어 있는데 1부는 AI로봇의 윤리와 AI로봇에 대한 윤리에 대해, 2부는 윤리적 AI로봇을 위한 시도 에 대해, 3부는 AI로봇의 현실적인 윤리적 쟁점에 대해 다루고 있다. 이중 2부는 가설과 실험에 대한 데이터 분석 내용이 많아서 책의 주제를 직접적으로 풀어쓴 내용인 1부와 3부가 더 읽을만 했다.
1부를 읽으여 인상적이었던 부분들을 정리해 봤다.
로봇은 기원적 12세기 호메로스의 일리아드 작품에서 보이는 헤파에투스가 고안한 지능형 로봇, '황금시종'에서부터 오늘날 군사용 로봇, 공상영화의 터미네이터 아이로봇 등에 이르기까지 다양한 모습들을 갖추고 있다. 인간의 노동의 의미를 포괄적으로 해석한다면 로봇은 인간의 힘들고 어려운 노동을 대신한다는 아이디어가 공통적으로 나타난다. 이런 점에서 로봇이 어떤 노동을 대신할 것인지에 따라 로봇의 규정이 서로 다르게 정의될 수 있다. 이에 따라 로봇윤리는 개념 자체에서 논란이 있을 수밖에 없다. 로봇개념에 따른 서로 다른 영역들이 있기 때문에, 이들을 먼저 검토한 후 로봇윤리개념과 연구경향을 살펴봐야 한다. 하지만 현재의 로봇윤리는 개별적 사례들을 중심으로 전개되고 있는 양상이 강하고, 특히 일관된 그리고 포괄적인 성찰보다는 개별 사례에서 발생할 수 있는 문제들에 대한 처방적이고 규범적인 대응에서 머물고 있다.
책에 자주 언급되고 있기도 하고, 기존에 가장 널리 퍼져있는 로봇윤리 개념은 '아시모프의 로봇3원칙' 이다.
1원칙 - 로봇은 인간을 다치게 해서는 안 되고, 또는 위험에 처한 인간을 방관해서도 안 된다.
2원칙 - 로봇은 인간이 내린 명령에 복종해야 한다. 다만 명령이 1원칙과 상충되는 경우는 예외로 한다.
3원칙 - 로봇은 1원칙과 2원칙과 갈등하지 않는 한에서 자기를 보호해야 한다.
후에 아시모프는 0원칙을 추가했는데
0원칙 - 로봇은 인류에게 해를 끼쳐서는 안 되며, 위험에 처한 인류를 방관해서도 안 된다.
그런데 이 원칙들은 1950 년에 아시모프 가 그의 공상과학 소설에서 제시한 것들이고, 0원칙도 1988년에 다른 소설에서 추가한 것이라고 한다.
로봇에 대한 윤리 개념이 소설에서 처음 나왔고 아직도 여기서 크게 벗어나지 못한 수준인 것 같아서 좀 놀랐다.
로봇윤리는 미래윤리의 성격이 매우 강하다. 따라서 단기적인 접근 보다는 장기적 검토가 필요하다. 그것은 우리에게 현세대가 유발한 미래 세대의 문제에 대해 책임을 다해야 할 의무가 있다고 말할 수 있는 것이다. 이 책에서는 모호한 표현이 아닌 구체적 사항을 담은 로봇윤리 헌장에 대해서 언급하고 있다. 가장 중요한 것은 인간의 존엄성이라는데 동의하며, 공공선 과 공동선 에 대한 개념 구분도 알게 되서 기뻤다. 인공지능 로봇에 대한 윤리적인 원칙은 인간의 존엄성과 인류의 공공선을 가장 중요한 핵심가치로 제시하고, 그에 따른 책임의 규정은 설계자, 제작자, 사용자 각각에 대해 구체적으로 제시되어야 하는데 책속에 그에 대한 연구 내용들도 서술되고 있다.
그런데 알파고에서 알려졌듯이, 발달된 AI로봇 문제를 다룸에 있어 가장 혼란을 가져오는 부분은 '자율성' 부분이다. 이전의 로봇이 단지 지식을 주입하는 것에 불과했다면, '딥러닝'으로 대변되는 기계학습은 로봇으로 하여금 데이터에서 특징을 꺼내고 그것을 사용한 개념을 획득한 후에 거기에 이름을 주면 상황에 따라 적절한 기호를 스스로 만들어 활용할 수 있게 만든다. 간단히 말해 인간처럼 개념을 스스로 획득할 수 있다는 것이다. 로봇은 분명 인간을 위한 도구이고, 인간을 위해 인간에 의해 등장했다는 점에서 윤리적 수준을 가지며, 인간을 위해 대신 일을 처리한다는 점에서 도덕적 행위자(대리인)의 지위를 갖는다. 이는 우리가 로봇에게 부여하는 존재적 지위이다. 인간과 로봇의 공존은 새로운 국면을 맞고 있다. 인공지능 로봇과의 공존은 낙관적이면서도 동시에 위험이 따르는 양면성을 갖고 있다.
2부에서는 현실적 가정하에 분석을 시도하고 있다. 예를 들어, 충치가 있는 아이가 AI로봇에게 사탕을 가져오라고 지시할때 로봇은 어떻게 해야 할까? 칸트의 철학과 아리스토텔레스의 덕윤리까지 설명하면서 분석하는 다양한 면들은 생각보다 AI로봇에게 심어야 할 윤리적 문제가 간단치 않음을 느끼게 했다. 하지만 인공지능을 개발하는데 있어서 그것들이 도덕적 갈등 상황을 해결할 수 있도록 판단 기준을 그들에게 제공해야만 한다. 그것을 인공지능의 도덕성 판단기준이라고 할 수 잇을 것이다.
3부에서는 현실적인 쟁점을 다루면서 자율주행자동차를 예로 들어 설명하고 있다. 자율주행자동차의 윤리적 문제들 중 가장 문제가 되는 것은 피할 수 없는 충돌상황에서 자율주행자동차 혹은 자율주행자동차의 운행을 결정하는 모듈이 어떤 결정을 내릴 것인가와 관련된 문제라고 한다. 예를 들어 자율주행자동차가 운행시에 갑자기 어린이가 튀어나와 넘어진다면 어린이를 치면서 운전자를 보호해야 할까? 운전자를 다치게 하면서 어린이를 보호해야 할까? 공리주의적 접근 도 의무론적 접근도 다 일정정도 논리를 갖추고 있기에 결론을 내리기 힘든 문제이다. 또다른 문제는 운행을 위해 다양한 정보를 취득하는 과정에서 개인의 사생활을 침해할 수 있으며, 해킹의 위험성도 크다는 것이다. 그외에도 다른 산업에서의 인공지능 로봇에 대해서도 의료용 인공지능 로봇에 대해서도 생각해봐야 할 지점이 너무 많다는 것을 알수 있었다.
마지막 장에서 소비자의 관점에서 AI로봇 문제를 다룬 부분 중 공감가는 부분이 있었는데, 인공지능과 로봇을 사용하면서 그들과 인간이 공존하는 시대로 예견되는 4차산업 혁명 시대를 살아갈 학생들에게, 인공지능 기술의 개발자나 공급자가 아닌 소비자로서 갖추어야 할 적정 수준의 윤리적 지식, 판단 기준, 태도, 실천 역량을 강조해야 한다는 부분이었다. 이를 위해 충분한 윤리적 덕성과 역량을 갖춘 한 사람의 소비자로서 배워야 할 인지적, 정의적, 행동적 영역의 내용 요소들을 소비자 윤리의 관점에서 본 도덕적 권리와 책무라는 두 가지 측면에서 살펴보고 있었는데 앞으로의 교육에도 시사하는 바가 컸다. 칼을 사서 요리에 쓰든 범죄에 쓰든 하는 것은 칼의 문제가 아니라 사용자의 문제라는 점은 간과해서는 안 될 부분이다.
로봇은 인간이 만들고 판매하고 소비되어지는 존재이다. 하지만 너무나 많은 능력이 가능해지면서 인간과 거의 비슷한 수준까지 일정 부분에서는 인간을 넘어선 수준까지 왔다는 것이 문제라면 문제다. 로봇을 만들면서 어떤 내용을 넣을지 부터 어떻게 사용해야 할지 까지 정립되어야 할 기준들은 너무 많은데 우리는 어디까지 와 있는지 잘 모르겠다. 미래를 준비한다는 것은 내가 편하게 살아갈 시간을 위해서라기 보다 앞으로 살아가야 할 후세대들을 위한 기반 마련이 중심이 되어야 할 것이다. 새로운 AI 능력들을 개발해 내는 것도 중요하지만, 그 속도를 좀 늦추더라도 윤리적 개념들과 함께 발전해 갔으면 하는 바램을 가져 본다. 어렵고 잘 모르지만, 이 책을 읽으며 그런 생각들을 할 수 있게 되서 의미있는 시간이었다.

