혁신의 속도 자체가 우리의 안전에 더욱더 심각한 도전이 된다. 우리는 중대한 변화 사이에 수백만 년의 기간을 두고 한가하게 진화한다. 기계는 수십 년 사이에 이와 유사한 진보를 이룬다... 생산된 기계의 후속 세대는 더 똑똑해지고, 비용은 더 저렴해질 것이다. 인간 등가물이 어떻게든 우위를 점하리라 믿을 이유는 전혀 없다... 만일 인간의 노동보다 자동기계가 더 효율적이라면, 그것을 환영하는 조직과 사회의 환경이 어려울수록 생존에 유리하여 점점 우호적인 분위기가 확대되면서 번영할 것이다. _ 한스 모라벡, <마음의 아이들>, p178
한스 모라벡(Hans Moravec, 1948 ~ )이 바라보는 인류의 미래는 어둡다. 오랜 시간 생물학적 진화(進化)의 산물인 인간은 비교할 수 없을 정도로 빠르게 이루어지는 기술적 진화를 거듭하는 로봇(robot)에게 결국 세상의 주도권을 넘겨줄 수밖에 없다는 것이다. 이러한 상황에서 인류는 어떻게 살아남을 것인가? <마음의 아이들 Mind Children: The Future of Robot and Human Intelligence>에서 저자는 이에 대해 '마음 업로딩 mind uploading'으로 답한다.
사람과 로봇이 맺을 수 있는 세 번째 관계는 서로 돕고 사는 공생이다. 대표적인 시나리오는 <마음의 아이들>에 제시된 마음 이전 mind transfer이다. 사람의 마음을 로봇으로 옮기는 과정은 '마음 업로딩 mind uploading'이라 한다. 사람의 마음이 로봇으로 이식되면 사람이 말 그대로 기계로 바뀌게 된다. 로봇 안에서 사람의 마음은 늙지도 죽지도 않는다. 마음이 사멸하지 않는 사람은 결국 영원한 삶을 누리게 되는 셈이다. 이런 맥락에서 모라벡은 마음의 아이들은 인류의 후계자가 될 것이라고 주장하였다. _ 한스 모라벡, <마음의 아이들>, p15 해제 中
구체적으로 유한한 인간의 신체(身體) 대신 기계의 몸으로, 인간의 사고(思考)를 담당하는 뇌를 컴퓨터로 대체하자는 것이다. 이미 2세대 로봇 때부터 나타나기 시작한 학습능력으로 로봇(인공지능 AI)은 2040년에 이르면 인간을 멀리 따돌리고, 인간은 이들 로봇에 바이러스(viurs)처럼 녹아 들어 살면서 영생(永生)을 바라볼 수 밖에 없다는 것이 1988년에 저자가 예상한 인류의 미래다.
미래에 두뇌의 기능이 충분히 이해되었을 때 당신의 뇌들보가 절단되고 외부의 컴퓨터로 이어진 케이블이 절단된 끝에 연결된다고 가정하자. 컴퓨터는 처음에 두 반구체 사이의 고통을 돕고, 엿듣기 위해 프로그램되었다. 엿듣기로 배운 바에 의해 컴퓨터는 당신의 마음 활동의 모델을 구조화한다. 시간이 흐르면 컴퓨터는 자신의 메시지를 그 흐름 안으로 삽입하기 시작하고 점차 자신을 당신의 사고 안으로 은근히 심어주며 당신에게 새로운 지식과 기술을 부여한다. 머지않아 당신의 원래 두뇌가 나이 들어 사라짐에 따라 컴퓨터가 부드럽게 상실된 기능을 감당할 것이다. 궁극적으로 당신의 두뇌는 죽고, 당신의 마음은 전적으로 컴퓨터 안에서 자신을 발견할 것이다. _ 한스 모라벡, <마음의 아이들>, p197
마치 영화 <코드명 J Johnny Mnemonic>와 같은 이러한 설정이 저자가 책을 쓴 1980년대 말에는 꿈같은 이야기처럼 들렸을 것이다. 그렇지만, 생명 공학과 컴퓨터 공학의 발달은 이러한 것들을 '실현가능태'로 만들었다. 아래 <마음의 아이들>의 문단에 이어 유발 하라리(Yuval Noah Harari)의 <호모 데우스 Homo Deus>를 연결지어도 매끄럽게 연결되는 논리 구조는 과학 기술의 발전으로 실현될 디스토피아(dystopia)의 한 면을 보여준다.
궁극적으로 당신이 대부분 다른 사람의 경험을 기억할 것인 반면에 당신이 일으킨 기억은 다른 마음 안으로 혼합될 것이다. 삶, 죽음, 동일성의 개념은 당신의 마음의 조각과 다른 이들의 조각이 결합되고, 뒤섞이고, 때로는 크고, 때로는 작고, 때로는 길게 고립되어 고도로 개인적이며, 다른 때에는 덧없고, 문명의 도도한 지식의 여울 위의 단순한 잔물결인 일시적 연상으로 재결합됨에 따라 현재의 의미를 상실할 것이다. _ 한스 모라벡, <마음의 아이들>, p200
경험하는 자아는 아무것도 기억하지 못한다. 경험하는 자아는 어떤 이야기도 하지 않고, 중요한 결정을 내릴 때 참조대상이 되지도 않는다. 기억을 끄집어내고 이야기를 하고 중요한 결정을 내리는 것은 모두 우리 안에 있는 매우 다른 실체인 "이야기하는 자아"의 독단이다.(p405)... 사실을 말하면, 경헌하는 자아와 이야기하는 자아는 별개의 실체가 아니라 긴밀하게 얽혀 있다. 이야기하는 자아는 경험을 이야기를 구성하는 중요한 원재료로 이용한다. 그리고 그런 이야기들은 다시 경험하는 자아가 실제로 느끼는 것에 영향을 미친다. _ 유발 하라리, <호모 데우스>, p410
그러한 상황에서 우리가 '영생'이라는 가치를 선택하는 대신 오랜 진화의 역사와 함께 이루어진 자유와 평등이라는 인권(人權)을 포기하고, '데이터교'라는 이름의 레비아탄(leviathan)에 권리를 다시 넘겨 줄 것인가의 기로에 서 있다. 피조물을 보았을 때 좋았을 조물주의 마음이 인간이 선악과를 따먹은 후 바뀌게 되었다면, 이러한 마음이었을까.인간과 구별할 수 없는 컴퓨터를 검증하는 튜링 테스트(Turing test). 머지 않은 미래에는 인공지능(AI)에 녹아든 인간의 마음을 테스트하는 역튜링 테스트(Adverse Turing Test)가 등장할지도 모를 일이다.
마지막으로, 인공지능과 로봇을 다룬 <마음의 아이들>을 통해서 인간을 더 생각하게 되는 것은 처음부터 이들이 우리의 '거울'로 만들어졌기 때문이 아닐까. 그리고 이러한 생각의 방향이 우리를 주체(主體)라는 하나의 근거가 되는 것은 아닌지를 생각하며 페이퍼를 갈무리한다...
우리는 자유주의가 직면한 세 가지 실질적 위협을 살펴보았다. 첫째는 인간이 가치를 완전히 잃게 된다는 것이고, 둘째는 인간이 집단으로서의 가치는 유지하더라도 개인은 권위를 잃고 외부 알고리즘의 관리를 받게 된다는 것이다... 세 번째 위협은, 일부 사람들은 업그레이드되어 필수불가결한 동시에 해독 불가능한 존재로 남아 소규모 특권집단을 이룰 거라는 점이다. 이런 초인간들은 전대미문의 능력과 전례 없는 창의성을 지닐 것이고, 그런 힘을 이용해 세계적으로 중요한 대다수의 결정들을 계속 내일 수 있을 것이다. _ 유발 하라리, <호모 데우스>, p474
설계상 기계는 순종적이고 유능한 우리의 실존을 위협한다. 왜냐하면 기계는 우리에게 생태적으로 환경에 더 적합한 대안적 거주자이기 때문이다. 단순히 생각해도 경쟁적 상황에서 인간만큼 영리한 기계가 훨씬 더 유리하다. 그것의 생산과 유지에는 비용이 적게 들어서 주어진 자원에 따라 투입되는 것보다 일을 최적화해서 지칠 줄 모르고 일하도록 프로그램될 수 있다. _ 한스 모라벡, <마음의 아이들>, p177