[100자평] 7층

7층
오사 게렌발 지음, 강희진 옮김 / 우리나비 / 2014년 11월

폭력을 통해 자신을 강요하는 행위와 집착은 얼마나 불행한 것인지. 이를 피해자의 입장에서 생각해보게 만든다.

AI(인공지능)이 인간을 완전히 대체할 수 있을까?

 인간에게 해를 입힐 수 없도록 금하고 있는 로봇공학 제1원칙은 통상 눈으로 볼 수 있는 육체적인 위해를 말하지. 그것은 눈으로 쉽게 볼 수 있는 것이고 판단을 내리기도 어렵지 않다네.(p98)... 너 자신의 즐거움은 제3원칙에 해당하는 것이고 내 명령에 복종하는 것은 제2원칙에 해당하는 거니까, 제2원칙이 우선한다는 말이지?(p51) <로봇과 제국 1> 中

  아이작 아시모프(Isaac Asimov, 1920 ~ 1992)는 로봇공학의 3원칙(Three Laws of Robotics)을 적용해서 많은 SF 작품을 쓴 유명작가다. 위의 <로봇과 제국 Isaac Asmov's Robot> 역시 그의 SF 작품들 중 하나인데, 작품 속 로봇들은 기본적인 원칙의 지배하에 있으며, 작품 속에서 로봇들은 많은 경우 기본원칙 간의 충돌이 일어나는 한계상황에 놓이게 된다. 소설 속에서 로봇들은 기본 원칙 충돌되었을 때 오작동을 일으키지만, 프로그래밍이 되지 않은 학습능력을 갖춘 AI(Artificial Intelligence 인공지능)을 탑재한 로봇들도 같은 문제를 일으킬 것인가? 레이 커즈와일(Ray Kurzweil, 1948 ~ )는 그렇지 않다고 대답한다. 그에 말에 따르면 AI는 인간의 뇌와 같은 기능을 가지고 있으며, 일부에서는 더 우수한 면을 가진다.

 간혹 뇌는 컴퓨터와 달라서 뇌 기능에 대한 통찰을 비생물학적 구조에 바로 적용할 수는 없다고 말하는 사람들이 있다. 자기조직적 구조에 대한 이해가 없어서 하는 말이다.(p402)... 2020년대 중반이나 말이 되면 우리는 아주 정교한 뇌 모델들을 가질 것이다. 새 모델들 덕분에 우리의 도구상자가 풍성해질 것이고 뇌의 실제 작동 양식에 대한 심도 깊은 이해를 바탕에 든든히 깔 수 있을 것이다. 뇌 고유의 전략 중 하나는 처음부터 모든 지식을 고정되게 기억하는 대신 학습을 통해 유연하게 배운다는 점이다... AI의 학습 속도는 사람보다 훨씬 빠를 것이다. 사람이 스무 해는 걸러야 배울 수 있는 기초적 소양들을 기계는 몇 주도 안 되어 배울 수 있다. 비생물학적 지능끼리는 학습한 지식 패턴을 쉽게 공유할 수 있으므로, 하나의 AI가 기술을 배우면 그것으로 충분하다.(p403) <특이점이 온다> 中

 커즈와일은  <특이점이 온다 The Singularity is near>에서 2005년에 이미 학습이 가능한 AI의 출현을 예측한다. 아시모프가 그린 로봇은 프로그램에 의존하는 수동적인 존재지만, 커즈와일의 AI는 인간의 뇌에 근접한 수준의 능동적인 존재라는 점에서 차이가 있다. 한발 더 나아가 커즈와일은 유전학, 나노, 로봇의 혁명이 특이점(Singularity)을 불러올 것을 예측한다. 특이점. 이 지점에서 학습능력을 갖춘 인공지능에 대해 인간은 통제력을 상실하게 되는데, 인류의 희망과 위험이 공존한다는 것이  커즈와일의 주장이기도 하다.

 21세기 전반부에 우리는 세 개의 혁명이 꼬리를 물고 중첩되어 발생하는 것을 보게 될 것이다. 유전학의 혁명, 나노기술의 혁명, 로봇 공학의 혁명이다. 그로써 내가 제5기라 칭한 시대, 즉 특이점의 시대가 시작될 것이다. 현재 우리가 처한 지점은 'G(Genetics, 유전학)'혁명의 초기 단계다.(p278)... 일단 생물학의 작동 원리를 완벽히 이해한 뒤 손질을 가하기 시작하면 그때는 더 이상 생물학의 도구만으로는 부족하리라는 뜻이다. 생물학의 한계를 넘게 해줄 것은 'N(Nanotechnology, 나노기술)' 혁명이다. 우리 몸과 뇌, 우리가 사는 세상을 분자 수준으로 정교하게 재설계하고 재조립하게 해줄 것이다. 가장 강력한 혁신은 다가올 'R(Robotics, 로봇공학)' 혁명이다. 인간의 지능을 본받았지만 그보다 한층 강력하게 재설계될 이간 수준 로봇들이 등장할 것이다. R혁명은 최고로 의미 있는 변화다. 지능이란 우주에서 가장 강력한 '힘'이기 때문이다.(p278) <특이점이 온다> 中

 이러한 커즈와일의 2005년 예측을 제리 카플란(Jerry Kaplan은 <인간의 필요없다 Humans Need Not Apply: A Guide to Wealth and Work in the Age of Artificial Intelligence>와 <인공지능의 미래 Artificial Intelligence>에서 구체화하고 있다. 

 인공지능의 철학은 컴퓨터와 더 나아가서 기계들, 아니면 자연에 기원을 두지 않은 모든 것들에 마음이나 생각할 수 있는 능력이 있다고 말해도 되는가라는 질문을 던진다. 간단히 놓고 보면 그 질문의 답은 '마음'이나 '생각'을 어떻게 정의하느냐에 달려 있다.(p125) <인공지능의 미래> 中

 2016년 인공지능 알파고가 이세돌을 바둑에서 이기고 난 후 더이상 AI의 능력에 대해 의심을 품는 이는 거의 없다. 최근 논의는 AI가 불러올 변화로 옮겨가, AI로 인해 얼마나 많은 노동력이 대체될 것인지, 그로 인해 사회는 얼마나 바뀔 것인지로 사람들의 관심이 옮겨가는 모양새다. 알파고가 가져온 충격이 컸기에 AI에 대한 논의는 갑작스럽게 활발하게 이루어졌지만, 우리는 과연 AI에 대해 얼마나 정확히 알고 있는 것일까? 이에 대해 카플란은 <인공지능의 미래>에서 AI에 대한 과도한 공포를 경계하고 있다.

 기계학습 기술은 중요한 실질적인 의의가 있는 엄청난 발전이지, 이를 전반적인 지능을 갖춘 인공의 존재가 나타날 눈앞의 징조로 예측할 근거는 거의 없으며, 특히 현재 우리가 사는 이 시대에 예기치 못했던 무언가를 갑작스럽게 일깨울 잠재적 도화선이 될 리는 더더욱 없다.(p252) <인공지능의 미래> 中

 이제 우리는 인간의 통제에 따라 주어진 임무를 수행하는 피조물인 로봇시대를 넘어 로봇이 '지능'을 갖게 된 시대를 맞이했다. 16세기 인클로저 운동(Enclosure)을 통해 양들에게 인간이 쫓겨가 산업화 시대를 맞이한 이후, 21세기 AI에 의해 다시 인간들은 어디론가로 쫓겨갈 듯하다. 이러한 현실에서 우리가 할 일이 있을까.

[그림] ENCLOSURE MOVEMENT(출처 : https://www.historycrunch.com/enclosure-movement.html#/)

 유감스럽게도 인공지능이 노동의 자본 대체 현항을 가속화하기 때문에, 자본이 있는 사람들은 노동 능력이 주요 자산인 사람들의 희생으로 득을 보게 될 것이다. 소득불평등은 이미 절박한 사회적 문제로 떠올랐는데 앞으로는 더욱 악화될 가능성이 높다.(p225)... 현재 우리가 취할 수 있는 한 가지 실질적인 대처방안은 인공지능 시스템을 개발하고 테스트하는 과정에 적용할 전문적인 개발기준을 마련하는 것이다.(p265) <인공지능의 미래> 中

 카플란에 따르면 우리에게 할 일이 남아있다. 인공지능 개발 기준 마련이 얼마나 중요한 것인지는 플라톤(Platon, BC 427 ~ BC 347)의 대화편을 통해 살펴보도록 하자.

선생님은 제우스가 인간에게 정의와 염치를 보냈다고 하셨고, 또 말씀하시는 중에 여러 번 정의, 분별, 결건, 그런 모든 것을 합쳐서 하나, 곧 덕이라고 하셨지요. 그런데 덕은 하나의 어떤 것이고 정의와 분별과 경건은 덕의 부분들일지, 아니면 제가 지금 이야기한 이런 것들이 모두 동일한 하나의 것의 이름들인지, 그것을 논변으로 엄밀하게 설명해 주시죠.... 그건 대답하기 쉽지요, 소크라테스, 덕은 하나이고, 당신이 묻는 것들은 덕의 부분들입니다."(329c ~329d) <프로타고라스> 中

 <에우튀프론>의 아포리아가 위장된 아포리아라고 생각하는 사람들은 경건한 것이 정의로운 것의 부분이라는 이야기는 소크라테스 자신도 받아들인 것이라고 생각한다. 경건한 것이 정의로운 것의 부분이라는 이야기를 꺼낸 사람이 에우튀프론이 아니라 바로 소크라테스이기 때문이라는 것이다.(p48) <에우튀프론> 해제 中

  플라톤의 대화편 <프로타고라스 Protagoras>와 <에우튀프론 Euthyphron>에서 소크라테스(Socrates, BC 470 ~ BC 399)는 경건에 대해 서로 다른 주장을 펼친다. <프로타고라스>에서 소크라테스는 경건이 덕의 부분이라는 프로타고라스의 주장에 대해 반박을 하는 반면, <에우튀프론>에서 소크라테스는 경건이 정의의 부분이라는 상호 모순된 주장을 펼친다. 동일인물의 상호 모순된 주장을 AI는 어떻게 받아들일 것인가? 이러한 학습의 우선 순위를 정하는 것이 미래 우리 인간이 해야할 일이 아닐까.

 5G, 사물인터넷(IOT), AI(인공지능), 자율자동차 등 우리 삶을 변화시킬 신기술에 대한 많은 정보가 쏟아지는 요즘 인간(Human)의 자리는 점차 없어지는 듯 보이는 요즘이지만, 거대한 변화의 태풍의 중심에는 인간이 해야할 일이 있음을 새삼 깨닫게 된다. 대규모 자본에 의한 기술 발전의 변화 속에서 인간이 어떤 길을 가야할 것인가는 많은 고민이 필요하겠지만, 새로운 희망과 기회도 있음을 발견하면서 이번 페이퍼를 갈무리한다.

[마이리뷰] 제리 카플란 인공지능의 미래

제리 카플란 인공지능의 미래 - 상생과 공존을 위한 통찰과 해법들
제리 카플란 지음, 신동숙 옮김 / 한즈미디어(한스미디어) / 2017년 2월

노동 인구의 상당수는 사람들보다 더 잘, 더 빠르게, 더 낮은 비용으로 수행하는 시스템들에 대항하는, 패배가 확실한 경쟁에 나서야 할지 모른다. 그런 상황에서 우리가 고민해야할 부분은 그에 따른 증대된 부를 어떻게 공평하게 나눌 것인가의 문제다.(p232)

기사도는 서구 유럽 문명의 기원인가?

「신사와 선비」의 책 표지는 책 내용을 잘 표현한다. 당당한 표정을 짓는 옆 모습의 신사와 용맹한 기사 그 사이에 백과사전이 한 편에 있다면, 반대편에는 표정을 알 수 없는 선비의 뒷모습과 붓이 그려져 있다. 앞 모습의 서양문화와 뒷 모습의 선비. 이 표지는 저자의 역사관을 잘 드러낸다.

「신사와 선비」에서 저자의 입장은 명확하게 아래의 문장들로 요약된다. 중세 서양의 기사도 정신은 근대 신사도로 변화, 발전되어 현대선진유럽 문명의 정신근간을 만들어냈다. 반면, 우리 선비정신은 성리학에만 치중해서 합리성을 잃어버렸고 그 결과 근대화를 할 수 없었던 것이다. 그리고, 이러한 차이가 동서양 문화 차이라는 것이 주요 골자다. 그렇다면, 이러한 저자의 관점은 타당한 것인가? 개인적으로 그렇게 생각되지 않는다.

「신사와 선비」에서는 기사도 정신의 기원을 난폭한 기사들을 통제하기 위한 목적에서 보급되었다고 말한다. 즉, 기사도 정신이 기사의 윤리로 외부에서 강제된 것이다. 외부에서 강제된 이 윤리는 결코 기사들의 정신을 대표하지 못함을 제1차 십자군 원정 당시 예루살렘에서 자행된 학살이라는 역사적 사실을 통해 확인할 수 있다. 중세를 통해 기사도 정신은 결코 기사들의 사상이 아니었던 것이다. 기사도 정신에 의미가 부여된 것은 중세 이후 문학의 보급에 힘입은 바가 컸으며, 그 과정에서 기사도 정신은 낭만적으로 미화되었다. 결국 기사도 정신은 실패한 사상이었다. 오히려, 기사도 정신의 실패로 기사로 대표되는 군사력과 과학, 자본(신사도), 종교가 결합하여 서구 문명의 진출이 제국주의의 모습으로 표출되었다면, 기사도와 신사도는 계승관계가 아닌 대척점에 있는 것이 아닐까.

이에 반해 선비 사상은 조선 유교 사회의 지배 사상이었다. 성공적으로 사상이 사회를 지배했기 때문에 조선은 반세기를 존속했고, 변화를 가져오지 못한 것이 조선의 비극이었음을 놓고 본다면 문제는 선비사상이나 기사도의 내용이 아니라는 결론에 이르게 된다.

책의 내용이 타당성을 가지기 위해서는 사상 본질의 문제가 아니라, 윤리적인 사회가 수탈당할 수 밖에 없는 역사의 아이러니를 지적하는 편이 더 설득력있지 않았을까. 여기에 ‘우리가 근대화할 역량이 없었는가?‘ 하는 문제까지 던지자면 문제는 더욱 복잡해지니, 근대화와 관련된 한 문장만을 짚도록 하자.

이 나라는 사실상 선비공화국이라서 자발적 근대화가 불가능했다(p234)

「신사와 참배」에 나오는 위의 문장은 저자의 역사관을 잘 나타내는 한 문장이라 생각된다. 이에 대한 반론을 하자면 일이 너무 커지니 여기서 일단 논의를 멈추겠지만, 개인적으로 저자의 역사관에 동의하지 않는다. 그 이유는 다음 기회에 밝히는 것으로 일단 미룬다. 다만, 「신사와 선비」는 이러한 단점에도 블구하고 역사의 단편적인 사실을 핵심적으로 잘 제시한하고 있으며 이는 책의 장점이라 생각한다. 종합적으로, 「신사와 선비」는 책의 장점이 단점을 덮을 정도는 못된다는 개인적인 의견과 함께 이번 리뷰를 마친다.

돌이켜보면 유럽인들은 중세 이후 수백 년동안 많은 역사적 경험을 축적했다. 한편으로 그들은 기사도와 신사도의 전통을 의식적으로 계승했다. 다른 한편으로는 자연법과 기독교 신앙의 영향 아래 근대 자본주의의 싹을 틔웠다.  그리하여 현대사회는 시민의식(Consciousness)이라 불리는 사회적 가치를 창출하기에 이르렀다... 여기서 내가 힘주어 말하고자 하는 것이 하나 있다. 서구 시민사회는 여러 가지 역사적 경험을 겪으며 점차 ‘저항적 존재‘로 성장했다는 사실이다. 그들은 권력의 부당한 요구에 순응하지 않는다. 그런 의미에서 시민들의 적극적인 정치 참여가 현대 시민사회의 미덕으로 부각된다. 21세기 서구의 시민권(citizenship)은 대략 그와 같은 특징을 가지고 있다.(p124)

 조선은 책으로 일어났으나, 책으로 망했다고 볼 수 있다. 성리학을 널리 보급함으로써 지식의 독점이 깨지고 각계각층이 선비로 태어날 수 있었던 것은 조선의 축복이었다. 그러나 끝까지 오직 성리서만을 고집하는 구태의연함 때문에 조선은 스스로 근대화할 수 있는 기회를 놓쳤다. 안타깝지만 19세기 말의 우리 역사는 이렇게 평해도 무방하지 않을 것이다.(p205)

유헙의 최상층 지배자들(왕과 교회의 최상층 사제들)은 기사들의 난폭한 행위를 못 본 척할 수 없었다. 사회질서가 혼란에 빠지면 정치적 위기가 찾아올 것이 뻔했다. 그래서 로마교황청이 단호한 입장을 취했다. 기회가 있을 때마다 교황청은 기사들에게 다음과 같은 지침을 하달했다... 교황청의 거듭된 요구는 점차 기사들의 행동강령으로 자리 잡았다...(p33)

지리학 : 인간과 자연과의 대화

인간과 자연, 이들이 상호간 미친 영향에 대해 알기쉽게 정리한 지리학 입문서. 책은 자연 환경이 인간의 역사와 문화에 끼친 영향을 설명하고 있지만, 인간의 운명을 결정하는 것은 결국 인간임을 잘 보여준다. 쉽게 씌여져 잘 읽히지만, 1930년대 씌여진 책이라 시대적 한계가 있음은 다소 아쉬운 부분이다. 철도 중심의 교통 체계 설명은 그 한 예로 들 수 있다.

그렇지만, 이런 지엽적인 몇몇 부분을 제외한다면 전체적인 반 룬의 통찰력은 시대를 뛰어넘는 부분이 있다. 근대화 시기 열강에 의해 수탈되고 있던 중국을 바라보며 예언처럼 던지는 그의 말은 수십 년이 지난 우리에게 더 다가오는 바가 있다. 개인적으로 재러드 다이아몬드의「총, 균, 쇠」를 읽기 전 지리 관련 지식을 쌓는다면 더 좋은 독서가 되리라 생각한다.

프랑스는 거의 10세기 동안 국가의 독립을 위해 싸울 수밖에 없었다. 하지만 대부분의 나라들이 별도의 네 국경을 방어해야 했다면 프랑스는 오로지 서쪽 국경을 방어하는 데 온 힘을 기울이기만 하면 되었다. 이런 사실이야말로 프랑스가 유럽의 다른 어떤 나라보다 앞서서 고도로 중앙집권화 된근대국가로 발돋움할 수 있었던 요인이 아닐까 싶다.(p170)

모두 멕시코만류가 만들어놓은 결과다. 알래스카가 59만 제곱마일의 영토에 6만의 인구를 품고 있는 반면에, 세 나라를 합쳐도 43만 제곱마일에 지나지 않는 노르웨이, 스웨덴, 핀란드에는 1,200만 명의 인구가 살고 있다.(p231)

그렇다면 무엇이 원인이었을까? 나는 그 원인이 모든 예상을 뒤엎는 변덕스런 인간적 요소, 즉 모든 자연적 이점을 물리적 무능으로, 승리를 패배로, 용기를 따분하고 매우 불쾌한 운명에 대한 무덤덤한 수용으로 탈바꿈시킨 어떤 인간적 요소가 아닐까 조심스럽게 생각한다.(p270)

 나는 예언자가 아니다. 나는 향후 10년 내지 15년 사이에 무슨 일이질지 알지 못한다. 십중팔구 상황이 매우 많이 변하지는 않을 것이다. 가련한 중국이 행렬을 따라잡기에는 첫 발걸음을 너무 늦게 뗀 탓이다. 하지만중국이 따라잡는다면? 오! 신이시여, 우리를 불쌍히 여기소서. 그때 우리받게 될 대가는 얼마만큼이나 될까? 도대체 얼마큼일까!(p414)