-
-
넥서스 - 석기시대부터 AI까지, 정보 네트워크로 보는 인류 역사
유발 하라리 지음, 김명주 옮김 / 김영사 / 2024년 10월
평점 :

정보가 더 많으면 상황이 나아질까?아니면 더 나빠질까? 우리는 머지않아 알게 될 것이다. 현재 수많은 기업과 정부가 역사상 가장 강력한 정보 기술은 Ai개발 경쟁에 뛰어들고 있다. 미국의 투자가 마크 앤드리슨과 같은 몇몇 선도적인 기업가들은 Ai 가 마침내 인류의 모든 문제를 해결할 것이라고 믿는다. (-18-)
순진한 정보관의 믿음과 달리 호모 사피엔스가 세계를 정복한 이유는 정보를 현실의 정확한 지도로 바꾸는데 탁월한 재능이 있어서가 아니었다. 오히려 사피엔스의 성공비결은 정보를 활용하여 많은 개인을 연결하는 일에 탁월한 재능을 발휘한 것이다. 하지만 안타깝게도 이 능력은 거짓, 오류, 환상을 믿는 것과도 밀접한 관련이 있다. (-57-)
문서와 기록 보관소 덕분에 중앙에서 세금을 부과하고,재판하고, 징집하는 것이 더 쉬워진 면이 있었지만 그게 전부는 아니었다. 관료 권력의 작동 방식을 이해하기 어려워지면서 대중의 입장에서는 정부에 영향을 미치거나 저항하거나 그것을 회피하는 것이 더 어려워졌다. 관료제가 사람들에게 하수도, 교육, 안전을 제공하는 선의의 힘이었을 대도 여전히 관료제는 지배자와 피지배자 사이의 격차를 넓히는 경향이 있었다. 관료제 덕분에 중앙정부는 국민에 대한 정보를 더 많이 수집하고 기록할 수 있었지만, 국민은 시스템 자체가 어떻게 작동하는지 이해하기 어려운 처지가 되었다. (-110-)
다시 말해 ,과학혁명은 무지를 발견하는 것에서 시작되었다. 책의 종교들은 자신들이 오류 없는 지식의 원천에 접근할 수 있다고 가정했다. 기독교인에게는 그것이 성경이었고, 무슬림에게는 쿠란이었고, 힌두교도에게는 베다였으며, 불교도에게는 티파타카였다. (-170-)
카리칼라는 게타를 살해하라는 명령을 내릴 때도, 파르티아 제국에 전쟁을 선포할 때도, 로마시민권을 수백만 명의 브리튼인, 그리스인, 아랍인들에게로 확대할 때도 로마 시민들에게 허락을 구할 필요가 없었다. 로마의 자정 장치들은 이미 무력화 된지 오래였다. 카리칼라가 외교나 국내 정책에서 오류를 범해도, 원로원이나 공직자들은 반란을 일으키거나 황제를 암살한다면 모를까 달리 바로잡을 방법이 없었다. (-217-)
소련의 집단화 역사는 좀 더 깊이 들여다 볼 가치가 있다.왜냐하면 그것은 유럽의 마녀사냥 광풍처럼 인류 역사에서 앞서 일어난 재앙들과 닮은 점이 있는 비극인 동시에, 데이터의 '과학'을 맹신하는 21세기 기술이 어떤 위험을 야기할지 예고하는 사건이기 때문이다. (-251-)
1940년대와 1950년대에 컴퓨터가 처음 개발되었을 때 만흔 사람들이 컴퓨터는 오직 숫자 계산에만 능숙할 것이라고 믿었다. 컴퓨터가 언젠가 복잡한 언어와 법, 화폐 같은 언어의 산물까지 능수능란하게 다루게 될 것이라는 생각은 과학영화에서나 통했다. 하지만 2020년대 초에 이르러 컴퓨터는 텍스트 뿐만 아니라 음성,이미지, 코드 등 다양한 형태의 언어를 분석하고 조작하고 생성하는 놀라운 능력을 보여주었다. (-303-)
컴퓨터는 특정한 안구 운동 패턴을 토대로 집중하는 순간과 주의가 산만한 순간을 구분하고, 세부에 집중하는 사람과 맥락에 더 주의를 기울이는 사람을 구분할 수 있다. 또한 우리 눈동자를 통해 우리가 새로운 경험에 얼마나 열려 있는지와 같은 성격 특징들을 추론하고, 독서부터 수술까지 다양한 분야의 전문성 수준을 평가할 수도 있을 것이다. 잘 훈련된 전문가들은 체계적인 시선 패턴을 보여주는 반면 초보자의 눈동자는 목적 없이 배회한다. (-345-)
유기체가 아닌 컴퓨터는 죽는 것이 아무렇지도 않을지도 모른다. 우리가 아는 한 죽음은 유기적 현상이며 비유기체에는 적용되지 않는다. 고대 아시리아인들이 문서를 '죽인다' 고 말햇을 때 그것은 은유에 불과했다.하지만 컴퓨터가 유기체보다 문서에 더 가까운 존재이고 그래서 '죽임을 당하는 것'에 개의치 않는다면, 칸트주의자 컴퓨터는 인간을 죽여도 된다는 결론에 이르지 않을까? (-401-)
사회가 점점 더 많은 결정을 컴퓨터에 맡길수록 민주주의의 자정기능, 투명성, 책임성이 약화된다. 선출직 공무원이 자신이 이해할 수도 없는 알고리즘을 어떻게 통제할 수 있겠는가?이에 따라 '설명을 요구할 권리'라는 새로운 인권을 성문화하라는 요구가 높아지고 있다. (-466-)
16세기에 스페인, 포르투갈,네덜란드의 정복자들이 역사상 최초의 세계 제국을 건설할 때는 범선과 말,화약 무기(총과 대포)로 원주민을 제압했다. 19세기와 20세기에 영국, 러시아, 일본이 패권 경쟁을 할 때는 증기선, 기관차, 기관총 같은 산업 기술에 의존했다. (-517-)
엎마전 안동 모 고등학교에서,기간제 교사에 의해 시험지 유출 사건이 일어났다. 그 사건이 충격적인 이유는 인터넷이 발달하고, Ai가 등장하고, 정보통신망이 깔려있는 지금에도, 구시대에나 통했던 일이 일어났다는 점이다. 학부모 뿐만 아니라 학생들은 하교에 대한 불신이 커진 상태임, 법적인 소송까지 불사하겠다는 입장이다.
유발하라리가 쓴 『넥서스』는 ai가 우리 인간의 사고를 지배하고, 인간이 해오던 일을 대신하는 지금 현재의 모습에 대해서, 우리가 고대부터 지금까지 지식과 지혜를 어떻게 모으고 다루어 왔는지 짚어 나간다. 우리 사회 곳곳에 기술의 진보로 세상이 바뀌고 있음을 반증하고 있다. 유발하라리는 지식이 기하급수적으로 늘어나고 있는 상황에서,호모사피엔스의 지혜는 그에 미치지 못하는 이유를 이 책을 통해서, 서술하고 있었으며,정보 네트워크 시스템에서 그 원인응 찾고 있다.특히 지식의 궁극적인 목적은 호모 사피엔스에게 지식을 전달하는 것이 아니라, 사회의 질서를 만들기 위함이다. 질서와 관련해서, 종교가 만들어졌고, 문화가 만들어졌으며, 과학기술이 발달했으며, 표준화가 진행되었으며, 법과 제도가 만들어진 이유다.
민주주의는 고대 로마에서 지금까지 발전해 온 것은 아니다. 민주주의는 고대에 소규모의 지역적인 현상에 불과했다. 그건 우리가 생각하는 민주주의 제도가 정착되기까지 거쳐온 경과, 역사를 보면, 이해가 빠르다. 세계는 민주주의 국가들보다,왕정, 독재국가들이 더 많았다는 것을 고대의 세계의 역사에 그대로 나타나고 있다. 오스만제국, 페르시아 제국이 여기에 해당된다.
21세기도 마찬가지다.민주주의가 발달한 나라들은 기술과 과학이 발달한 나라들이다. 한국의 민주주의 ,미국의 민주주의를 높이사는 이유도 여기에 있다. 우리가 생각하는 민주주의의 기준에 대해서,유발하하리는 세로운 관점에서, 민주주의를 정의하고 있다. 정보통신이 발달한 나라가 민주주의가 발달할 수 있으며,중국과 같은 폐쇄적인 나라들은 민주주의가 발달하기 힘든 나라로 손꼽힌다. 중국은 인테넷이 발달하였지만, 전체주의 국가로 나아가고 있다.중세시대에 마녀 사냥이 흥했던 이유다. 마녀사냥은 보편적으로 독재,왕정국가에서나 일어난다.
지금 우리가 마주하고 있는 또 다른 국가의 형태는 전체주의 국가다. 중국과 북한이 여기에 해당된다. 정보통신의 발달과 과학적 진보로 인해 인간의 살 하나하나를 통제,관리, 감시할 수 있다.인공지능과 로봇, 센서로 ,인간의 행동이나 소지품을 검사할 수 있다는 점은 우리가 앞으로 어떻게 살아갈지 미래를 예측할 수 있다. 조지 오웰의 1984가 현실이 되고 있다. 인간이 해오던 결정과 역할을 인공지능,AI가 대신함으로서, 책임에 대한 부재, 투명성, 자정작용이 사라지게 되면서,기존의 민주주의 체제는 약해진다고 보고 있다.기술의 진보,Ai기술의 등장으로 인해 우리는 또다른 모순과 역설을 마주하고 있다.