AI는 양심이 없다

AI는 양심이 없다 - 인간의 죽음, 존재, 신뢰를 흔드는 인공지능 바로 보기
김명주 지음 / 헤이북스 / 2022년 5월

서비스 산업, 제조업, 행정, 교육, 나아가 일상생활에 이르기까지 거의 모든 분야에 AI가 도입되어 급격한 변화를 맞이하는 요즘입니다. AI가 일상에서 이처럼 널리 쓰이면 마냥 편할 것만 같지만 아직은 완성도가 떨어지는 데다 사람이 직접 응대할 때와는 달리 뭔가 고객 서비스가 무책임해진 듯한 느낌도 있습니다. 뿐만 아니라, 빅데이터를 활용하여 더 정밀하고 정확한 서비스를 제공한다고는 하지만 프로그래머, 시스템 오퍼레이터가 시스템의 정확한 자동 기제를 모른다면 오류를 어디서 개선해야 할지 알 수 없을 뿐더러, 사람한테서만 기대할 수 있는 윤리적 준칙 같은 건 아예 꿈도 못 꿉니다. 그래서 AI 시대의 전면 도래를 앞둔 사회는 특히 관련 법규범과 윤리적 기초를 마련하는 노력도, 기술적 완성에 쏟는 정성 못지 않게 기울여야 할 듯합니다. 

p60에서는 트랜스휴머니즘에 대한 논의가 나옵니다. 이는 무려 1989년, 지금으로부터 33년 전에 이란계 미래학자가 고안한 용어라고 합니다. 전통적인 인간상, 관점, 정체성에서 훨씬 벗어나 그보다 높은 능력을 발휘하면서도 종전의 본질을 어느 정도 간직하는 차세대 인간 담론을 가리키며, 그는 2030년에 이런 트랜스 휴먼의 개념이 완성될 것으로 기대하여 자신의 신체를 냉동시켜 줄 것을 요청했다고 합니다. 2030을 불과 8년 앞두고 있지만 1989년에 비해 유의미한 진보가 이뤄진 듯 보이지도 않고, 이란이라는 나라의 정치적 상황도 오히려 그때보다 더 경직되거나 폐쇄적, 나아가 퇴보한 듯도 보입니다. 기술적 면에서건 윤리적 면에서건 진보는 결코 쉬운 과제나 비전이 아니었나 봅니다. 

p68에서는 이런 논의에 결코 빠져서는 안 될 것 같은, 아이작 아시모프의 소설에 나왔던 인공지능 윤리에 대한 이야기가 나옵니다. 뿐만 아니라 1980년대 후반에 만들어진 SF 영화 <로보캅>에도, 순수 로봇이건 인간에 칩과 기계를 이식한 안드로이드건 간에 어떤 행동 준칙이 입력되는 설정이 나오는데, 인간은 타고난 양심 혹은 공감능력이라는 게 있어 따로 교육이 없어도(있는 편이 훨씬 낫지만) 어떤 격률에 의해 행동하지만, AI야 그런 게 있을 리 없으니 인간이 세세히, 그 창조주로서 세팅을 해 줘야 한다는 인식이 반영됩니다. 그러나 이런 픽션 속에 등장하는 정도로는 이 복잡한 세상 속에 AI를 론칭시키는 데 턱없이 부족합니다. 

사이버 가수, 배우 등은 20세기 말에 실험적으로 발주되었으나 모두 실패를 맞이했습니다(이 이슈는 이 책 p104 이하에서 리뷰됩니다). 그때와 지금이 다른 점이라면 소셜 미디어가 엄청나게 발달하여 이를 운영하는 인플루언서들이 활동한다는 건데, 사실 이런 계정주들이 꼭 실존하는 개인일 필요는 없고 얼마든지 가상으로 운영할 수 있습니다. 신X은행의 광고에 나오던 어떤 캐릭터가 크게 화제가 된 적도 있고, 이 책 p82 이하에도 여러 사례가 나오며 본캐뿐 아니라 이른바 부캐들까지 다양하게 파생하여 활용되고 있다고 합니다. 인플루언서 관련 논의가 매우 자세하고도 길게 나오는데, 특히 이런 가상 인플루언서야말로 말그대로 대중에 "영향을 끼치는" 존재들인 만큼 윤리 준칙의 확립이 시급한 선결과제이겠습니다. 

인공지능은 IBM 등 기업의 주도로  체스 같은 게임에서 처음 시도되었고 IBM은 이후 특히 의료 부문에서 이를 도전적 과제로 삼고 계속해 나간다고 합니다. 예전부터 가천 길병원과 협업을 시도했었고, 이 책에서는 국내 빅 5 병원들이 모두 이를 도입했다고도 소개합니다. 이어서 금융, 법률서비스, 미술 등에서도 AI는 실험적 행보를 이어가는데 아직 이것들이 만족스러운 서비스를 제공하거나 애호가들의 열렬한 관심을 받기까지는 걸어야 할 길이 먼 듯도 보입니다. 

GNR 기술(p167)이라 함은 유전, 나노, 로봇 공학의 앞글자를 딴 약어입니다. 특히 이 분야에서 인공지능은 급속도로 발전하여 학자, 기술자 들을 돕고 있으며 여기에서 얻어진 성과가 다시 범용 인공지능 발전으로 유입하여 인공지능 자체의 완성도를 높이는 게 쓰일 것으로 전망됩니다. 그러나 역시 인간만이 할 수 있는 섬세한 판단과 손길을 AI가 대체하기까지는 아직 높은 장벽이 남았겠죠. 인종차별, 소수자 혐오, 여성 경시 등의 성향을 내보이는 AI도 간혹 나타나는데 어차피 입력되는 데이터들이 그런 성향이었으니 그 산물인 AI에도 그런 개성이 배는 것도 무리가 아닙니다. 이 이슈는 "윤리"와 직결되어 있는 문제이기도 합니다.

특히 GAN이라고 하는, 이른바 생성적 적대 신경망(p198)은 AI의 최첨단을 보여 주는 성과입니다. 얀 르쾽의 찬사가 아니라고 해도, 이 GAN은 마치 헤겔의 변증법적 발전의 한 양태를 반영하는 것 같기도 하며, 몇 년 전에 타계한 어느 가수를 홀로그램으로 부활시킨 사례라든가, 지난 대선 후보 중 한 사람을 AI로 구현한 예 등이 모두 이 GAN에 기반했다고도 합니다. 이 GAN의 성과 덕에, 이른바 딥페이크가 더욱 놀랄 만한 완성도를 구현하게 된다는 게 책의 설명입니다. 

이 책의 4장부터 본격적으로 윤리에 대한 논의가 전개됩니다. 책은 스스로 질문을 던집니다. "왜 시작부터 윤리여야 하나?" 사실 이 책은 1~3장에서 그저 기술적 발전을 설명하는 게 아니라, 독자가 스스로 "이래서 AI 윤리 정립이 꼭 필요하겠구나" 같은 생각을 스스로 하게끔 유도하는 서술을 이미 하고 있었습니다. AI 공학자들이 최우선적으로 고민해야 할 과제이겠으나, 이런 성과를 타 분야에 응용하거나 향유하게 될 다른 분야의 전문가, 혹은 그저 소비자의 입장이라고 해도 윤리 규범의 제정에 참여할 필요와 권리가 있습니다. 그들만의 세계에 맡길 게 아니라 AI 윤리가 당장 우리의 문제임을 깨닫게 되는 게 이 책을 읽은 보람입니다. 

*본 포스팅은 네이버 카페 문화충전으로부터 제공 받아 솔직하게 작성된 서평입니다.

*출판사에서 제공된 도서를 받고 주관적으로 작성된 서평입니다. 

탁류 - 문학사상사版

탁류 ㅣ 한국문학대표작선집 4
채만식 지음 / 문학사상사 / 1997년 4월

이 작품은 <레디메이드 인생> 등으로 유명한 작가 채만식의 대표 장편입니다. 아마 이 장편은 "애송이에게 길 한복판에서 봉욕을 당하는 정 주사(主事)" 장면으로 중고교 교과서에 단골로 실리므로 그 대목 덕분에라도 꽤 유명할 것입니다. 

저도 이 작품을 완독한 건 고교생 시절이었는데 그 충격이 꽤 컸습니다. 중간중간에 거의 자연주의적 묘사라 할 만한 게 많고, 설정도 반윤리적인(물론 풍자와 비판의 의도이지만) 게 자주 등장했기 때문이죠. 여튼 이 <탁류>는 그 서두가 매우 유려하기로도 유명한 작품입니다. 일류 문장가의 작품은 역시 서두가 빼어나야 합니다. 

현재 이 책은 절판이며, 이 책 말고도 <탁류>가 워낙 중고생 필독서로 자주 선정되다 보니 시중에 나온 책은 이루 셀 수 없이 많습니다. 문학사상사도 아마 이 책을 처음 낼 때는 그런 수요를 노린 바가 있을 것입니다. 이 출판사는 물론 유구한 전통의 이상문학상을 주관하는 바로 그곳입니다(최근에 큰 잡음이 있기는 했으나).

갈재와 지리산 두 산의 산협 물을 받아 가지고 장수로 진안으로 무주로 이렇게 역류하는 게 금강의 남쪽 줄기다... 아주 유명한 문장이며, 지세를 이렇게 해석하는 게 또한 이중환의 <택리지>라든가 옛 문헌에 단골로 나오기도 합니다. 

시대상도 잘 반영되는 게 무대 군산에는 XX은행 지점도 있고, 제법 상거래가 근대적으로 발달된 상황이라는 게 충분히 암시가 됩니다.  또 이어 정주사의 부인 유씨가 자녀 공부에 열심이라는 문장도 있는데 한국은 고려, 조선 시대부터 교육열이 대단한 문화였죠. 중국도 마찬가지입니다만. 정주사가 반 도박으로 미두를 한 것도 이런 배경이 있어서인데 요즘 같으면 선물(先物. future)인 셈입니다. 

이 책과 쌍으로 제가 소장 중인 게 염상섭의 <삼대>(같은 출판사)입니다. 이 장편 역시 성인이 되고 나서 읽으니 학생 때에는 짐작이 안 되던 사정이 눈에 다 보여 흥미롭습니다. 

해밀턴의 그리스 로마 신화

해밀턴의 그리스로마신화 ㅣ 현대지성 클래식 13
이디스 해밀턴 지음, 서미석 옮김 / 현대지성 / 2022년 4월

신화란 우리 인류가 집단 무의식으로 발전시켜 온 지혜와 열망, 낭만, 상상, 그리고 과거에 대한 묵시와 미래에 대한 예지의 총체적 형상화라고 할 수 있습니다. 어느 문명이건 자신들 부족 고유의 신화 체계를 발전시켜 왔고, 이런 사정은 중국이건 우리건 중동인이건 페르시아인이건 이집트인이건 다르지 않습니다. 그리스 신화만 그에 유독 탁월한 인류 정신사적 가치를 부여받아야 할 이유는 전혀 없습니다. 게다가 그리스 신화의 모든 내용, 모티브가 인근 문화권의 영향으로부터 완전 자유로운 전적 창의로 꾸려진 것도 아닙니다.

그럼에도 불구하고 우리가 그리스 신화를 공부하고 그에 깊이 침잠할 수 있는 이유, 혹은 그렇게 해야만 하는 이유는 다음과 같습니다. 1) 싫든 좋든 지금 인류 문명은 유럽인들이 기본 틀을 닦아 놓은 토대에서 자라고 번영하고 있습니다. 그리스 신화를 모르면 국제 소통에서 문맹자나 마찬가지 처지에 놓입니다. 2) 굳이 "우리 아닌 저들의 것"이라며 선을 긋고 볼 필요 없이, 그리스 신화는 인류 보편적 정서와 가치, 그리고 문화적 의의를 충분히 담고 있습니다. 인간의 벌거벗은 욕망과 무의식적 충동을 그리스 신화 체계처럼 오롯이 담아낸 "거대한 이야기 보따리"가 또 있을까 싶을 만큼. 3) 그리스 신화는 그에 대해 가장 깊고 넓게 연구가 이뤄진 문예 영역입니다. 또 그리스 신화만큼 파생 서브컬처 창작이 활발히 이뤄지는 분야도 없습니다. 하나를 알게 되면 더불어 열을 알게 되는, 노력 대비 효율이 무지 높은 분야가 이 신화의 텃밭이라고 볼 수 있죠.

개인적으로 저는 이 신화 연구자들과 학문외적 일반 문인들 사이에 의외로 긴장이 높게 형성된 걸 보고 놀란 적이 있습니다. 신화만큼 열린 계(界), 진입과 퇴출이 자유로운 공유지가 또 어디 있다고, 어떤 정통 경전, 텍스트를 인정할 필요가 그리 크단 말인가 하는 회의감. 그런데 이 역시, 바른 학문적 체계를 잡고 파고 들어야 그 복잡다기한 이야기의 가지를 바로 파악하고, 정확한 이해를 도모할 수 있습니다.

고대 그리스어는 모든 인도-유럽 어족 중에서도 시제가 까다롭기로 유명한 언어죠. 정확한 구문의 이해가 선행되지 않고는 텍스트의 바른 전달(번역)이 불가능하다는 점에서, 유 박사님은 이 소재를 다루기에  최상의 적임자라고 할 수 있습니다. 책 앞부분에는 그리스어 음가표, 표기법 등에 대한 원칙이 상세하게 적혀 있는데, 아직도 중구난방으로 혼란스러운 우리의 난맥상을 바로잡아 줄 중요한 지침이 되어 줄 것 같습니다.

특히 제가 이 책에서 주목한 건 시간의 신 크로노스와 제우스의 아버지 농경의 신 크로노스가 혼란 없이 바로잡히고 있다는 점입니다. 이 대목에 대해 정확한 이해가 선행되지 않으면, 신화의 맥락을 전혀 엉뚱한 방향으로 오해할 수 있습니다. 특히 후자인 크로노스에 대해서는 명화나 문예작품 속에서 다양하게도 그 의의가 원용되는데, 가끔은 서양인들도 이 두 신격에 대해 혼동을 범하거든요. 처음에 바른 체계를 잡고 그 위에서 인식의 지평을 넓혀가는 작업이 그만큼이나 중요한데, 이 책은 그런 독자들에게 완벽한 바이블로 기능할 것 같습니다.

<미들섹스>라고 (한국에도 "간성"이라는 제목으로 번역됨) 그리스계 작가가 뉴욕타임즈 베스트셀러를 대략 13년 전에 내놓아 큰 히트를 친 적 있습니다. 지중해성 기후대에서 비교적 빈도 높게 나타나는 현상인데, 고대인들에게는 이런 게 더 자주 보는 phenomenon이었나 봅니다. 저자 유 박사님은 이 변형적 성性에 대해 그 의의를 언급하고, 이 비슷한 착상이나 원형이 중국 신화에도 나옴을 언급합니다. 이처럼 이 책은, 신화학의 비교문학적 어프로치를 통해 독자의 이해를 돕는다는 게 그 탄탄한 학문적 장점 중 하나로 꼽힐 수 있습니다.

*출판사에서 제공된 도서를 받고 주관적으로 작성된 서평입니다. 

기억의 뇌과학

기억의 뇌과학 - 인간의 기억은 어떻게 만들어지고 사라지는가
리사 제노바 지음, 윤승희 옮김 / 웅진지식하우스 / 2022년 4월

정관정요는 제왕학의 교본이라고 불리는 고전입니다. (사냥)반려조를 완롱하던 당 태종이 느닷 출현한 재상 위징 때문에 소매 속에 이를 감추었다가, 일부러 시간을 끈 위징의 수작으로 기어이 질식하여 죽게 만들었죠. 그럼에도 불구하고 이를 오히려 하례한 장손 황후의 일화가 유명하듯, 제왕의 성공 여부는 얼마나 절제하고 자성할 수 있는지에 달렸다 해도 과언이 아닙니다. 이 책은 이처럼, 스스로 냉철해지고 자신을 객관화하는 제왕의 자질을 논하는 내용입니다.

창업과 수성 중 어느 편이 어려운가? 이는 <삼국연의>를 유독 즐겨 읽는 한국 독자들에게도 익숙한 주제입니다. 삼국시대는 당 태종의 치세로부터 근 4백 년을 거슬러올라갑니다만 당 태종과 그의 동시대인들 역시 삼국시대의 군웅에 대해 깊은 관심을 갖고 논쟁의 대상으로 삼았습니다. 

"벌 주지 않을 테니 직간하라" 그래서 요즘도 익명게시판이라는 게 있고, 어떤 사람들은 익명성 뒤에 숨어 온갖 못된 협잡질을 하거나 더러운 감정을 배설합니다만 이 익명의 순기능 또한 무시할 수 없기 때문에 많은 조직에서는 이를 유지합니다. 익명의 100가지 발언 중 단 두어 가지만 쓸만한 게 있다 해도 조직의 리더는 이를 쓸모 있게 활용할 수 있습니다. 뛰어난 리더는 바보의 지나가는 헛소리로부터도 영감을 추출하는 능력을 갖춰야 합니다.

"불필요한 관리를 줄여라" 청말에 서양인들이 중국을 반식민지 상태로 만들 무렵 그들에게 큰 인상을 준 게 바로 관료주의였습니다(물론 나쁜 의미에서). 물론 유럽에도 관료제가 그 나름 큰 뿌리를 갖추고 발달했으나 중국의 그것에는 미치지 못합니다. 애초에 유럽의 관료제라는 것부터가 중국으로부터 영향을 받았으며, 과거제를 통해 능력 위주의 인재 채용 방식을 처음으로 도입했다는 자체가 대단히 뛰어난 혁신의 산물이었습니다. 과거제는 당의 직전 왕조인 수나라에서 정착시킨 제도이며, 당이 망하고 난 후 들어선 5대의 마지막 왕조 후주에서 귀화한 쌍기라는 인물이 고려 광종을 통해 한반도에 이식했다고 할 수 있습니다.

"태자에게 올바른 간언을 올려라" 전제 군주제에서 여튼 시스템의 후계는 혈통상의 비속에게 이어질 수밖에 없습니다. 세습제라고 하여 모두 부정적인 영향만 있는 건 아니며, 아들만큼 그 부친의 장점을 근거리에서 모두 배울 수 있는 유리한 위치는 없습니다만 단점 역시 결코 무시할 수 없습니다. 당대처럼 혈통이 절대적 비중을 차지하는 시스템이라면 세습 후계자에게 훌륭한 자질을 갖추게 하는 게 현실적인 방도이며, 이 책은 통치자뿐 아니라 그 통치자의 직계승자를 어떻게 길러낼 것인지에 대해서도 심도 있는 방안을 제시합니다. 

하늘만큼 먼 나라 - 노경식

하늘만큼 먼 나라 ㅣ 지만지 한국희곡선집
노경식 지음 / 지만지드라마 / 2019년 8월

1983년은 KBS에서 이산가족 찾기 생중계 방송을 실시하여 눈물겨운 상봉을 드라마처럼 실현시키는 이벤트가 있었던 해입니다. 한국은 1945년 38도선 분단, 1953년 휴전선 획정, 그 사이의 한국전쟁이라는 엄청난 전란 때문에 가족들, 부모형제나 부부 사이에 생이별을 겪는 큰 계기를 맞습니다. 요즘 같으면 국가 행정력이 잘 구비되고 전산망의 도움이라든가 DNA 검사 등의 혜택을 입을 수 있겠으나 당시에는 이런 걸 기대하기 어려웠습니다. 꼭 한국전 당시가 아니라 해도 우연한 사고, 경제적 궁핍 등으로 혈연과 헤어지는 일이 요즘보다는 훨씬 자주 일어날 만했습니다. 

주인공들은 노부부인데 원래 38선 이북에 거주하던 이들이 월남하면서 헤어지게 되고, 남편은 아들, 딸과 함께 살다가 새 부인을 맞이하게 되고 딸은 어린 나이에 죽습니다. 아들은 장성하여 결혼하고 남매 둘까지 슬하에 두는데 이들을 키운 사람은 영감님의 후처였으며 이분도 병으로 일찍 죽습니다. 아들과 손자, 손녀는 "낳아주신 (얼굴 모를) 어머니(할머니)"와 "길러 주신 어머니(할머니)"를 구분하며 성장했고, 영감님의 후처가 이들을 지극정성으로 돌보았기에 정서적 애착은 친모(친조모) 못지 않게 형성된 상태입니다. 영감님의 후처가 된 분도 초혼은 아니었는데 후사를 못 본다고 해서 시가로부터 소박을 맞은 분을 영감님이 맞이한 것입니다. 영감님과의 사이에서도 아이가 없었던 걸 보면 불임의 원인은 여성 쪽에 있긴 했나 봅니다. 당시는 시대가 시대였으니만치 이런 걸 두고 여성에게 큰 흠을 잡았겠음은 우리가 짐작하고도 남음이 있으며 이런 것이 봉건적인 몹쓸 폐습, 인습임은 새삼 지적할 필요도 없이 당연합니다. 

한편 영감님과 젊어서 생이별을 하게 되었던 부인은 어느 재산가와 연을 맺게 되었는데 이 재산가와의 사이에서 새로 아들 하나 딸 하나를 봅니다. 재산가에게는 누이가 하나 있었는데 같은 직장을 다니면서 부인을 알게 되고 남동생에게 소개하면서 두 사람이 맺어졌습니다. 오늘날에는 남부러울 것 없이 잘사는 집안을 일궜으나 젊었을 때는 고생을 많이 했으며 특히 그 남동생은 일자무식 적수공권에서 건축업으로 일어선 자수성가형 인물이었습니다. 건축업자는 현재 고인이 된 상태입니다. 

"그런 사람(건축업자)이었다면 (성정이 거칠어서) 임자한테 막대하지는 않았던가?" "전혀 아니었고, 아주 착한 사람이었어요."

이산가족 찾기 방송에서 목표를 달성하려면 짧은 시간 동안 규격화한 패널을 들고 방송에 비춰지기라도 해야 요행을 바랄 수 있었지만 정말 운 좋게도 영감님과 그 부인은 방송을 거치지도 않고 상봉하게 됩니다. 여의도 인근 공원에서 지난 이야기를 주고받으며 삼십 년 넘는 세월 동안 못다 나눈 회포를 풉니다. 허나 각자의 아들들은 이 사실을 아직 모릅니다. 

영감님의 아들은 당연히 두 사람의 소생이지만, 영감님의 부인이 건축업자와의 사이에서 본 아들은 당연하게도 영감님과 아무 혈연 관계가 없습니다. 영감님의 아들과 건축업자의 아들은 말하자면 이부형제인 셈인데, 이복 형제라고 해도 사이가 좋으라는 법이 없었고 하물며 여전히 여성의 재가가 금기시되던 당시라면 특히 건축업자 아들 입장에서 모친의 전남편과 그의 소생이 자신의 모친을 만나는 게 반가울 리가 없습니다. 오히려 탄탄한 재력을 바탕으로 사회적 명성과 지위를 일군 지금, 자신의 모친에게 어떤 과거가 있었다는 게 알려지면 가문의 명예에 큰 흠이라도 잡히지 않을지 꺼려지기만 합니다. 

게다가 영감님의 아들은 작은 회사에 다니는, 그리 넉넉지 못한 형편이기까지 합니다. 그러니 건축업자 아들 입장에서는 이런 종류의 이산가족 상봉이 반갑기는커녕 악몽으로 다가옵니다. 영감님의 아들은 처음에 이부 동생의 이런 속물적이고 이기적인 처신에 격분했으나, 차차 그의 입장을 이해하게도 됩니다. 영감님 입장에서는 삼십 년 전 부부의 연을 맺고 슬하에 자녀까지 보았다가 전란으로 생이별을 한 아내의 행방을 뻔히 알면서도 마음껏 만나지도 못한다는 사실에 절망할 수밖에 없습니다. 

그저 감동의 이벤트로만 인식되던, 수십 년 만에 만나게 된 이산가족 상봉 그 이면에 이런 말못할 사정이 있을 수도 있겠음을 날카롭게 묘파한 작품이며, 속물 근성 가득한 건축업자 아들의 반응이라지만 어느새 독자들까지도 씁쓸한 긍정을 하게 만드는 이야기솜씨가 탁월합니다. 이산가족 찾기 방송을 주관한 KBS에서 이를 극화한 게 또 특이하며, 영감님과 그 부인 역에 이낙훈씨와 반효정씨, 아들 역에 전무송씨, 건축업자 아들 역에 민욱씨 등이 나와서 실감나는 연기를 펼칩니다.