챗gpt 분야별 맛보기

포스트 챗GPT - 폭주하는 AI가 뒤흔든 인간의 자리
박상현 외 지음 / 한빛비즈 / 2023년 5월

챗gpt의 등장 이후 모든 분야가 매우 발빠르게 이 인공 지능을 사용했고, 소감을 말했으며, 비평하고, 미래를 진단하기 시작했다. 지금까지도 빠르게 흐르던 사회가 더 빨리 흐르는 느낌이었다. 순식간에, 부지불식간에 인공 지능이 내 생활로 밀어닥쳤다. 

발빠른 출판사 대표는 챗gpt를 이용해 책을 써서 화제가 되었고, 너도나도 이와 관련된 책을 급하게 출간했다. 저자를 급히 섭외하고, 원고를 급히 받고, 편집자는 아마도 밤을 지새우며 급히 원고를 검토하고, 교열교정을 봤을 것이다. 유사한 책들이 많이 쏟아졌다. 모두가 챗gpt를 배워야 했고 알아야 했기에 이 책들은 꽤 잘 나갔을 것이다. 이 책도 이러한 흐름에서 기획, 출간되었다고 생각한다. 

심리, 테크, 기술, 의료, 언론, 출판, 법률, 교육, 철학, 시민사회, 과학 등 다양한 영역에서 한 저자씩 섭외하여 한 꼭지씩 글을 받아 실었다. 어떤 글은 이제는 너무 다 아는 이야기가 되어버렸고, 어떤 글은 몰랐던 지식도 주고 통찰을 주기도 했다. 다양한 분야에 종사하는 이들이 각자 어떤 생각을 하는지 살피는 기회였고, 책을 읽으며 꽤 많은 밑줄을 그었다. 

챗gpt를 어떻게 사용해야 하는지를 알려주는 매뉴얼 성격의 책들도 있다. 그런데 챗gpt가 인간에게 어떤 의미인지, 인간 사회에 어떤 영향을 줄지, 이 인공지능은 왜 이렇게 거짓말을 그럴듯하게 하는지 등을 탐구해야 한다. 지금까지 보지 못했던 인공 지능의 형태였고, 튜링테스트를 거뜬히 통과할 능력 있는 놈이며, 세상의 모든 지식을 갖고 있어 질문하면 상당히 그럴듯하게 일목요연하게 정리해서 내놓기도 한다. 

앞으로 또 얼마나 진화한, 대단한 인공 지능이 나올지 기대되기도 하고, 너무나 급격한 변화에 어떻게 이 흐름을 따라가야 하나 하는 생각도 든다. 인공 지능이 발달하고 더 편리한 세상이 돼도 인간은 너무나 바쁘다. 이 변화를 못 따라갔다간 자칫 냉동 상태로 보관되어 있다가 36년 후 세상에 나온 데몰리션맨이 될 판이다. 이 책으로 각 분야에서 어떻게 이 변화를 보고 있는지, 받아들이는지 맛볼 수 있다. 감 잡고 더 깊이 탐구한 다른 책으로 옮겨타도 좋다.  

심리적 전능감을 극대화하는 것은 ‘철저한 무지’도 ‘치열한 앎’도 아닌 ‘선택적 무지’다. "가르치려 들지 마. 내가 편들고 싶으니 편드는 거야." 탈진실은 의도적 무지, 적극적 무지의 다른 이름이다. 대중만이 아니라 일부 지식인들까지 이 경향에 적극적으로 동참하면서, 이제 ‘옳고 그름’은 ‘좋고 싫음’으로 대체된다. 예술사회학자 이라영은 이 멘탈리티를 "나는 알기 싫다, 고로 혐오한다."라는 문장으로 간명히 요약한 바 있다.(박권일)
- P116

우리는 대부분의 시간을 콘텐츠를 가장한 광고, 혐오 선동, 포르노 등 온갖 주목 경쟁에 낚이는 데 보낸다. 그나마 어떤 주제를 직접 고민하고 스스로 공부하던 우리의 짧은 시간마저 인공지능에 몽땅 넘겨버리고 나면, ‘깊이 배우는’ 유일한 존재는 기계가 될지 모른다. 그게 바로 정치의 종말이고 인간이라는 종의 마지막 모습일 것이다.(박권일)
- P120

정보 검색 능력의 문제를 평등하게 해소하고, 정보 수집의 편의성을 증대시킬 것이며, 정보 검색, 번역, 문서 작성 등의 시간을 줄여 더 많은 정보가 수월하게 교류될 수 있게 할 것이다. 이러한 기대에도 불구하고 우리가 스스로 만든 프레임으로 세상을 보는 것이 아니라 만들어진 프레임으로만 세상을 보고 판단하게 되지나 않을까 하는 두려움이 있다.
- P180

당신이 피로와 무기력에서 벗어나는 법

과부하시대 - 당신은 게으른 게 아니라 진심으로 지쳤을 뿐이다
로라 판 더누트 립스키 지음, 문희경 옮김 / 더퀘스트 / 2023년 1월

현대인들은 모두 지쳐 있다. 노동 시간은 분명 지난 세기보다 줄었고, 소득이 늘고 여가에 활용하는 시간도 늘었지만 사람들은 지쳐 있다. 사회가 그만큼 더 빨리 변화하고 있고, 변화를 따라가거나 적응해야 하며, 우리에게 즐거움을 줄 만한 문화적 유혹도 많아졌기 때문이다. 자기계발에 박차를 가하는 동시에 트렌드를 따라가야 하고, 늘 스마트폰은 우리 손에서 떨어지지 않는다. 

비교 사회. 우리는 자의든 타의든 늘 비교 당하며 살고 있다. 행복이 소득과 관련이 없다는 최근의 연구 결과도 있는데, 행복은 무엇에 비례하는지 모르겠지만, 불행은 비교에서 온다. 비교는 타의에 의해 당하는 것도 있지만, 나 스스로 타인과 나를 비교하는 것도 있다. 

바쁘고 불행한 사람들은, 늘 예민하고, 건드리면 폭발하고, 분노를 쏟아부을 곳이 있어야 한다. 나 자신을 조율하고 균형 있게 온전히 살아가는 게 힘든 사회다. 그럼에도 우리는 그러려고 노력해야 한다. 타인과의 비교에서 벗어나 나를 바라보고, 화를 다스리고, 내가 무엇에 집착하는지 내 마음을 들여다봐야 한다. 활력을 키우고 타인을 돕고 공동체에 기여하는 방법을 찾고 실행한다. 행복은 거기에서 온다. 

과부하 시대. “아무것도 하기 싫은 지친 마음에 잘못은 없다. 살아가는 것만으로 피로하고 무기력한 사회, 당신은 이미 최선을 다하고 있다. 삶의 균형감을 찾는 마법은 여기서 뭘 더 할 때가 아닌 덜어낼 때 일어난다. 사소해도 좋다. 작을수록 좋다. 나를 피폐하게 만드는 일을 줄이고, 지탱해주는 일에 집중하라.” 

곳곳에 인용된 투투 대주교나 에머슨, 마르틴 부버, 카뮈, 누스바움 등의 인용문이 새길 문장이 많다. 또 중간중간 삽입된 한 장의 삽화가 표현하는 모습과 상황이 매우 재밌다. 쉽고 짧아 지적 노력 없이도 금방 읽을 수 있다. 

자기를 피폐하게 만드는 일을 줄이고, 지탱해주는 일을 많이 하는 데 집중해야 한다. 내가 통제할 수 있는 일에 집중하려고 노력하면 과부하가 줄어들고 균형감과 안정을 찾고 다가올 일을 탐색할 여유가 생긴다. 어떤 상황에서든 자신에게 가능한 방법을 모색하는 힘이 내 안에 남으면, 나중에는 노력을 적게 해도 된다.
- P110

어느 열일곱 청소년의 말을 빌려오면, 스냅챗은 ‘넌 저기에 초대받지 못했어.’라고 말하는 반면에, 인스타그램은 ‘난 저렇게 할 여유가 없어’라고 말한다.
- P123

활력을 키우면 기민하고 자신감이 생기며 무슨 일에든 적극적이 된다. 더욱이 예상치 못한 상황에서 잠재된 능력을 끌어내야 하는 경우에는 비축된 힘을 내 무너지지 않는 한계선을 세워준다. 즉 활력은 과부하에 걸리지 않게 도와준다. 강조해온 메시지를 다시 말하자면 ‘작을수록 좋다’, ‘한 번에 하나씩, 한동안 하나에만 집중해야 한다. 한 일이 끝나면 그때 다른 일을 더한다. 그러면 수월해진다. 나의 헬스 트레이너는 이렇게 말했다. "이 작은 동작 하나가 이래 봬도 효과는 큽니다." - P209

내면을 깊이 들여다보라. 안으로 들어가는 길이 위기를 지나더라도.(틱낫한, 승려) - P265

세대 게임: 세대에 주목하도록 판을 짜서 어떤 전략적 이익을 얻고자 하는 활동이나 움직임

세대 게임 - '세대 프레임' 을 넘어서
전상진 지음 / 문학과지성사 / 2018년 1월

세대론에 관한 이야기는 저자들마다 다채롭다. 비슷한듯하면서도 또 다른 지점을 짚어서 재밌다. 이 책은 새로운 접근 방식이다. 2018년에 나왔으니 몇 년 지나 현재의 한국 사회를 읽기엔 이 책에서 다루는 소재가 이젠 옛날이다. 박근혜 정부와 촛불 집회 시점을 다루고 있다. 그러나 소재를 빼면 지금도 의미있고 재밌게 읽힌다. 

“세대 게임은 사람들이 세대에 주목하도록 판을 짜서 어떤 전략적 이익을 얻고자 하는 활동이나 움직임을 말한다.” 

보통의 세대론에서 다루는 ‘요즘 세대’에 관한 책은 아니다. 학문적으로 접근한 세대론, 세대 게임을 다룬다. 즉, 각 세대를 지칭하는 명칭이 어떻게 부여받고, 그 명칭에 속하는 사람들이 어떻게 스스로 의미 부여하는지 등 세대론이 만들어지고, 입히는 프레임, 그리고 각 세대들이 주장하는 바, 자신의 이익을 위해 세대론을 이용하는 정치판 등을 다룬다. 

흔히 세대는 나이 또는 출생년도에 따라 구분되지만, 그렇지 않은 세대도 있다. MZ세대, X세대, 밀레니엄 세대 등의 명칭(시간 브랜드)은 전자에 해당하고, 촛불 시민, 태극기 부대 등 스스로의 정치적 입장이나 살아온 경험과 배경을 바탕으로 한 주체성에 기반한 명칭(세대 브랜드)은 후자에 해당한다. 한 사람이 사회적으로 명명되는 여러 세대의 명칭에 해당할 수도 있다. 나이와 출생년도에 따라 구분되는 세대는 자신의 의지와 상관없이 부여되는 것이며, 자신의 사회적, 정치적 견해를 적극 드러냄으로써 명명되는 세대는 내 의지를 반영하고 있다. 

“나이는 세대가 형성되는 데 매우 중요한 조건이지만, 나이가 비슷하다고 해서 스스로를 하나의 공동체로 생각하는 세대가 자동적으로 만들어지는 것은 아니다. 따라서 질문은 세대의 존재 유무가 아니라 ‘어떻게 세대가 만들어지는지’를 향해야 한다.”

정치판에서는 이러한 세대론을 전략적으로 이용한다. 노인과 청년층을 분리하기도 하고, 남성과 여성을 분리하는 전략을 세우기도 한다. 한국에서는 보통 보수 계열이 지금의 노인 세대가 전후 한국 사회에서 힘들게 노력해온 노고를 칭송하고 위로하며 노인 세대를 자신의 편으로 만들고, 진보 계열이 청년층의 어려움을 위로하며 자신의 편으로 만든다. 그래서 젊은층에게 투표를 독려하고 인증샷 이벤트 같은 것을 하면, 노인 세대는 우리도 질 수 없다며 반대 심리로 투표를 하러 나오곤 했다. 그런데 윤석열이 대통령이 되던 선거부터 구도가 바뀌었다. 남성과 여성을 분리하는 전략은 젊은 남성의 보수 지지율을 높이고, 반 페미니즘의 흐름을 만들었다. 젊은이들 중 남성이 보수로, 여성이 진보로 나뉘는 형태를 만들어버린 것이다. 노인 세대는 당연히 보수의 편이니, 보수가 청년 세대 중 남성을 자신의 편으로 만드는 전략이었던 것이다. 

세대론을 이용한 싸움은 매우 위험하다. 단순히 선거에서 승자와 패자를 나누는 걸로 그치지 않고, 지속되는 사회 갈등으로 만들 수 있기 때문이다. 오늘 한국 사회에서 가장 심한 갈등은 노인과 청년의 갈등이 아니라 젠더 갈등이다. 

“페미니즘이 반대하는 것이 남성이 아니라 남성 중심주의인 것처럼, 우리 역시 세대를 피해자와 가해자로 나누는 세대 프레임의 편견에서 벗어나야 한다. 만약 그러지 못한다면, 우리는 지금껏 경험하지 못한 새로운 차원의 세대 갈등을 맞게 될 것이다.” 

여성이든 남성이든 피해자가 될 수 있다. 그런데 한국 사회에서 남성 당하는 성적, 신체적 피해보다 여성이 당하는 피해는 압도적이다. 사례 수가 많은 것뿐만 아니라 피해의 정도가 돌이킬 수 없을 정도로 심하다. 사귀던 남성에게 살해당하고, 집에 가다 얻어맞고 기절하고 성폭력 당하고, 납치당하려던 걸 지나가던 시민이 신고해서 겨우 구해지고. 여성은 아는 사람이든 모르는 사람이든 남성으로부터 무차별적으로 희생당하고 있다. 여성에겐 생존이다. 어제 본 뉴스 중 여성이 여성을 살해한 케이스도, 결국 피해자는 또 여성이다. 가해자는 남성이나 여성이 될 수 있는데, 피해자는 늘 여성이다.

“진실과 진리가 우리를 언제나 행복하고 자유롭게 하지 않는다. 특히 당사자에게는 더욱 그렇다. (…) 사실보다 믿음, 팩트보다 기분이 더 중요하다. 믿음을 방해하는 사실은 불편하다. 기분을 망치는 팩트는 더럽다.” 

팩트가 나의 기분을 상하게 할지라도 우리는 진실과 진리를 보려고 노력해야 한다. 진실을 외면하면 안 된다. 있는 사실은 사실 대로 인정하고 개선하려고 노력해야지, 여성이 왜 사회적 약자냐, 여성만 피해자냐는 식의 대결 구도는 문제를 해결하는 데 전혀 도움이 되지 않는다. 

딥페이크의 얼굴, 누가 바꾸는가, 왜 바꾸는가

딥페이크의 얼굴 - 기술이 만든 얼굴이 우리에게 묻는 것 ㅣ 북저널리즘 (Book Journalism) 91
이소은.최순욱 지음 / 스리체어스 / 2023년 5월

전세계적으로 인공지능이 핫하다. 한국 사회에서도 모든 영역에 걸쳐 인공지능이 핫하다. 뇌과학, 인공지능 관련된 학자들은 여기저기 부르는 곳이 많아 바쁘게 지내고 있고, 관련된 책도 속속 출간되고 있다. 기술은 워낙 빨리 발전하고, 논의는 이를 뒤따르기에, 관련 논의와 주제가 있으면 부지런히 따라가야 한다.

딥페이크는 인공지능의 한 모습이다. 챗GPT의 등장과 관련없이 이전부터 문제가 됐고 논의가 됐던 주제다. 오바마 대통령의 얼굴로 엉뚱한 소리를 하거나, 젤린스키 우크라이나 대통령이 항복을 선언을 하는 등의 영상으로 논란이 됐었고, 가깝게는 한국 걸그룹 멤버들의 얼굴이 들어간 포르노 영상이 있다. 

딥페이크는 단순히 포토샵이나 영상 기술을 활용하여 남의 몸에 특정인의 얼굴을 합성하는 것이 아니다. 얼굴을 바꿔 합성한다는 건 그 사람의 정체성과 관련된 문제이다. 얼굴이 삽입된 대상은 자신의 의지와 관련 없이 타인의 시선을 만족하기 위한 또는 놀이감이 되기 위한 대상이 된다. 

유명인의 얼굴이 딥페이크된 영상에서는 그 유명인이 살아온 역사와 경험은 무시되기도 한다. 성평등을 주장하던 사람이 성차별 발언을 할 수도 있고, 인종차별에 반대하던 사람이 흑인이나 아시아인을 향해 인종차별을 가할 수도 있다. 이런 경우는 유명인의 평소의 생각과 다르다면, 사람들은 의심할 수 있다. 그런데 평소 그의 삶의 가치관과 부합하는 듯한, 하지만 그가 발언한 적 없는 메시지를 영상을 통해 내보낸다면, 보는 이들은 이를 믿을 수밖에 없다. 

인공지능 시대에는 진실과 거짓의 경계가 무너진다. 잘 만들어진 딥페이크 영상은 진실에 대한 의심을 강화하고, 결국 딥페이크 영상이 아닌 모든 영상과 기사와 사실 보도에 대해서도 의심을 하게 만든다. 의심이 쌓이고, 불신의 사회가 되는 것이다. 인공지능 시대는 피곤하다. 진실과 거짓을 가리는 것부터 해야 하기 때문이다. 

딥페이크 영상을 만드는 이는 의도가 있다. 그래서 보는 이는 이 메시지를 담은 영상에서 누가 왜 그 사람의 얼굴을 넣었는가, 왜 바꿨는가에 주목해야 한다. 만든 이의 의도를 알면 딥페이크 영상에 관심을 줄 이유가 없다. 

이 책에는 딥페이크와 관련된 사건들과 구글, 메타 등의 플랫폼 기업들이 딥페이크에 어떻게 대처했는지, 대처하는 기준을 세우고 있는지를 살펴볼 수 있다. 또, 딥페이크와 관련하여 얼굴의 철학적 의미를 미셸 푸코와 벵자맹 주아노의 시선으로 살펴볼 수도 있다. 얇은 책이고, 새로운 통찰을 주기보다는 딥페이크와 관련해 알아두어야 할 것들을 잘 정리했다. 

딥페이크는 창작과 수정, 선택의 과정을 모두 기계의 작업으로 ‘블랙박스화’하며 이미지 합성과 조작을 심층적으로 자동화하고 있다. 인간은 영상을 조작하라는 명령만 내릴 뿐 실제 작업 과정에는 관여하지 않고, 데이터만 충분히 양질이라면 이미지 조작은 인간의 능력에도 구애받지 않는다. 딥페이크의 시대, ‘누가 이미지를 조작했는가’를 넘어 보다 핵심적인 질문들을 던져야 하는 것은 이 때문이다. 딥페이크로 조작된 영상물에 대해서는 창작자가 누구인지보다 ‘창작의 의도’와 만들어진 결과물이 가져올 사회적 파급력을 묻는 것이 훨씬 더 중요하다.
- P31

딥페이크 영상이 자아내는 정서적 효과는 원본 이미지가 의도했던 정서를 전복하거나 변형한다. 이 점에서 딥페이크는 개인적 수준에서는 정서의 극대화일지 모르나 사회적 수준에서는 특정 이미지가 의도하는 정서를 개별적으로 날조하는 기술에 가깝다. 앞서 살펴본 정치적 인물을 바꿔치기하는 일이 ‘정보의 조작’과 관련된다면, 연예인의 얼굴을 합성하는 ‘놀이’나 포르노그래피는 이미지가 전하는 ‘정서의 조작’과 연결되는 셈이다.
- P50

프랑스의 철학자 미셸 푸코에 따르면, 가면을 쓴 사람은 가면이 상징하는 영혼을 가장하는 것이 아니라 실제로 그 영혼이 되며, 가면을 쓴 ‘배우’는 자신의 존재를 ‘잠시 멈추고’ 가면에 재현된 얼굴 그리고 영혼을 다시 살아나게 만든다. 가면이 가진 힘은 가면을 통해 세상에 직접적인 공간을 갖고 있지 않은 공간으로 육체를 들여보냄으로써 육체를 신의 세계와 소통하는 상상적 공간의 단편으로 만드는 데 있다. 가면을 걸침으로써 몸은 ‘위대한 유토피아적 배우’가 된다고 푸코는 말한다.
- P131

AI 시대, 인간은 무엇을 할 것인가

AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라
헨리 A. 키신저 외 지음, 김고명 옮김 / 윌북 / 2023년 5월

챗GPT의 등장 이후 놀라운 일이 계속되고 있다. 지금까지의 인공지능은 우리 삶에서 알게 모르게 티나지 않게 생활의 편리를 돕는 방식으로 이루어졌다. 그런데 챗GPT가 세상에 모습을 드러낸 후 사람들은 인공지능이 할 수 있는 결과물에 놀라고 있다. 인공지능이 글을 쓰고, 시를 짓고, 이야기를 만들어내고, 거짓말을 하고, 그림을 그리고, 사진을 만들어낸다. 챗GPT를 이용해 책을 낸 출판사가 있고, 챗GPT를 이용해 사진전에 공모했다가 대상을 수상했으나 챗GPT를 이용한 것임을 밝히고 상을 거절하기도 했다. 

고대 그리스까지 가지 않고, 한국의 조선 시대만 봐도 양반들은 시를 짓고 그림을 그리고 정치를 하는 등 놀고 먹고 창작하는 여가 활동을 위해 집안에 노예를 부려 귀찮은 일, 허드렛일을 처리했다. 인간이 인공지능의 쓸모로 생각한 것은 여기까지였지만, 이제 인간의 창작 활동까지 인공지능이 넘보고 있는 것이다. 사람만이 할 수 있는 일까지 인공지능이 해내고 있다. 그 현실을 목도하고 있다. 

“인공지능은 인간이 통제할 수 있는 도구다. 문제는 우리가 설정한 안전상의 제한을 누군가는 설정하지 않으리란 점이다. 이에 반응하고, 규제하고, 대처할 시간이 그리 많지 않다.”(샘 올트먼, 오픈 AI CEO)

인간이 쌓아놓은 온라인의 데이터를 스스로 학습하여 점점 더 발전된 결과물을 내놓는 인공지능을 인간이 따라잡기는 사실상 어렵다. 인공지능은 생각하지 않지만, 생각하는 인간보다 더 좋은 창작을 해낸다. 보통 수준이 아니다. 물론 인공지능이 좋은 결과물을 내놓으려면, 인공지능에게 지시하는 인간이 그만큼의 전문성과 좋은 질문을 확보하고 있어야 한다. 그래서, 인공지능은 스스로 좋은 창작물을 내놓지는 못하고, 사실상 뛰어난 인간과 협업을 통해 내놓을 수 있다. 그러나 미래는 어떻게 될지 모른다. 

“AI를 배치할 때마다 인류는 세 가지 길 중 하나를 선택할 수 있다. AI를 제한하거나, AI와 협력하거나, AI를 따르는 길이다.”

인공지능이 올바른 방향으로 발전하고 올바른 결과물을 내놓으려면, 데이터를 축적하는 인간이 올바른 데이터세트를 만들어줘야 한다. 인간이 편향성을 지닌 데이터를 축적하면 인공지능은 잘못된 결과물을 내놓게 되고, 단순히 창작의 영역이 아니라 정책 결정이나 법적 영역이 될 때에는 심각한 결과로 이어질 수 있다. 이미 여러 기사를 통해 인공지능이 잘못 판단한 경우를 많이 접했다. 흑인 얼굴에 대한 인식 데이터가 부족하거나 동물을 총기로 인식하거나 하는 등의 경우 말이다.

인공지능은 분명 우리 삶에서 많은 영역에 엄청난 영향을 미칠 것이다. 현실에 존재하는 인물이나 풍경을 그림을 그려 보존하던 시대에 사진술이 등장했을 때의 충격과 같이 말이다(이 사례는 최근 출판인회의 인사이트 포럼에서 김대식 교수가 강연 중 이야기한 내용이다). 

우리는 그동안 인류가 축적한 지식을 잘 정리하여 배우고 암기하여 머릿속에 집어넣고 이를 창의적으로 생각하는 훈련만을 해왔다. “현시대에는 인간의 정신이 데이터를 취합, 분석해서 습득하는 지식과, 관찰 및 깨달음으로 습득하는 지식을 중시한다.” 하지만 “AI시대에는 지식이라는 개념이 인간과 기계의 협력에서 나오는 결과물로 재정의된다.” 우리가 어떻게 학습하고, 생각할지, 교육은 무엇을 해야 하는지, 아니 어떻게 인간을 교육해야 하는지부터 다시 고민해야 하는 시점이다.

AI는 예측하고, 결정하고, 결론을 도출할 수 있지만 자의식은 없다. 즉, 이 세상에서 자신이 수행하는 역할을 사유하는 능력은 없다. AI는 의도도, 동기도, 양심도, 감정도 없다. 그런 것이 없어도 주어진 목표를 달성할 의외의 방법을 제법 잘 찾아낸다. 하지만 이런 AI로 인해 인간은, 그리고 인간이 사는 환경은 바뀔 수밖에 없다. 어릴 때부터 AI를 경험하거나 AI로 교육이나 훈련을 받은 사람은 무의식중에라도, AI를 의인화하며 자신과 같은 존재로 대하고 싶은 충동을 느낄 수 있다. - P63

정보에 맥락이 더해질 때 지식이 된다. 그리고 지식에 소신이 더해지면 지혜가 된다. 역사적으로 볼 때 소신이 생기려면 홀로 성찰하는 시간이 필요했다. 하지만 인터넷은 이용자에게 수천, 수만, 수억 명의 의견을 쏟아부으며 혼자 있을 시간을 허락하지 않는다. 홀로 생각할 시간이 줄어들면 용기가 위축된다. 용기는 소신을 기르고 지키기 위해 꼭 필요하며 특히 새로운 길, 그래서 대체로 외로운 길을 걸을 때 중요하다. 인간은 소신과 지혜를 갖출 때만 새로운 지평을 탐색할 수 있다.
디지털 세상에는 지혜가 생길 여유가 없다. 디지털 세상에서 중시되는 덕목은 자아성찰이 아니라 타인의 인정이다. 그래서 디지털 세상은 이성이 의식의 요체라는 계몽주의의 명제를 위협한다. 디지털 세상은 역사적으로 거리, 시간, 언어의 한계 때문에 인간의 행동에 가해진 제약을 파기하면서 ‘연결’을 의미 있는 미덕으로 내세운다. - P89

가장 어려운 문제는 기계에게 무엇을 어떻게 가르칠 것이냐다. - P97

인공지능은 인간이 통제할 수 있는 도구다. 문제는 우리가 설정한 안전상의 제한을 누군가는 설정하지 않으리란 점이다. 이에 반응하고, 규제하고, 대처할 시간이 그리 많지 않다. (샘 올트먼, 오픈 AI CEO) - P132

AI를 배치할 때마다 인류는 세 가지 길 중 하나를 선택할 수 있다. AI를 제한하거나, AI와 협력하거나, AI를 따르는 길이다. - P256