출판사 협찬 도서를 읽고 쓴 주관적인 리뷰
프린스턴대 정보기술정책센터 지음/ 윌북 (펴냄)
무서운 질문이다. 우리는 진짜 인공지능을 보고 있는가!!!
과연 얼마나 깊이 이 질문에 대해 고민했을까? 심지어 과학자들도 기술이 목적일 뿐, 기술 너머를 생각하지 않는 경우를 종종 본다. 인공지능을 둘러싼 풍경은 늘 양극단이다. 한쪽에서는 인류 멸종을 말하고, 다른 한쪽에서는 모든 문제의 해법처럼 AI를 내세우곤 한다. 이 책은 그 소란 한가운데서 어느 쪽의 편을 들지 않고 다만 생각할 틈을 제공한다. 저자들은 기술의 가능성을 부정하지 않으면서도, 지금 우리가 소비하는 것이 기술인지 환상인지를 묻는데 이 점이 좋았다. AI를 적절히 쓰고 싶지만 마음 한편이 불안한 독자에게 책은 이론과 설득을 함께 전하는 기분이다.
우선 책은 기존 인공지능을 두 개의 축으로 구분한다. 하나는 예측형 AI다. 채용, 의료, 치안처럼 사람의 미래를 점수와 확률로 판단하는 기술을 말한다. 저자들은 이 영역이 구조적 한계를 가진다고 강조한다. 데이터가 늘어도 예측이 본질적으로 어려운 영역이 있으며, 그럼에도 기업들은 결정권을 AI에 위임한 것처럼 포장해 판매한다. 불투명한 채용 AI가 대표 사례다. 지원자는 기준을 알지 못한 채 탈락하고, 책임은 시스템 뒤로 숨는다.
생성형 AI는 챗 GPT로 대표되는 기술이다. 인상적인 결과물을 빠르게 만들어내지만, 사실과 허구를 구분하지 못하는 결함을 안고 있다. 가짜 판례를 만들어낸 변호사 사례는 이 기술의 위험을 단적으로 보여준다. 문제는 오류 자체보다, 그럴듯함이 신뢰를 앞질러버린다.
특히, 아이작 아시모프의 연작소설 언급 부분 인상적이다. 개인적으로 좋아하는 소설이기도 하고 이 소설의 개념, 가상의 과학에 대한 설명이 흥미롭다.
생성형 AI로 인한 피해와 그 한계에 대해!! 또 모나리자와 같은 작품에 대해 창의적인 노동력이 일한 가치를 간단한 작업으로 한 방에 모방해내버리는 것에 대해!!!
또한 딥페이크, 사기, 기타 악의적인 사용에 대해 우리는 어떤 대책이 필요할지에 대한 사회적 논의는 시급하다. 그렇다면 거창한 사회적 논의 이전에 개인들은 어떤 자세가 필요할까? 이 책은 거창한 미래 전략보다 일상의 태도를 바꾸게 한다. AI를 결과물이 아니라 과정으로 보라는 관점이 필요하다. 나의 경우에는 AI가 내놓은 답을 바로 쓰지 않고, 참고 자료나 초안으로만 사용한다. 특히 사실 확인이 필요한 글에서는 출처를 반드시 다시 봐야 한다. 그리고 가장 중요한 것이 결정권을 넘기지 않는 것 아닐까? 중요한 선택일수록 최종 판단은 인간의 몫으로 남긴다. 어쩌면 쉬우면서도 어려운 일이다. 특히 청소년들이 과제를 위해 검색하고 활용하는데 이 부분이 걱정스럽다. 성인의 경우, 판단 능력과 어린아이들이 사용할 때의 조심스러움에 대해!!!
나아가 결론은 이 책은 AI를 믿지 말라고 말하지 않는다. 다만, 믿기 전에 분해해 보라고 권한다. 기술의 미래를 상상하기 전에 현재의 사용 방식을 점검하자는 제안이다.
AI 시대에 필요한 것은 더 빠른 수용이 아니라, 더 정확한 구분이라고 책은 말한다.
#AI버블이온다
#프린스턴대정보기술정책센터
#아르빈드나라야난
#사야시카푸르
#윌북
#경제전망
