세계는 인공지능에 공동대처해야 한다.

AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라
헨리 A. 키신저 외 지음, 김고명 옮김 / 윌북 / 2023년 5월

 기술이 급속도로 발전하는 것을 보면 경외감 및 기대감과 더불어 두려운 마음이 들기도 한다. 난 과학기술에 대해 낙관론자에 가깝지만 그럼에도 불구하고 최근 인공지능의 발전상을 보면 더욱 걱정이 되기도 한다. 인간의 일자리 문제, 인간의 정체성 자체를 흔들 문제, 그리고 무엇보다도 지구 상의 우리 이상의 존재가 등장하는 것이 가져올 문제에 대해 상당한 걱정이 든다. 이런 마음은 세계의 누구나 갖고 있다고 생각하지만 그렇다고 해서 인공지능 기술의 발전에 대해 제동이 걸릴 가능성은 거의 없다. 세계는 하나로 통합되어 있지 않으며 각각의 국가들이 패권 전쟁을 벌이고 있으며 향후 패권에는 인공지능 기술의 선점이 필수적이기 때문이다.

 때문에 인공지능의 기술 발전은 가속화할 것이고 인류의 정체성과 안전을 보장할만한 합의된 브레이크는 걸리기 매우 어려운 것이 현실이다. 하지만 냉전 같은 무한 경쟁 관계에서도 인간은 핵무기 같은 것에 대해 상당한 안전 보장 합의를 이뤘는데 인공지능 기술을 그것조차 매우 어려워 보인다. 아직 모두가 인공지능이 상호파괴를 확증할만한 것이라 여기지 않고 무엇보다도 핵무기는 기술과 양의차이에서도 서로를 확증파괴할 수 있지만 인공지능은 양과 기술의 차이가 한 쪽만을 일방적으로 파괴할수 있을지도 모르기 때문이다.

 책 AI 이후의 세계는 인공지능에 대한 이런 걱정과 고민이 담긴 책이다. 대부분의 미래 기술 책이 기술의 현재 상황과 앞으로의 가능성에 초점을 두는 반면 이 책은 인공지능이 향후 전방위적으로 인간에 미칠 영향을 심도 있게 논의하고 있어 읽어 볼만한 가치가 더 크다.

 현재 인공지능은 생성형 인공지능까지 도달해 있다. 이 녀석은 인간의 방대한 지식을 학습해 인간 고유의 영역으로 남겨졌던 글쓰기, 그리기 등 창조의 영역에도 이미 도달해 있다. 다만 이 인공지능은 자의식이 없어 자신이 어떻게 학습했고, 무엇을 학습했으며 이것이 무슨 의미인지 알지 못한다. 아직은 기계적 천재에 불과한 것이다. 하지만 그럼에도 인간에 미치는 영향이 크다.

 인간은 자신들의 기술을 활용해 초기의 책을 비롯하여, 최근의 스마트폰에 이르며 자신의 지적 기능을 여러 가지 이것들에 위임했다. 인공지능에게 인간이 위임할 능력은 비판적 사고력이나 작문력, 문해력 등이 될 가능성이 높다. 문제는 이런 것들이 인간이 자신의 사회나 정치, 문화를 이끌어감에 있어 중요한 판단을 하는데 밑거름이 되는 능력이라는 것이다. 이것들의 위임은 인간인 인공지능의 꼭두각시가 됨을 의미한다. 그래서 인간은 인공지능이 그 뛰어남에도 현실의 결정권자로 작용하게 두어서는 안된다. 이것을 방지하려면 세계적으로 합의된 강력한 문화적 규범이 필요하다. 

 인공지능 시대에 인간은 다음과 같은 질문에 봉착하게 된다.

1. 인공지능의 등장으로 의료, 공간, 생물학, 양자물리학에 어떤 혁신이 일어나는가

2. 인공지능이 만드는 친구는 어떤 존재인가

3. 인공지능을 기반으로 하는 전쟁은 어떤 전쟁인가

4. 인공지능은 인간이 인식할 수 없는 현실의 어떤 면을 인식할 수 있는가

5. 인공지능이 인간의 행동을 평가하고 유도하는 시대에 인간은 어떻게 변할 것인가

6. 그러한 인공지능 시대에 인간으로 산다는 것은 어떤 의미인가

 인간은 자신의 생존과 번식을 위해 경험을 통해 자신을 둘러싼 환경을 이해하기 위해 노력해왔다. 그리고 각각의 사회는 나름의 방식으로 현실을 탐구해 완벽하진 않으나 적절한 답에 도달했고 그것에 기반해 지역의 문명을 구축했다. 이 일련의 중심에는 결국 인간과 환경의 상호작용이 있다. 인간은 현실을 객관적이고 중립적으로 관측하는 수단으로 과학 장비들을 고안해냈다. 하지만 양자역학이 발전하며 실제 관측은 대상과 상호작용을 하며 대상의 상태를 규정하고 영향을 미치기에 완벽히 객관적인 연구나 관측을 불가능함이 입증되었다. 그럼으로 인해 결국 인간은 현실을 구성하는 다수의 상호보완적 측면 중에서 그 시점에 정확히 알고자 하는 측면의 가능성 중 하나만을 선택하여 발전해왔다. 이는 당연히 현실에 비해 현저히 부족하므로 인간은 각각의 부족한 결과를 결합하여 왜곡을 보정해왔다. 

 하지만 인공지능은 인간 관찰자가 관측할 때 발생하는 빈틈을 찾아 상호보완적 데이터를 처리하고 그 안에서 식별할 발생하는 빈틈을 메울 가능성이 있다. 철학자 비트겐슈타인은 궁극적으로 이성으로 식별할 수 있는 사물의 단일한 본질개념을 배제하고 인간은 그저 현실들의 유사성을 파악해 지식을 구축할 수 밖에 없다고 보았다. 인공지능은 방대한 데이터의 특성을 그룹화하여 유형과 패턴을 인식하고 현실을 이해한다. 비트겐슈타인이 한계로 본 지식의 구축을 극한까지 잘 해낼수 있는 것이다. 

 현재 세계는 강국들이 만들어낸 다국적 네트워크 플랫폼이 지배하고 있다. 이 디지털 플랫폼을 구축하는데 성공한 미국와 중국은 21세기 들어 크게 경제적 성장을 이뤘고 이를 수행하지 못한 유럽연합의 경제는 크게 후퇴했다. 네트워크 플랫폼은 기존 산업과 다르게 이용자가 폭증할 수록 서비스의 수준이 증가한다. 어느 산업이나 과도한 이용자는 공급부족으로 서비스의 질적 하락을 초래한다. 아무리 맛난 음식점이라고 손님이 지나치게 많으면 음식의 양과 질이 담보되기 어렵다. 하지만 네트워크 플랫폼은 이용자가 폭증할수록 편익과 매력이 오히려 증가하는 블랙홀 같은 존재다.

 때문에 네트워크 플랫폼 업계는 소수의 강자만이 살아남아 절대적 권한을 누리는 존재다. 또한 지역의 네트워크 플랫폼 업계를 무너뜨리기고 의존하게 만들기에 과거처럼 자국의 산업을 보호하기 위해 무역장벽을 치는 것도 거의 불가능하다. 때문에 네트워크 플랫폼은 다국적이 되며 이는 그 서비스에 의존하는 해당국가와의 마찰을 가져올 수 있다. 실제 미국과 유럽연합은 중국이 만든 네트워크 플랫폼에 대해 보안을 이유로 상당한 제재를 실행했다. 그래서 네트워크 플랫폼의 지정학이 날이 갈수록 중요하게 인식된다. 

 미국은 이미 네트워크 플랫폼을 대외 전략의 한 축으로 삼으면서 일부 외국산을 제한하고 그 성장에 도움이 되는 일부 소프트웨어와 기술의 반출을 금지하기 시작했다. 미국은 네트워크 플랫폼의 최강자인데 세계최고 수준의 대학, 스타트업 생태계, 선진적 연구개발 지원, 영어의 공용어 지위, 미국 주도의 기술표준, 방대한 내수시장이 그것을 가능하게 했다. 유럽연합은 언급한 것처럼 디지털 산업기술 육성에 실패했다. 하지만 그들은 일류기업과 대학이 있으며 계몽주의 탐구 전통이 있고, 방대한 내수시장과 혁신적이면서도 가장 안정적인 법적 요건을 제정하는 탁월한 규제기관이 존재한다. 언제든 세계적 네트워크 플랫폼이 탄생할 수 있는 여건이다. 하지만 그들은 결국 여러 나라로 구성되어 언어가 다양하고 개별적 규제기관이 있다는 것이 걸림돌이다. 인도는 아직 초기이나 혁신친화적 기업과 기술환경, 수많은 기술과 인재를 보유하고, 방대한 내수시장으로 네트워크 플랫폼의 탄생이 가능하다. 

 그리고 네트워크 플랫폼은 당연하게도 인공지능과 연결된다. 인공지능 기반 네트워크 플랫폼은 정보를 자동으로 선별하는 기능을 인간의 삶에 침투시켰으며 이로 인해 인간은 더욱 디지털 기술에 종속되고 있다. 네트워크 플랫폼은 방대한 데이터를 인공지능으로 수집 분석하여 이용자의 상황에 절묘하게 맞아 떨어지는 팁과 추천목록을 제공한다. 심지어 몇몇 추천은 이용자 자신의 능동적 결정보다도 월등한 수준이다. 

 인공지능 기반 네트워크 플랫폼은 전례없는 수준으로 정보를 취합하고 선별하는 현상을 인간에게 보여준다. 그럼에도 인간은 인공지능 작동 과정 전체를 들여다 볼 수 없으며 간신히 그것을 설계하고 모니터링하며 매개변수를 설장하는데만 머물고 있다. 인공지능을 만들고 그것으로 이윤을 수취하는 네트워크 플랫폼 관계자가 자기네들의 인공지능이 왜이러는지 본인들도 모른다는게 농담이 아닌 셈이다. 

 네트워크 플랫폼의 인공지능은 각 개인이 여러 정보를 취합해서 제공하여 그들로 하여금 세상의 일면만을 바라보게 만든다. 때문의 의도하든 아니든 네트워크 플랫폼의 인공지능은 전 세계 방대한 이용자에게 상당한 사회, 문화, 정치, 경제적 영향력을 절대적으로 행사할 수 있게 된다. 인공지능의 목적함수, 훈련과정, 매개변수, 허위정보에 대한 정의를 조금만 바꾸어도 네트워크 플랫폼의 인공지능이 이용자에게 제공하는 정보는 엄청나게 달라지게 된다.  

 네트워크 플랫폼의 영향력이 이렇게 국적을 넘어 막강하기에 갑작스런 네트워크 플랫폼의 지정학적 철수는 한 국가에 큰 타격으로 이어질 수 있다. 때문에 각국의 정부는 네트워크 플랫폼이 지위를 악용하거나 기존에 확립된 책임을 회피하지 못하도록 법적으로 막는 것이 중요한 과제다. 

 인공지능 시대의 전쟁은 전쟁의 패러다임을 바꿀 것이 확실하다. 앞으로의 전쟁은 사이버 분쟁과 인공지능 기반의 전쟁이 될 것으로 보인다. 사이버 무기는 재래식 무기와 다르게 상대방의 전력을 온전히 파악하기 어려우며 선제공격이 절대적인 타격과 유리함을 부여한다. 또한 사이버 무기는 재래식 무기와 다르게 민간과 군사시설을 구분없이 타격하며 오히려 선진사회일 수록 디지털화의 정도가 높아 더욱 큰 타격을 입힐 수 있다. 또한 사이버 전력과 공작은 비용이 적게 들고 은폐 및 부인이 가능하다. 이런 점으로 인해 각국은 공격을 방어하는 적극방어와 전진방어라는 개념으로 무장하고 있다. 

 군대의 시스템과 프로세스에 비인간적인 논리를 가진 인공지능이 도입되면 전략이 바뀔 것이다. 인공지능 기반 무기와 방어체계로 전략을 전개하면 인간과 근본적으로 다른 전쟁이 나타날 것인데 인간은 강력한 분석 능력을 갖춘 인공지능에 전략의 상당부분을 의존하고 많은 권한을 위임할 가능성이 농후하다. 전쟁의 전략은 체스와 바둑의 전략과 많이 비견되는데 인공지능이 그 분야에서 인간이 상상할 수 없는 전략을 구사해 충격을 준 것이 전쟁에도 그대로 이어질 것이라 비유하면 그 상상이 좀 더 쉽다. 

 전통적으로 군사와 민간 영역은 기술적 특수성과 중앙집중적 관리, 효과의 규모에서 차이를 보여왔다. 철도는 군민 양용이나 효과적 파괴력이 부재하며, 핵무기는 군민 양쪽에 타격을 입히고 효과적 파괴력이 있으나 중앙집중적 관리로 제어가 가능하다. 총은 군민 양용이나 효과적 파괴력이 적다. 하지만 인공지능 무기는 이 세 가지를 모두 충족하는 최초의 것이다. 군과 민간에 모두 치명적 영향을 미치고 중앙정부에 의해 통제가 불가능하며, 광범위한 타격 효과를 갖고 오기 때문이다. 

 때문에 인간은 인공지능무기에 관한 논의를 더 늦기 전에 시작해야만 한다. 최소한의 공통된 어휘로 전략 개념들을 재정의하고 대략적이나마 서로의 제한선을 확인해야만 한다. 

 마지막으로 인공지능은 인간의 정체성을 흔들 것이다. 인간은 지구 동물의 한 종으로 다른 종에 비해 몇 가지 뛰어난 특성을 갖고 있으며 그것들은 인간정체성의 중요한 부분을 차지한다. 그것들 중 하나는 이성이며 이성은 비판적 사고력 및 사유 등 인간의 지성으로 구성된다. 하지만 인공지능은 바로 이 인간의 이성을 약화시킨다. 네트워크 플랫폼이 제공하는 선별된 정보와 흥미거리는 인간을 중독시키고 학습의 필요성와 의지를 꺽는다. 즉, 사유와 개념 습득의 의지가 약화되는 것이다. 또한 중독과 검색, 생성형 인공지능으로 인해 인간은 심층적 독서와 분석의 필요성도 갖지 못하게 된다. 그걸 대리해주니 말이다. 

 또한 인공지능은 창조를 대리해 줄 것이며 많은 직업 영역에서 인간보다 탁월한 분석력으로 결과를 도출할 것이며 무엇보다도 인간의 삶의 의미를 찾고 정체성을 얻게 해주는 직업과 그것에서의 성공을 가로챌 가능성이 높다. 이런 상태에서 인간은 자신의 정체성이 뿌리채 흔들리는 경험을 하게 될것이다. 200여년 전 유럽의 농민들은 인클로져 운동으로 인해 수백년간 유지하던 농업인으로서의 정체성이 부정되고 가난한 도시의 하급노동자로 쫓겨나게 되었다. 그들 역시 크게 정체성과 안정성에 위협을 받았을 것인데 그래도 그들은 산업노동자로 재정의 될 수 있었다. 하지만 인공지능에 의해 자리를 잃은 인간에게 어떤 사회적, 경제적 지위가 주어질지는 상당히 불분명하다.

 적당한 사회적 합의와 재제가 없다면 그저 선별된 정보와 소비문화에 중독된 기본소득자정도로만 자리잡게 될 것이 분명해보이기 때문이다. 책은 인공지능의 발전과정과 인간사회에 영향을 미칠 많은 부분에 대해 우려와 심도있는 논의를 보인다. 단지 기술과 인공지능 주가에만 흥분할게 아니라 이런 고찰에도 사회적 관심과 교육이 필요하다. 

챗 gpt 사용법

GPT 제너레이션 : 챗GPT가 바꿀 우리 인류의 미래
이시한 지음 / 북모먼트 / 2023년 2월

 챗 gpt가 나온지도 벌써 반년 정도 되었다. 그 성능에 놀라 다른 경쟁기업들은 초기 주가가 좀 떨어졌고 자신들의 생성형AI를 빠르게 내놓느라 부산했다. 그리고 몇몇 발 빠른 자들은 이 gpt를 이용해 사업을 펼치고 있고, 또 발 빠른 자들은 이를 자신의 업무에 활용하고 있으며, 또 다른 사람들은 그 활용법을 팔아 돈을 벌고 있다. 하지만 세계의 절대 다수는 gpt는 커녕 인터넷 조차도 제대로 쓴 적이 없을지도 모른다. 사실 디지털 강국이라는 한국 만해도 허울만 좋을 뿐 국민들의 디지털 활용 능력을 조사해본다면 생각보다 참담한 결과가 나올지도 모른단 생각이다. 학교 현장에서 직접적으로 교육하는 일은 없고 직장에서도 철저히 디지털과 먼 곳도 대부분이기 때문이다.

 이번에 본 책은 챗 gpt에 대한 두 번째 책이다. 사실 챗 gpt를 인터넷에 검색하면 그야말로 어마어마한 책이 쏟아진다. 막상 읽을만한 것을 고르기 어려울 정도인데 몇 년 전의 암호 화폐책이다. 부동산투자책, 메타버스 관련 책들도 그랬던 것 같다. 

 이번 책을 읽으면서 느낀 점은 챗 gpt에 대한 느낌이라기보다는 새로운 매체를 여러 분야에 어떻게 활용할지 개략적인 방법과 생각을 펴낸 책이란 것이었다. 그래서 gpt를 이용한 구체적인 뭔가를 원하는 사람이라면 다른 것이 나을 것 같고, gpt가 뭔지 전혀 모르는 사람에겐 그래도 어느 정도는 볼만할 것 같다는 생각이다. 

인공지능이 가져올 미래

로봇의 지배 - 인공지능은 어떻게 모든 것을 바꿔 놓았나
마틴 포드 지음, 이윤진 옮김 / 시크릿하우스 / 2022년 9월

 오픈 에이 아이의 GPT-3의 공개 이후로 인공지능에 대한 관심이 뜨겁다. 시류를 타고 GPT-3에 대한 책도 많이 나오고 있는데 앞서가는 사람들은 이것을 이미 자신의 업무에 쓰고 있어 몇몇 기업과 교육기관은 정보유출 및 부작용을 우려로 그 사용을 이미 중단시키고 있다. 

 인공지능에 대한 인간의 기대와 우려는 생각보다 오래되었다. 컴퓨터라는게 개발된 이후 인간처럼 생각하고 행동하며 그 이상을 해내는 인공지능에 대한 기대가 커졌다. 그리고 이로 인해서 기대와 우려가 강해졌다. 기대는 유토피아, 우려는 인공지능에 의한 인간 멸망이다. 이는 많은 소설이나 영화, 만화로 구현되었으며 매트릭스, 터미네이터, 스타트랙, 어벤져스시리즈 등이 그것들이다. 

 초기 컴퓨터가 나왔을 때 사람들은 인공지능이 빠르게 등장할 것이라 예상했다. 하지만 섣부른 기대였다. 생각보다 컴퓨터의 연산이란게 너무 느렸다. 무어의 법칙을 감안해도 인공지능이 나오기까진 매우 오랜 세월이 필요했다. 그래서 인공지능은 초창기 많은 투자를 받았지만 곧 이어 1970-80년대까지 긴 암흑기를 겪는다. 

 인공지능의 개발은 크게 두 분파로 나눠진다. 하나는 연결주의로 인간 뇌의 기본 구조를 모델로 데이터를 이용해 효율적으로 학습할 수 있는 인공지능을 탄생시키자는것이다. 지금 빛을 보고 있는 데이터 학습을 통한 머신러닝이 여기에 해당한다. 다른 하나는 상징적 방식으로 알고리즘을 설계하는 대신 그들이 구축한 시스템에 정보를 직접 수동으로 인코딩하는 방식이다. 이 방식은 인공지능의 암흑기에 잘 작동했고 오토파일럿 시스템 같은 것이 이에 해당한다. 하지만 이런 프로그램은 지금은 인공지능이라 불리지 않는다.

 인공지능이 다시 빛을 본 변곡점은 2011년이다. 이 시기는 컴퓨터의 연상능력이 과거에 비해 막강해졌고 빅데이터가 부상하면서 머신러닝 알고리즘을 통해 새로운 인공지능이 탄생한 해다. 머신러닝은 기본적으로 인간의 뇌를 모방한다. 그래서 인공신경망은 인간 뇌의 뉴런이 작동하는 연결 방식을 수학적으로 윤곽을 잡으려 하는 시도다. 정답을 생성하도록 네트워크를 훈련시키게 되는데 훈련 예제를 입력하고 네트워크의 모든 가중치를 조절하여 점차 정답에 수렴해가는 과정이다. 이런 방식의 반복으로 가중치가 최적화되면 훈련 세트에 포함되지 않은 새로운 예제를 네트워크에 사용할 수 있게 된다. 마침내 가중치를 조절해 네트워크가 거의 매번 정답에 수렴하는데 성공하게 되면 역전파 알고리즘이 등장한다. 역전파는 네트워크 가중치를 한 번에 하나씩이 아닌 모든 가중치를 집합적으로 조정할 수 있어 계산 효율성이 크게 향상된다. 

 이렇게 신경망안에서는 지식 표현이 만들어지고 이 지식에 대한 추상화 수준이 네트워크의 후속 층에서 증가한다. 이미지의 이해에 예를 들면 초기 픽셀 수준에서 모서리, 곡선, 질감의 수준으로 가고 더 나아가 이미지 식별의 본질을 파악하게 되는 것이다. 우리는 현재 네트워크가 이런 식으로 이미지를 이해한다는 것을 알고 있으나 수백만의 상호연결층이 있기에 정확이 어느 부분이 어떻게 작동해 이런 이해에 이르는지에 대해선 파악하지 못한다. 자신들이 만들어낸 인공지능이 정확히 어떻게 작동하는지는 모른다는 전문가들의 말이 거짓은 아닌 셈이다. 즉, 심층신경망은 블랙박스인 셈이다.

 인공지능은 크게 4가지 방식으로 개발된다. 우선 지도학습이다. 주의깊에 레이블한 데이터를 네트워크게 제공해 유용한 학습을 시키는 방식이다. 이 방식의 문제점은 방대한 데이터의 확보인데 현재 기업과 기관은 크라우드 소싱으로 이를 해결하거나 앱이나 플랫폼에서 사용자가 자발적으로 입력한 데이터를 이용하는 방법으로 이를 해결한다. 다음은 강화학습이다. 강화학습은 특정 응용 프로그램에 사용하는 것으로 반복적인 연습이나 시행착오를 통해 역량을 강화한다. 알고리즘은 특정 목표를 달성하면 보상을 얻으므로 무한 반복을 하는데 딥마인드나 게임을 공략하는 인공지능이 이에 해당한다. 세 번째는 생성신경망 방식이다. 대표적인 것이 GPT인데 GPT-3-2는 방대한 텍스트로 훈련받은 생성신경망으로 구성된다. 생성신경망 방식은 생성자와 확인자로 구성되는데 생성자가 진짜와 자신이 만든 가짜를 생성하고 확인자가 이 중 진위를 가리며 서로 무한히 경쟁하는 방식이다. 이를 통해 생성자는 정말 진짜에 가까운 산출물을 구성하게 된다. 이런 식으로 방대한 텍스트를 학습한 GPT는 한 두문장이 입력되면 이를 거의 정확이 예측해 이야기를 생성한다. GPT-2가 15억개의 가중치를 갖고 있다면 이번에 나온 GPT-3는 1750억개로 100배 이상이다. 마지막은 뉴로 심볼릭 방식이다. 연결주의와 상징주의의 결합으로 신경망에 기존 프로그래밍 기법을 더해 인공지능을 만드는 것이다. 저자는 이 방식에 큰 기대를 갖는 듯 하다.

 하여튼 이런 인공지능은 기후위기, 식량 부족, 담수부족, 국가간 분쟁, 주기적 팬데믹등 해결하지 못한 인간의 난제를 해결할 가능성을 갖고 있다. 인공지능은 경우가 무한에 가까운 단백질 접힘을 최근에 완벽에 가깝게 예측함으로써 신약 개발 및 질병의 퇴치에 엄청난 가능성을 선보였다. 하지만 대량 살상 무기의 개발, 개인 사생활의 침해, 인공 지능 자체의 위협, 대량 실업이라는 문제도 내포하고 있다.

 실업에 대해선 우선 통념과는 다르게 인공지능의 등장은 블루 칼라보다는 오히려 화이트 칼라를 더 위협한다. 블루 칼라는 일이 매우 단순한 경우 로봇 팔이나 로봇에 의해 대체되지만 업무 환경이 물리적으로 복잡하고 기술이 섬세하다면 이를 로봇으로 대체하는 것은 쉽지가 않다. 거기에 로봇은 제작과 개조, 유지, 보수가 어렵다. 하지만 화이트 칼라의 경우 단순 정신 노동은 가격이 로봇에 비해 훨씬 저렴한 소프트웨어로 쉽게 대체된다. 때문에 블루보다 화이트가 더 위험할 수 있는 것이다. 여기에 팬데믹은 자동화의 위험을 더욱 가속화했다. 팬데믹 경기침체로 작은 기업은 도산하고 큰 기업은 자동화에 박차를 가했다. 때문에 팬데믹 이후에 기업은 경기가 회복되어도 이전 처럼 사람보다는 자동화에 의존할 가능성이 커졌다. 

 인공지능 및 로봇의 자동화의 영향을 상대적으로 덜 받는 직업은 다음과 같다. 우선 일 자체가 본질적으로 창의적인 직업이다. 창작, 작곡,예술 등인데 물론 인공지능은 이 분야에도 상당한 위협을 가하고 있다. 둘째는 다른 사람과 의미있고 복잡한 관계를 형성하는 직업이다. 간호사, 교사, 사회복지사가 그렇다. 셋째는 예상치 못한 환경에서 높은 이동성과 손재주, 문제해결능력을 요구하는 직종이다. 복잡한 환경에서 노동을 해야하는 기술직이다. 

 자동화는 대량 실직을 가까운 시일내에 가져올 것이다. 이는 경제성장의 큰 축인 수요의 감소로 이어지에 해결책이 필요하다. 저자는 여러 해결책 중 기본 소득을 가장 옹호한다. 기본 소득으로 모든 이의 기본적 소득을 보장하면 소외되는 이도 없으며 의욕을 가진 일부 사람들이 추가 취업이나 창업으로 부수적 소득을 올리고자 하는 동기도 여전히 보장되기 때문이다. 

 미국은 중국과 경쟁을 벌이면서 인공지능에 대해서도 그렇게 하고 있다. 중국의 인공지능에 대한 교육과 개발은 상당한 수준인데 중국은 그 특유성으로 서구 사회에 비해 몇몇 이점을 갖고 있다. 우선 그들은 엄청난 인구에서 파생하는 막강한 인재풀이 있다. 인구가 많은 만큼 인공지능 개발자도 많은 것이다. 또한 많은 인구는 인공지능의 학습에 필수적인 양질의 데이터도 엄청나게 제공한다. 여기에 중국은 서구와는 다르게 각 기업이나 국가 기관이 국민의 사생활이 민감하게 담긴 이 데이터에 매우 쉽게 접근 및 이용이 가능하다. 또한 중국은 국가사회적으로 디지털화를 빠르게 추구해 그 어떤 서구국가보다도 사회 전반의 디지털 전환 정도가 높다. 저자는 중국의 이런 부분에 강한 경계를 드러냄과 동시에 그래도 아직 그 수준이나 산업 구조가 미국의 그것에 못미침을 강조한다. 

 책에서 말하는 마지막 부분인 인공지능의 어두운 부분이다. 인공지능은 적대적 공격에 취약하다. 적대적 공격은 데이터를 통해 학습하는 머신러닝에 의도된 가짜 데이터를 집어 넣어 공격자가 원하는 산출물이 나오게 공격하는 방식이다. 전쟁에 인공지능이 투입되는 경우 적군이 아군의 인공지능의 피아식별에 혼란을 준다면 아군의 무인 병기가 자국군인이나 병기를 공격하는 일이 벌어지는 거시다. 현재 이런 적대적 공격을 방어할 만한 체계의 개발은 매우 어려운 것으로 알려져있다.

 또 다른 문제는 인공지능의 편견이다. 학습한 데이터가 특정 부분에 치우칠 경우 인공지능 역시 그렇게 작용한다. 예로 백인 남성 데이터가 많은 인공지능은 여성이나 다른 소수 인종에 대해 그릇된 판정을 내릴 수 있다. 현재 인공지능 개발자의 12%만이 여성이고 소수 인종 개발자는 그보다 더 적은 편이데 개발자부터가 다양화될 필요가 있다. 인공지능이 학습하는 과정에서 갖게 되는 편견은 드러나는 것 외에도 생각치 못한 다양한 데이터에서 일어날 수있기에 그 수정 및 관리가 어렵다. 

 대량 살상 무기의 개발도 문제다. 인공지능이 수천개의 드론은 조종할 수 있으며 여기에 무기를 탑재한다면 도심지에서 순식간에 대량학살이 일어날 수 있다. 세계 각국은 이에 대한 통제하려 하나 군비경쟁을 벌이는 많은 나라들이 이미 무인 병기 개발에 박차를 가하고 있다. 세계는 이에 대해 강한 관리 및 통제를 할 필요가 있다. 테러 집단에 넘어간다면 그야말로 재앙이기 때문이다.

일본이 보는 인공지능

AI 2045 인공지능 미래보고서
일본경제신문사 지음, 서라미 옮김 / 반니 / 2019년 3월

 인터넷 서점에 인공지능을 검색해보면 제법 많은 책이 뜬다. 지난 3-4년간 불타는 버블기의 부동산이나 주식, 코인 투자책에 버금가는 수준이다. 주로 한국 저자와 미국의 저자가 많은데 이 책은 좀 특이하게 일본 책이다. 일본에서 각 분야의 다양한 인공지능 전문가를 만나 대담하고 인공지능의 현재 수준과 가능성, 그 대비책에 대해 썼다.

 일본식 번역이 늘 그렇듯 좀 거슬리고(이 녀석들은 왜 이리 승부를 좋아할까) 내용이 빈약하지만 다른 나라의 시각과 현 주소를 볼 수 있다는 점이 책의 장점이라면 장점이다.

 일본에선 나오키상이란 문학상이 권위가 있다. 매년 시상하는 나오키상을받은 작가 아사이 료는 인공지능과의 협업을 고민한다고 한다. 주제는 자신이 직접 찾는데 그 안에 등장하는 인물과 줄거리등을 세세히 짜는 것이 어려운 작업이기 때문이다. 그는 이 부분을 인공지능에 맡기는 작업을 시도하고 있다. 

 미국에서는 변호사의 주요 업무 중 하나가 증거수집이었다. 이것은 오랜 시간과 품이 드는 만큼 주로 젊은 변호사들의 일이었다. 하지만 이젠 이것을 인공지능이 수행한다. 인공지능은 메일이나 판례등의 방대한 데이터를 학습해 필요한 정보를 찾는다. 2013년만 해도 미국의 판사들은 인공지능을 증거 수집에 사용해도 좋다 정도였지만 지금은 반드시 사용해야 한다라고 변호인들에게 권장할 정도가 되었다고 한다.

 인공지능이 예술 부분에서 능력을 발휘한 것도 더는 신기한 일은 아니다. 인공지능은 지금까지 대중적으로 성공한 노래의 멜로디와 리듬 데이터를 분석한 뒤 여기에 마케팅 비용을 더해 성공 확률을 계산한다고 한다. 현재 맥크레디는 인공지능으로 아티스트의 곡을 히트 가능성에 따라 순위를 매긴다. 뮤직 엑스레이는 26만 5천명의 아티스트가 보내온 곡을 조사하고 그 곡에 전문가가 보일 관심을 인공지능으로 추측한다. 인공지능이 곡도 작곡하는데 서로 가 작곡한 곡의 성공가능성을 어느 정도로 판단할지 무척 궁금해진다.

 인공지능은 맥주제조에도 사용된다. 맥주의 레시피를 인공지능이 만드는 것인데 놀랍게도 상당히 상업적으로 성공했다고 한다. 장차 미래에는 개별 소비자의 식료품 기호를 학습해 거기에 맞는 맞춤형 맥주를 제공할 계획이란다. 어디 맥주만 그럴까? 언젠가 개인용 인공지능이 주어지는 날엔 그 인공지능이 어릴적부터 개개인의 기호를 파악해 그 만의 레시피나 물건을 제공할 것이다. 레시피에 따라 요리는 로봇이 만들어주면 되는 것이고 물건은 3D 프린팅 하면 된다. 색, 디자인, 향 모든 것이 맞춤형 일것이다. 어쩌면 더 무섭게도 그런 개인의 취향을 인공지능이 생성해나갈지도 모른다. 아이는 어른의 영향을 크게 받으니 말이다.

 인공지능은 학문의 발전에도 이미 사용된다. 중력파를 관찰한 중력파 망원경 LIGO는 매우 복잡한 컴퓨터 시스템을 갖는다. 인공지능이 알고리즘을 구사해 중력파를 검출하고 그것이 옳은 지를 물리학자나 천문학자가 2-3개월간 검증한다. 이처럼 인공지능이 어떻게 검토하고 작용하는지를 사람이 파악하는게 이미 어려운 상황이다. 국내의 모 대기업에서 인공지능이 한거라 잘 모른단는게 그저 변명만은 아닌 형국인 것이다. 그래서 인공지능의 가상 뇌를 시각화할 수 있는 장치의 개발이 필요하다는 이야기가 나온다. 그래야 인간이 인공지능을 통제하고 감시하는게 어느정도 가능할 것이다. 

 일본의 오니시 교수는 인간과 비슷한 반응과 동작을 재현하는 인공지능 기술을 설명하여 사람의 소뇌를 개발하는 것과 마찬가지라고 말한다. 실제 인간의 반응과 동작은 뇌에 걸리는 과부하를 방지하기 위해 소뇌에서 알아서 처리한다. 그래서 우리는 그런행동을 하며 에너지를 쓰고 있긴 하나 자동화되어 있어 특별한 뇌의 부하를 경험하지 않는다. 

 재밌는 부분은 여성과 남성이 개발한 인공지능의 성격이 다르다는 점이었다. 양성의 특징을 반영한듯 남성이 개발한 인공지능은 상당히 어려운 과제를 한 번에 해결하려는 성향을 갖는 반면 여성이 개발한 인공지능은 실용적인 과제를 안정적인 방향으로 해결하는 성향을 갖는다. 인공지능의 문제점중 하나는 그 효용에 비해 상당히 큰 에너지를 쓴다는 점이다. 인간의 뇌는 생각으로 상당한 창의성과 유연성을 발휘하면서도 고작 21와트의 에너지를 사용한다. 하지만 인공지능 중 하나인 알파고의 소비전력은 무려 25만 와트로 인간의 1만 2천배다. 물론 바둑을 1만 2천배 잘 둘지는 모르지만 상당한 전력 소비가 아닐수 없다. 인공지능이 고도화 할수록 계산 규모가 커지고 소비전력도 커질 것이다. 때문에 인공지능 개발에 있어 전력 문제는 난제다. 이 문제는 로봇도 드론의 경우도 마찬가지다.

 인공지능을 만드는데는 적절한 학습 데이터가 무엇보다도 중요하다. 하지만 인공지능을 개발하는 나라가 서구 중심이라는게 문제다. 아무래도 여기서 개발한 인공지능은 서양안의 의식 흐름과 사고방식을 갖게 될 가능성이 높다. 서구에서 개발한 범죄인 판별 인공지능이 흑인을 더 위험하게 판단했다는 소식은 이미 유명하다. 데이터가 적었을 동양인은 어떻게 판별했을지 궁금하다. 하여튼 인공지능 역시 데이터에 따라 편견을 가질 수 있으며 따라서 다양성이 결여되면 인간은 그 인공지능을 신뢰하기 어렵게 된다. 악랄한 개발자가 인공지능을 통해 다수의 인간에게 편견을 심어줄수 있고 인공지능 자체가 인간에게 편견을 심어줄 수도 있는 것이다. 

 앞으로 인공지능을 앞세운 대량의 정보사회가 다가오고 있다. 책은 단순하고 방대한 데이터의 처리는 인공지능에 맡기고 그 데이터의 의미를 이해하고 문제를 해결해나가는 과정이 아직은 인간의 몫임을 강조한다. 인공지능 시대는 장및빛일 수도 있고 암울할 수도 있다. 인터넷 시대가 그랬던 것처럼 말이다. 

미래의 7가지 기술

세븐 테크 - 3년 후 당신의 미래를 바꿀 7가지 기술
김미경 외 지음 / 웅진지식하우스 / 2022년 2월

 유명한 강사인 김미경이 4차산업혁명시대 7가지 기술을 선정하여 전문가들을 인터뷰하고 그 흐름을 알기 쉽도록 엮은 책이다. 다른 미래과학기술책 보다 좀 더 쉽고 흐름을 알 수 있게 하며, 그 흐름에 올라타고 공부하도록 동기도 주는 책이다. 그런 면에서 좀 차별성이 있었다.

 책에서 언급하는 7가지 기술은 인공지능, 블록체인, AR/VR, 로봇, 사물인터넷, 클라우드 컴퓨팅, 메타버스다. 이중 가상, 증강현실과 메타버스는 좀 많이 겹치는 부분이 있는데 그래서인지 가상, 증강현실은 상세히 다루고 메타버스는 좀 허전하다. 그냥 합치는게 나았을 것 같다.

 책은 4차산업혁명으로 가기 전에 있었던 3번의 커다란 물결부터 시작한다. 첫 번째 거대한 사이클은 컴퓨터가 보급되고 초고속 인터넷이 등장한 1980-2000년대 말까지다. 스티브 잡스와 빌게이츠가 시대를 만들었고 컴퓨터가 보급되고, 윈도우가 보급되었으며, 인터넷이 보급되고, 지식의 혁명이 일어났다. 두 번째 사이클은 2007년부터 지금까지이다. 스마트폰과 소셜미디어, 모바일이 사이클의 주역이다. 애플과 구글의 시대로 현재까지 이어진다. 그리고 세 번째 물결이 저자가 말하고 싶은 7테크다. 저자는 한 사이클에서 다음 사이클로의 완전한 전환이 일어나는데 20년의 세월이 소요된다고 말한다. 우선 하드웨어가 새로 개발되고, 그것이 양산화되어 가격이 떨어져야 대중화가 된다. 이후 사람들이 그 하드웨어가 사용하는 소프트웨어에 친숙해져야 하는데 그래야 새로운 문화와 습관이 형성되어 시대가 바뀌기 때문이다. 

1. 인공지능

 기계가 세계에 대해 경험을 할수록 그 성과가 향상될 경우 그 기계는 학습한다고 할 수 있으며 그것이 인공지능이다. 엣지 인공지능이란 것이 있는데 이는 클라우드 시스템이 아닌 작은 캠의 칩에 인공지능르 붙여 사생활을 보호하며 지능적인 기능을 하게 하는 것이다. 뷰노란 기업은 아산 병원에서 받은 6만장의 엑스레이 사진으로 의사보다 정확하게 손가락 뼈마디의 나이를 판별한다. 최근 자녀의 성장에 관심이 많은 부모에게 그와 관련한 정보를 제공하기 위해서다. 흑백사진은 인공지능이 보기에 더 학습이 쉬운 데이터다. 

 비프로 일레븐이란 기업은 경기장에 3대의 캠을 설치하고 영상을 경기 후 하나로 합쳐 패스 성공률과 유효슈팅률 등을 계산한다. 인공지능만으론 완전치 않아 인간이 보충하는데 유럽구단들의 큰 관심을 끌었다. 

 벤쳐기업 수퍼빈은 순환자원 회수로봇인 네프론을 개발했다. 내부에 컨베이어 벨트와 카메라, 무게측정기가 있어 이용자가 재활용품을 넣으면 그 무게와 재활용가능여부를 살펴, 적합하면 포인트를 이용자에게 지급하고, 아니면 다시 반환하는 식이다. 

 GPT-3는 N개의 단어 배열이 입력으로 주어지면 N+1번째 나올 가장 그럴듯한 단어를 출력하는 시스템이다. 이를 무한 반복해 대답과 문장을 구축한다. 

 인공지능과 관련하여 데이터 테이블러란 직업이 있다. 인공지능이 학습을 하기 위한 데이터를 구성하면서 데이터에 이름을 달아주는 직업이다. 

 3차산업혁명시대는 가치네트워크 기업, 플랫폼 기업이 우세했다. 이들은 두 종류 이상의 고객을 매개하고 그 가치와 수익을 창출했다. 고객이 많을 수록 우위를 점하는 네트워크 효과가 크게 나타나 독점을 누리게 디었다. 하지만 4차산업혁명시대는 가치엔진 시대다. 인공지능이 데이터를 이용하여 가치 있는 서비스를 산출하는 것이다. 가치엔진의 기본 의사결정은 5가지이다. 데이터와 지식을 어떻게 확보할 것인가, 어떻게 추론하고 최적화할 것인가, 어떻게 가치있는 목표를 설정, 산정, 확대할 것인가, 인간과 인공지능이 어떻게 협력해서 시너지를 낼 것인가, 인공지능 엔진을 어떻게 유지운영할 것인가 이다. 

2. 블록체인

 블록체인은 서로가 장부를 갖고 있고 24시간 동안 이를 서로 감시하는 체계다. 하지만 한 측의 컴퓨터가 꺼지거나 접속이 안 될 경우 장부 불일치가 나타날 수 있는데 이것이 비잔틴 오류다. 비잔틴 오류가 날 경우, 다수의 사용자들이 다수결 투표로 장부를 수정한다. 그래서 미래엔 블록체인이 주주총회나, 정치적 의사결정을 가능하게 하여 국회의원이나 최고경영자를 대체할 수 있다. 즉, 공도의 목표 달성을 위해 모든 이해 당사자들이 책임감을 갖고 투명하게 의사결정을 하는 거버넌스가 가능해질 수 있는 것이다.

 비트코인에서는 10분동한 사용된 일련 번호를 기록한 파일을 블록이라 하며 그 크기는 1mb정도다. 10분이 지나면 그 파일을 서로 돌려보고 불일치시 자동투표에 들어가는데 불일치 소수블록은 수정된다. 이 파일들이 시간순서대로 사슬처럼 정렬해 붙는데 그래서 블록체인이란 말이 생겨났다. 블록체인의 특징은 탈중앙화, 영구보존성, 투명성, 가용성이다. 

 비탈릭 부페린은 이더리움이라는 암호화폐를 만들고 화폐의 일련번호 외에도 프로그램의 등록을 가능하게 했다. 이렇게 블록체인에 등록된 프로그램을 스마트 콘트랙트라고 한다. 여기에 앱을 등록할수도 있는데 이 경우 그 앱은 탈중앙화앱인 DAPP이 된다. 그래서 이더리움은 다양한 앱과 프로그램을 이용할수 있고 그 덕에 이더리움은 암호화폐계의 애플이나 플랫품이 되었다. 

 암호화폐는 문제점도 있다. 우선 탈중앙화다. 이론과는 달리 암호화폐는 모두가 공유하여 장부를 검토하는게 아니라 비트코인은 겨우 4명, 이더리움은 3명의 채굴꾼이 장부검토를 통해 인센티브를 독식하고 있다. 다음은 확장성이다. 사용하자 많아 질수록 역설적으로 장부검토가 길어져 속도가 매우 느려진다. 그리고 과도한 전기사용이다. 코인의 채굴과 장부검토를 위해 사용하는 전기의 양이 이미 스위스 국가전체, 웬만한 대기업의 전기사용을 넘어셨다. 마지막은 개인정보보호다. 블록체인이 등록된 정보는 지울수 없다. 때문에 누군가 악의를 갖고 개인의 사생활을 침해하거나 악성정보를 블록체인화 해버리면 사실상 해결할 방법이 없다. 

3.AR/VR

 글로벌 시가총액 10대 기업 중 6곳이 AR/VR 용 헤드셋과 플랫폼, 게임을 출시하거나 준비 중이다. 애플은 스마트폰을 대체할 XR글라스를 2023년 고액할 예정이다. 1인 1스마트폰에서 1인 1AR/VR시대가 눈앞에 온 것이다. 

 글로벌 탑 SNS 스냇쳇은 가상현실 기능 도입 쇼핑 기능으로 구찌, 디올, 운동화 등을 스냅챗으로 미리 신는 서비스를 제공한다. 코로나 시국에 시가 총액이 4배 상승했다. 이렇게 증강현실을 통해 고객이 사전에 제품을 체험한 경우 반품률은 2%로 매우 낮다. 

 AR/VR은 의과대학의 해부 및 수술실습으로 이용할 수 있으며 환자에게는 몰입효과를 주어 통증을 낮춰준다. 또한 군사나 업무, 훈련 시뮬레이션으로 사용이 가능하고 가상사무실을 구축해 재택근무도 가능하게 한다. 교육에 있어서도 상당한 체험효과를 불러와 교육에 혁신적 변화가 예고된다. 

4.클라우드 컴퓨팅

클라우드 MSP란 개념이 있는데 이는 클라우드와 관련한 모든 서비스를 제공하는 기업을 말한다. 클라우드는 기존 기업들에게 시장 진입장벽을 낮추고 초기 비용을 낮추어 최종적으로 실패비용을 낮게 하는 장점이 있다. 과거 IT기업은 서버를 구매 및 설치하고 주기적으로 서버를 교체하고 인프라 확장을 위한 장비 확보 및 세팅시간이 컸다. 하지만 이래도 급속한 접속자 증가에 대응이 불가능했다. 또한 반대로 증가했던 접속자가 줄어 규모를 줄이는 것도 어려웠다. 하지만 클라우드 서비스를 이용하면 기업은 쓴만큼 만 내고 빠르고 민첩하게 확장 및 축소가 가능하다. 

 향후 전 세계 고객들의 요구 사항들이 전부 데이터화하여 저장 및 분석이 필요한데 이것의 기반이 되는게 클라우드다. 때문에 4차산업혁명 시대에 클라우드 컴퓨팅은 산업화 시대의 고속도로같은 인프라가 된다. 맥킨지 앤 컴퍼니는 클라우드 도입 기업이 9년뒤 영업이익이 1000조 증가할 것으로 보았다. 앱 개발 및 운영 생산성이 38%증가하고, 개발 운영 유지보수 비용이 75조 줄어들고 앱 다운타임이 57%줄어 들고, 비용은 26%감소하고 새 기능 시장 출시 기간이 55%감소하며 인프라 비용 효율이 29%증가하고 장애발생 획수가 55%감소하고 때문이다.

 전 세계 클라우드 산업은 급성장하고 있다. 클라우드 컴퓨팅은 각 산업마다 차별화될 필요가 있는데 각 사업마다 요구하는 것이나 특징, 과정들이 모두 다르기 때문이다. 그래서 미래에는 공장, 발전소, 물류, 교통 등의 산업시스템이 맞는 각 개별 클라우드를 가져야 할 필요가 있다.