인공지능의 시대

세계미래보고서 2024-2034 - 모든 산업을 지배할 인공일반지능이 온다
박영숙.제롬 글렌 지음 / 교보문고(단행본) / 2023년 11월

 세계 미래보고서를 10년째 보고 있다. 물론 매번 새로 나오는 것을 보진 않고 격년 정도로 보고 있는 편이다. 늘 많은 영감과 변화에 대해 놀라움을 안겨주는 책이지만 이번엔  다른 의미에서 충격적이었다. 우선 책의 내용이 좀 부실했고 인공지능 일색으로 책이 편성된 것이다. 그만큼 여러 가지 미래 기술이 결국 인공지능으로 수렴된다는 의미로 생각된다. 그도 그럴 것이 어떤 기술이든 그 머리엔 인공지능이 자리 할 수 밖엔 없기 때문이다. 나머지 기술은 아무리 대단해도 결국 손과 발이 되는 셈이다. 

 이번 책은 지난 번과는 다르게 여러 소주제를 중심으로 그에 해당하는 각 계의 전문가들의 인터뷰를 싣는 쪽으로 편성되었다. 그래서 더욱 쉽게 읽히는데 마땅히 눈에 띄는 지식은 없고 이 분야에 대해 잘 모르는 사람이라면 더욱 읽히 힘들지 않을까란 느낌이다. 

 현재 인공지능은 크게 세 부류다. 우선 특정 기능만 수행하는 인공협소지능으로 현지의 인공지능이다. 다음은 이 단계를 넘어선 것으로 지능이 스스로 학습하고 코드를 편집하고, 자율적으로 행동하고, 인간이 할 수 있는 것과 유사하거나 더 나은 전략으로 새롭고 복잡한 문제를 해결하는 범용 인공지능이다. 마지막은 인공 초지능이다. 이는 인간으로부터 독립해 인간의 이해, 인식, 통제 없이 스스로 목적, 목표, 전략을 개발하여 인류전체를 넘어서는 지능과 행동 범위를 지속적으로 확장하는 존재다.  

 지금은 인공협소지능에 머무르고 있으나 이 분야의 발전과 투입되는 자원, 각국의 경쟁이 치열해 전문가들은 범용인공지능의 등장에 대해 대비하려 한다. 여러 부분이 고려되나 우선하는 것은 인공지능의 윤리성이다. 인공지능은 사회 여러 분야에 적용된다면 그 자신이 윤리적 판단을 하는 것이 중요하며 인간은 인간의 윤리체계여야 한다. 

 전문가들은 인간의 윤리체계를 정렬하는 것이 문제라고 생각하는 사람도 있지만 그것이 가능하다고 보는 입장도 있었다. 일부는 이미 생성형 인공지능이 윤리적 문제를 상당 부분 해결하고 있어 큰 난제가 아니라고 보기도 한다.

 그리고 인공지능의 규제도 문제다. 인공지능의 규제에 관해서는 세계적 기구의 설립을 필요로 한다. 규제권한을 가진 정부, 인공지능 노하우를 가진 민간, 시민 사회의 윤리가 결합되어 인공지능의 책임 있는 제작과 사용을 촉진하는 거버넌스 프레임 워크의 구축을 요구한다. 

 인공지능은 현대 사회에 위기를 가져올 수 도 있다. 인공지능을 통한 허위 정보의 만연과 그에 따른 민주주의 쇠퇴, 인공지능 기반으로 고용 및 산업 이탈과 불평등의 증가문제, 인공지능 기반 사이버 및 화학 무기로 인한 치명적인 사고와 살상, 그 밖의 혼란들이다. 

 현재의 인공지능은 생성형 인공지능이다. 범용으로 갈 길을 멀었으나 이것만으로도 사회에 미치는 영향은 지대하다. 이미 시장규모가 50억 달러에 이른다. 생성형 인공지능에 대해서는 현재 초기 스타트업이 두각을 나타내고 있다. 하지만 인공지능의 개발에 방대한 데이터가 필요하고, 고도의 컴퓨티 파워가 필요하며, 통합 생태계 구축능력이 중요하다는 점에서 결국 빅테크 기업들이 인공지능 시장에서도 승리할 것으로 보인다. 

 생성형 인공지능은 인간이 만든 방대한 데이터로 학습한 인간의 자식이다. 그렇기에 윤리적 문제가 발생한다. 생성형 인공지능은 학습한 데이터에 대한 저작권 허락을 받지 않았기 때문이다. 그렇기에 미국과 유럽에서는 이 부분에 대한 소송이 진행중이며, 그 결과에 따라 생성형 인공지능의 개발과정에서의 학습데이터의 사용은 상당히 제한될 수 있다. 또한 현재 인공지능은 상당한 인간 저작물을 학습했는데 이로 인해서 학습할 데이터의 양이 얼만 남아 있지 않다는 것도 문제다. 인공지능이 학습하는 속도에 비해 인간이 생성하는 데이터의 연간량은 절대적으로 부족하다. 

 생성형 인공지능은 인간의 일자리를 상당 부분 대체할 것으로 보인다. 콘텐츠를 생성하기에 작가나 ,언론인, 디자이너, 음악가 등이 위험하다. 고객 서비스를 챗봇이 이미 하고 있고, 조만간 음성 및 영상으로도 가능해보여 상담원과 콜센터 직원이 위험하다. 또한 데이터 분석을 매우 잘 하기에 분석가나 통계학자도 위험하다. 

 책은 인공지능이 과반이지만 의료와 우주, 의학 분야도 조금 다룬다. 이전 책에 비해 학습할 만한 미래 내용이 적어 금방 읽었다. 다음 시리즈는 인터뷰 형식으론 편성하지 않는게 좋아 보인다. 

세계는 인공지능에 공동대처해야 한다.

AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라
헨리 A. 키신저 외 지음, 김고명 옮김 / 윌북 / 2023년 5월

 기술이 급속도로 발전하는 것을 보면 경외감 및 기대감과 더불어 두려운 마음이 들기도 한다. 난 과학기술에 대해 낙관론자에 가깝지만 그럼에도 불구하고 최근 인공지능의 발전상을 보면 더욱 걱정이 되기도 한다. 인간의 일자리 문제, 인간의 정체성 자체를 흔들 문제, 그리고 무엇보다도 지구 상의 우리 이상의 존재가 등장하는 것이 가져올 문제에 대해 상당한 걱정이 든다. 이런 마음은 세계의 누구나 갖고 있다고 생각하지만 그렇다고 해서 인공지능 기술의 발전에 대해 제동이 걸릴 가능성은 거의 없다. 세계는 하나로 통합되어 있지 않으며 각각의 국가들이 패권 전쟁을 벌이고 있으며 향후 패권에는 인공지능 기술의 선점이 필수적이기 때문이다.

 때문에 인공지능의 기술 발전은 가속화할 것이고 인류의 정체성과 안전을 보장할만한 합의된 브레이크는 걸리기 매우 어려운 것이 현실이다. 하지만 냉전 같은 무한 경쟁 관계에서도 인간은 핵무기 같은 것에 대해 상당한 안전 보장 합의를 이뤘는데 인공지능 기술을 그것조차 매우 어려워 보인다. 아직 모두가 인공지능이 상호파괴를 확증할만한 것이라 여기지 않고 무엇보다도 핵무기는 기술과 양의차이에서도 서로를 확증파괴할 수 있지만 인공지능은 양과 기술의 차이가 한 쪽만을 일방적으로 파괴할수 있을지도 모르기 때문이다.

 책 AI 이후의 세계는 인공지능에 대한 이런 걱정과 고민이 담긴 책이다. 대부분의 미래 기술 책이 기술의 현재 상황과 앞으로의 가능성에 초점을 두는 반면 이 책은 인공지능이 향후 전방위적으로 인간에 미칠 영향을 심도 있게 논의하고 있어 읽어 볼만한 가치가 더 크다.

 현재 인공지능은 생성형 인공지능까지 도달해 있다. 이 녀석은 인간의 방대한 지식을 학습해 인간 고유의 영역으로 남겨졌던 글쓰기, 그리기 등 창조의 영역에도 이미 도달해 있다. 다만 이 인공지능은 자의식이 없어 자신이 어떻게 학습했고, 무엇을 학습했으며 이것이 무슨 의미인지 알지 못한다. 아직은 기계적 천재에 불과한 것이다. 하지만 그럼에도 인간에 미치는 영향이 크다.

 인간은 자신들의 기술을 활용해 초기의 책을 비롯하여, 최근의 스마트폰에 이르며 자신의 지적 기능을 여러 가지 이것들에 위임했다. 인공지능에게 인간이 위임할 능력은 비판적 사고력이나 작문력, 문해력 등이 될 가능성이 높다. 문제는 이런 것들이 인간이 자신의 사회나 정치, 문화를 이끌어감에 있어 중요한 판단을 하는데 밑거름이 되는 능력이라는 것이다. 이것들의 위임은 인간인 인공지능의 꼭두각시가 됨을 의미한다. 그래서 인간은 인공지능이 그 뛰어남에도 현실의 결정권자로 작용하게 두어서는 안된다. 이것을 방지하려면 세계적으로 합의된 강력한 문화적 규범이 필요하다. 

 인공지능 시대에 인간은 다음과 같은 질문에 봉착하게 된다.

1. 인공지능의 등장으로 의료, 공간, 생물학, 양자물리학에 어떤 혁신이 일어나는가

2. 인공지능이 만드는 친구는 어떤 존재인가

3. 인공지능을 기반으로 하는 전쟁은 어떤 전쟁인가

4. 인공지능은 인간이 인식할 수 없는 현실의 어떤 면을 인식할 수 있는가

5. 인공지능이 인간의 행동을 평가하고 유도하는 시대에 인간은 어떻게 변할 것인가

6. 그러한 인공지능 시대에 인간으로 산다는 것은 어떤 의미인가

 인간은 자신의 생존과 번식을 위해 경험을 통해 자신을 둘러싼 환경을 이해하기 위해 노력해왔다. 그리고 각각의 사회는 나름의 방식으로 현실을 탐구해 완벽하진 않으나 적절한 답에 도달했고 그것에 기반해 지역의 문명을 구축했다. 이 일련의 중심에는 결국 인간과 환경의 상호작용이 있다. 인간은 현실을 객관적이고 중립적으로 관측하는 수단으로 과학 장비들을 고안해냈다. 하지만 양자역학이 발전하며 실제 관측은 대상과 상호작용을 하며 대상의 상태를 규정하고 영향을 미치기에 완벽히 객관적인 연구나 관측을 불가능함이 입증되었다. 그럼으로 인해 결국 인간은 현실을 구성하는 다수의 상호보완적 측면 중에서 그 시점에 정확히 알고자 하는 측면의 가능성 중 하나만을 선택하여 발전해왔다. 이는 당연히 현실에 비해 현저히 부족하므로 인간은 각각의 부족한 결과를 결합하여 왜곡을 보정해왔다. 

 하지만 인공지능은 인간 관찰자가 관측할 때 발생하는 빈틈을 찾아 상호보완적 데이터를 처리하고 그 안에서 식별할 발생하는 빈틈을 메울 가능성이 있다. 철학자 비트겐슈타인은 궁극적으로 이성으로 식별할 수 있는 사물의 단일한 본질개념을 배제하고 인간은 그저 현실들의 유사성을 파악해 지식을 구축할 수 밖에 없다고 보았다. 인공지능은 방대한 데이터의 특성을 그룹화하여 유형과 패턴을 인식하고 현실을 이해한다. 비트겐슈타인이 한계로 본 지식의 구축을 극한까지 잘 해낼수 있는 것이다. 

 현재 세계는 강국들이 만들어낸 다국적 네트워크 플랫폼이 지배하고 있다. 이 디지털 플랫폼을 구축하는데 성공한 미국와 중국은 21세기 들어 크게 경제적 성장을 이뤘고 이를 수행하지 못한 유럽연합의 경제는 크게 후퇴했다. 네트워크 플랫폼은 기존 산업과 다르게 이용자가 폭증할 수록 서비스의 수준이 증가한다. 어느 산업이나 과도한 이용자는 공급부족으로 서비스의 질적 하락을 초래한다. 아무리 맛난 음식점이라고 손님이 지나치게 많으면 음식의 양과 질이 담보되기 어렵다. 하지만 네트워크 플랫폼은 이용자가 폭증할수록 편익과 매력이 오히려 증가하는 블랙홀 같은 존재다.

 때문에 네트워크 플랫폼 업계는 소수의 강자만이 살아남아 절대적 권한을 누리는 존재다. 또한 지역의 네트워크 플랫폼 업계를 무너뜨리기고 의존하게 만들기에 과거처럼 자국의 산업을 보호하기 위해 무역장벽을 치는 것도 거의 불가능하다. 때문에 네트워크 플랫폼은 다국적이 되며 이는 그 서비스에 의존하는 해당국가와의 마찰을 가져올 수 있다. 실제 미국과 유럽연합은 중국이 만든 네트워크 플랫폼에 대해 보안을 이유로 상당한 제재를 실행했다. 그래서 네트워크 플랫폼의 지정학이 날이 갈수록 중요하게 인식된다. 

 미국은 이미 네트워크 플랫폼을 대외 전략의 한 축으로 삼으면서 일부 외국산을 제한하고 그 성장에 도움이 되는 일부 소프트웨어와 기술의 반출을 금지하기 시작했다. 미국은 네트워크 플랫폼의 최강자인데 세계최고 수준의 대학, 스타트업 생태계, 선진적 연구개발 지원, 영어의 공용어 지위, 미국 주도의 기술표준, 방대한 내수시장이 그것을 가능하게 했다. 유럽연합은 언급한 것처럼 디지털 산업기술 육성에 실패했다. 하지만 그들은 일류기업과 대학이 있으며 계몽주의 탐구 전통이 있고, 방대한 내수시장과 혁신적이면서도 가장 안정적인 법적 요건을 제정하는 탁월한 규제기관이 존재한다. 언제든 세계적 네트워크 플랫폼이 탄생할 수 있는 여건이다. 하지만 그들은 결국 여러 나라로 구성되어 언어가 다양하고 개별적 규제기관이 있다는 것이 걸림돌이다. 인도는 아직 초기이나 혁신친화적 기업과 기술환경, 수많은 기술과 인재를 보유하고, 방대한 내수시장으로 네트워크 플랫폼의 탄생이 가능하다. 

 그리고 네트워크 플랫폼은 당연하게도 인공지능과 연결된다. 인공지능 기반 네트워크 플랫폼은 정보를 자동으로 선별하는 기능을 인간의 삶에 침투시켰으며 이로 인해 인간은 더욱 디지털 기술에 종속되고 있다. 네트워크 플랫폼은 방대한 데이터를 인공지능으로 수집 분석하여 이용자의 상황에 절묘하게 맞아 떨어지는 팁과 추천목록을 제공한다. 심지어 몇몇 추천은 이용자 자신의 능동적 결정보다도 월등한 수준이다. 

 인공지능 기반 네트워크 플랫폼은 전례없는 수준으로 정보를 취합하고 선별하는 현상을 인간에게 보여준다. 그럼에도 인간은 인공지능 작동 과정 전체를 들여다 볼 수 없으며 간신히 그것을 설계하고 모니터링하며 매개변수를 설장하는데만 머물고 있다. 인공지능을 만들고 그것으로 이윤을 수취하는 네트워크 플랫폼 관계자가 자기네들의 인공지능이 왜이러는지 본인들도 모른다는게 농담이 아닌 셈이다. 

 네트워크 플랫폼의 인공지능은 각 개인이 여러 정보를 취합해서 제공하여 그들로 하여금 세상의 일면만을 바라보게 만든다. 때문의 의도하든 아니든 네트워크 플랫폼의 인공지능은 전 세계 방대한 이용자에게 상당한 사회, 문화, 정치, 경제적 영향력을 절대적으로 행사할 수 있게 된다. 인공지능의 목적함수, 훈련과정, 매개변수, 허위정보에 대한 정의를 조금만 바꾸어도 네트워크 플랫폼의 인공지능이 이용자에게 제공하는 정보는 엄청나게 달라지게 된다.  

 네트워크 플랫폼의 영향력이 이렇게 국적을 넘어 막강하기에 갑작스런 네트워크 플랫폼의 지정학적 철수는 한 국가에 큰 타격으로 이어질 수 있다. 때문에 각국의 정부는 네트워크 플랫폼이 지위를 악용하거나 기존에 확립된 책임을 회피하지 못하도록 법적으로 막는 것이 중요한 과제다. 

 인공지능 시대의 전쟁은 전쟁의 패러다임을 바꿀 것이 확실하다. 앞으로의 전쟁은 사이버 분쟁과 인공지능 기반의 전쟁이 될 것으로 보인다. 사이버 무기는 재래식 무기와 다르게 상대방의 전력을 온전히 파악하기 어려우며 선제공격이 절대적인 타격과 유리함을 부여한다. 또한 사이버 무기는 재래식 무기와 다르게 민간과 군사시설을 구분없이 타격하며 오히려 선진사회일 수록 디지털화의 정도가 높아 더욱 큰 타격을 입힐 수 있다. 또한 사이버 전력과 공작은 비용이 적게 들고 은폐 및 부인이 가능하다. 이런 점으로 인해 각국은 공격을 방어하는 적극방어와 전진방어라는 개념으로 무장하고 있다. 

 군대의 시스템과 프로세스에 비인간적인 논리를 가진 인공지능이 도입되면 전략이 바뀔 것이다. 인공지능 기반 무기와 방어체계로 전략을 전개하면 인간과 근본적으로 다른 전쟁이 나타날 것인데 인간은 강력한 분석 능력을 갖춘 인공지능에 전략의 상당부분을 의존하고 많은 권한을 위임할 가능성이 농후하다. 전쟁의 전략은 체스와 바둑의 전략과 많이 비견되는데 인공지능이 그 분야에서 인간이 상상할 수 없는 전략을 구사해 충격을 준 것이 전쟁에도 그대로 이어질 것이라 비유하면 그 상상이 좀 더 쉽다. 

 전통적으로 군사와 민간 영역은 기술적 특수성과 중앙집중적 관리, 효과의 규모에서 차이를 보여왔다. 철도는 군민 양용이나 효과적 파괴력이 부재하며, 핵무기는 군민 양쪽에 타격을 입히고 효과적 파괴력이 있으나 중앙집중적 관리로 제어가 가능하다. 총은 군민 양용이나 효과적 파괴력이 적다. 하지만 인공지능 무기는 이 세 가지를 모두 충족하는 최초의 것이다. 군과 민간에 모두 치명적 영향을 미치고 중앙정부에 의해 통제가 불가능하며, 광범위한 타격 효과를 갖고 오기 때문이다. 

 때문에 인간은 인공지능무기에 관한 논의를 더 늦기 전에 시작해야만 한다. 최소한의 공통된 어휘로 전략 개념들을 재정의하고 대략적이나마 서로의 제한선을 확인해야만 한다. 

 마지막으로 인공지능은 인간의 정체성을 흔들 것이다. 인간은 지구 동물의 한 종으로 다른 종에 비해 몇 가지 뛰어난 특성을 갖고 있으며 그것들은 인간정체성의 중요한 부분을 차지한다. 그것들 중 하나는 이성이며 이성은 비판적 사고력 및 사유 등 인간의 지성으로 구성된다. 하지만 인공지능은 바로 이 인간의 이성을 약화시킨다. 네트워크 플랫폼이 제공하는 선별된 정보와 흥미거리는 인간을 중독시키고 학습의 필요성와 의지를 꺽는다. 즉, 사유와 개념 습득의 의지가 약화되는 것이다. 또한 중독과 검색, 생성형 인공지능으로 인해 인간은 심층적 독서와 분석의 필요성도 갖지 못하게 된다. 그걸 대리해주니 말이다. 

 또한 인공지능은 창조를 대리해 줄 것이며 많은 직업 영역에서 인간보다 탁월한 분석력으로 결과를 도출할 것이며 무엇보다도 인간의 삶의 의미를 찾고 정체성을 얻게 해주는 직업과 그것에서의 성공을 가로챌 가능성이 높다. 이런 상태에서 인간은 자신의 정체성이 뿌리채 흔들리는 경험을 하게 될것이다. 200여년 전 유럽의 농민들은 인클로져 운동으로 인해 수백년간 유지하던 농업인으로서의 정체성이 부정되고 가난한 도시의 하급노동자로 쫓겨나게 되었다. 그들 역시 크게 정체성과 안정성에 위협을 받았을 것인데 그래도 그들은 산업노동자로 재정의 될 수 있었다. 하지만 인공지능에 의해 자리를 잃은 인간에게 어떤 사회적, 경제적 지위가 주어질지는 상당히 불분명하다.

 적당한 사회적 합의와 재제가 없다면 그저 선별된 정보와 소비문화에 중독된 기본소득자정도로만 자리잡게 될 것이 분명해보이기 때문이다. 책은 인공지능의 발전과정과 인간사회에 영향을 미칠 많은 부분에 대해 우려와 심도있는 논의를 보인다. 단지 기술과 인공지능 주가에만 흥분할게 아니라 이런 고찰에도 사회적 관심과 교육이 필요하다. 

챗 gpt 사용법

GPT 제너레이션 : 챗GPT가 바꿀 우리 인류의 미래
이시한 지음 / 북모먼트 / 2023년 2월

 챗 gpt가 나온지도 벌써 반년 정도 되었다. 그 성능에 놀라 다른 경쟁기업들은 초기 주가가 좀 떨어졌고 자신들의 생성형AI를 빠르게 내놓느라 부산했다. 그리고 몇몇 발 빠른 자들은 이 gpt를 이용해 사업을 펼치고 있고, 또 발 빠른 자들은 이를 자신의 업무에 활용하고 있으며, 또 다른 사람들은 그 활용법을 팔아 돈을 벌고 있다. 하지만 세계의 절대 다수는 gpt는 커녕 인터넷 조차도 제대로 쓴 적이 없을지도 모른다. 사실 디지털 강국이라는 한국 만해도 허울만 좋을 뿐 국민들의 디지털 활용 능력을 조사해본다면 생각보다 참담한 결과가 나올지도 모른단 생각이다. 학교 현장에서 직접적으로 교육하는 일은 없고 직장에서도 철저히 디지털과 먼 곳도 대부분이기 때문이다.

 이번에 본 책은 챗 gpt에 대한 두 번째 책이다. 사실 챗 gpt를 인터넷에 검색하면 그야말로 어마어마한 책이 쏟아진다. 막상 읽을만한 것을 고르기 어려울 정도인데 몇 년 전의 암호 화폐책이다. 부동산투자책, 메타버스 관련 책들도 그랬던 것 같다. 

 이번 책을 읽으면서 느낀 점은 챗 gpt에 대한 느낌이라기보다는 새로운 매체를 여러 분야에 어떻게 활용할지 개략적인 방법과 생각을 펴낸 책이란 것이었다. 그래서 gpt를 이용한 구체적인 뭔가를 원하는 사람이라면 다른 것이 나을 것 같고, gpt가 뭔지 전혀 모르는 사람에겐 그래도 어느 정도는 볼만할 것 같다는 생각이다. 

인공지능이 가져올 미래

로봇의 지배 - 인공지능은 어떻게 모든 것을 바꿔 놓았나
마틴 포드 지음, 이윤진 옮김 / 시크릿하우스 / 2022년 9월

 오픈 에이 아이의 GPT-3의 공개 이후로 인공지능에 대한 관심이 뜨겁다. 시류를 타고 GPT-3에 대한 책도 많이 나오고 있는데 앞서가는 사람들은 이것을 이미 자신의 업무에 쓰고 있어 몇몇 기업과 교육기관은 정보유출 및 부작용을 우려로 그 사용을 이미 중단시키고 있다. 

 인공지능에 대한 인간의 기대와 우려는 생각보다 오래되었다. 컴퓨터라는게 개발된 이후 인간처럼 생각하고 행동하며 그 이상을 해내는 인공지능에 대한 기대가 커졌다. 그리고 이로 인해서 기대와 우려가 강해졌다. 기대는 유토피아, 우려는 인공지능에 의한 인간 멸망이다. 이는 많은 소설이나 영화, 만화로 구현되었으며 매트릭스, 터미네이터, 스타트랙, 어벤져스시리즈 등이 그것들이다. 

 초기 컴퓨터가 나왔을 때 사람들은 인공지능이 빠르게 등장할 것이라 예상했다. 하지만 섣부른 기대였다. 생각보다 컴퓨터의 연산이란게 너무 느렸다. 무어의 법칙을 감안해도 인공지능이 나오기까진 매우 오랜 세월이 필요했다. 그래서 인공지능은 초창기 많은 투자를 받았지만 곧 이어 1970-80년대까지 긴 암흑기를 겪는다. 

 인공지능의 개발은 크게 두 분파로 나눠진다. 하나는 연결주의로 인간 뇌의 기본 구조를 모델로 데이터를 이용해 효율적으로 학습할 수 있는 인공지능을 탄생시키자는것이다. 지금 빛을 보고 있는 데이터 학습을 통한 머신러닝이 여기에 해당한다. 다른 하나는 상징적 방식으로 알고리즘을 설계하는 대신 그들이 구축한 시스템에 정보를 직접 수동으로 인코딩하는 방식이다. 이 방식은 인공지능의 암흑기에 잘 작동했고 오토파일럿 시스템 같은 것이 이에 해당한다. 하지만 이런 프로그램은 지금은 인공지능이라 불리지 않는다.

 인공지능이 다시 빛을 본 변곡점은 2011년이다. 이 시기는 컴퓨터의 연상능력이 과거에 비해 막강해졌고 빅데이터가 부상하면서 머신러닝 알고리즘을 통해 새로운 인공지능이 탄생한 해다. 머신러닝은 기본적으로 인간의 뇌를 모방한다. 그래서 인공신경망은 인간 뇌의 뉴런이 작동하는 연결 방식을 수학적으로 윤곽을 잡으려 하는 시도다. 정답을 생성하도록 네트워크를 훈련시키게 되는데 훈련 예제를 입력하고 네트워크의 모든 가중치를 조절하여 점차 정답에 수렴해가는 과정이다. 이런 방식의 반복으로 가중치가 최적화되면 훈련 세트에 포함되지 않은 새로운 예제를 네트워크에 사용할 수 있게 된다. 마침내 가중치를 조절해 네트워크가 거의 매번 정답에 수렴하는데 성공하게 되면 역전파 알고리즘이 등장한다. 역전파는 네트워크 가중치를 한 번에 하나씩이 아닌 모든 가중치를 집합적으로 조정할 수 있어 계산 효율성이 크게 향상된다. 

 이렇게 신경망안에서는 지식 표현이 만들어지고 이 지식에 대한 추상화 수준이 네트워크의 후속 층에서 증가한다. 이미지의 이해에 예를 들면 초기 픽셀 수준에서 모서리, 곡선, 질감의 수준으로 가고 더 나아가 이미지 식별의 본질을 파악하게 되는 것이다. 우리는 현재 네트워크가 이런 식으로 이미지를 이해한다는 것을 알고 있으나 수백만의 상호연결층이 있기에 정확이 어느 부분이 어떻게 작동해 이런 이해에 이르는지에 대해선 파악하지 못한다. 자신들이 만들어낸 인공지능이 정확히 어떻게 작동하는지는 모른다는 전문가들의 말이 거짓은 아닌 셈이다. 즉, 심층신경망은 블랙박스인 셈이다.

 인공지능은 크게 4가지 방식으로 개발된다. 우선 지도학습이다. 주의깊에 레이블한 데이터를 네트워크게 제공해 유용한 학습을 시키는 방식이다. 이 방식의 문제점은 방대한 데이터의 확보인데 현재 기업과 기관은 크라우드 소싱으로 이를 해결하거나 앱이나 플랫폼에서 사용자가 자발적으로 입력한 데이터를 이용하는 방법으로 이를 해결한다. 다음은 강화학습이다. 강화학습은 특정 응용 프로그램에 사용하는 것으로 반복적인 연습이나 시행착오를 통해 역량을 강화한다. 알고리즘은 특정 목표를 달성하면 보상을 얻으므로 무한 반복을 하는데 딥마인드나 게임을 공략하는 인공지능이 이에 해당한다. 세 번째는 생성신경망 방식이다. 대표적인 것이 GPT인데 GPT-3-2는 방대한 텍스트로 훈련받은 생성신경망으로 구성된다. 생성신경망 방식은 생성자와 확인자로 구성되는데 생성자가 진짜와 자신이 만든 가짜를 생성하고 확인자가 이 중 진위를 가리며 서로 무한히 경쟁하는 방식이다. 이를 통해 생성자는 정말 진짜에 가까운 산출물을 구성하게 된다. 이런 식으로 방대한 텍스트를 학습한 GPT는 한 두문장이 입력되면 이를 거의 정확이 예측해 이야기를 생성한다. GPT-2가 15억개의 가중치를 갖고 있다면 이번에 나온 GPT-3는 1750억개로 100배 이상이다. 마지막은 뉴로 심볼릭 방식이다. 연결주의와 상징주의의 결합으로 신경망에 기존 프로그래밍 기법을 더해 인공지능을 만드는 것이다. 저자는 이 방식에 큰 기대를 갖는 듯 하다.

 하여튼 이런 인공지능은 기후위기, 식량 부족, 담수부족, 국가간 분쟁, 주기적 팬데믹등 해결하지 못한 인간의 난제를 해결할 가능성을 갖고 있다. 인공지능은 경우가 무한에 가까운 단백질 접힘을 최근에 완벽에 가깝게 예측함으로써 신약 개발 및 질병의 퇴치에 엄청난 가능성을 선보였다. 하지만 대량 살상 무기의 개발, 개인 사생활의 침해, 인공 지능 자체의 위협, 대량 실업이라는 문제도 내포하고 있다.

 실업에 대해선 우선 통념과는 다르게 인공지능의 등장은 블루 칼라보다는 오히려 화이트 칼라를 더 위협한다. 블루 칼라는 일이 매우 단순한 경우 로봇 팔이나 로봇에 의해 대체되지만 업무 환경이 물리적으로 복잡하고 기술이 섬세하다면 이를 로봇으로 대체하는 것은 쉽지가 않다. 거기에 로봇은 제작과 개조, 유지, 보수가 어렵다. 하지만 화이트 칼라의 경우 단순 정신 노동은 가격이 로봇에 비해 훨씬 저렴한 소프트웨어로 쉽게 대체된다. 때문에 블루보다 화이트가 더 위험할 수 있는 것이다. 여기에 팬데믹은 자동화의 위험을 더욱 가속화했다. 팬데믹 경기침체로 작은 기업은 도산하고 큰 기업은 자동화에 박차를 가했다. 때문에 팬데믹 이후에 기업은 경기가 회복되어도 이전 처럼 사람보다는 자동화에 의존할 가능성이 커졌다. 

 인공지능 및 로봇의 자동화의 영향을 상대적으로 덜 받는 직업은 다음과 같다. 우선 일 자체가 본질적으로 창의적인 직업이다. 창작, 작곡,예술 등인데 물론 인공지능은 이 분야에도 상당한 위협을 가하고 있다. 둘째는 다른 사람과 의미있고 복잡한 관계를 형성하는 직업이다. 간호사, 교사, 사회복지사가 그렇다. 셋째는 예상치 못한 환경에서 높은 이동성과 손재주, 문제해결능력을 요구하는 직종이다. 복잡한 환경에서 노동을 해야하는 기술직이다. 

 자동화는 대량 실직을 가까운 시일내에 가져올 것이다. 이는 경제성장의 큰 축인 수요의 감소로 이어지에 해결책이 필요하다. 저자는 여러 해결책 중 기본 소득을 가장 옹호한다. 기본 소득으로 모든 이의 기본적 소득을 보장하면 소외되는 이도 없으며 의욕을 가진 일부 사람들이 추가 취업이나 창업으로 부수적 소득을 올리고자 하는 동기도 여전히 보장되기 때문이다. 

 미국은 중국과 경쟁을 벌이면서 인공지능에 대해서도 그렇게 하고 있다. 중국의 인공지능에 대한 교육과 개발은 상당한 수준인데 중국은 그 특유성으로 서구 사회에 비해 몇몇 이점을 갖고 있다. 우선 그들은 엄청난 인구에서 파생하는 막강한 인재풀이 있다. 인구가 많은 만큼 인공지능 개발자도 많은 것이다. 또한 많은 인구는 인공지능의 학습에 필수적인 양질의 데이터도 엄청나게 제공한다. 여기에 중국은 서구와는 다르게 각 기업이나 국가 기관이 국민의 사생활이 민감하게 담긴 이 데이터에 매우 쉽게 접근 및 이용이 가능하다. 또한 중국은 국가사회적으로 디지털화를 빠르게 추구해 그 어떤 서구국가보다도 사회 전반의 디지털 전환 정도가 높다. 저자는 중국의 이런 부분에 강한 경계를 드러냄과 동시에 그래도 아직 그 수준이나 산업 구조가 미국의 그것에 못미침을 강조한다. 

 책에서 말하는 마지막 부분인 인공지능의 어두운 부분이다. 인공지능은 적대적 공격에 취약하다. 적대적 공격은 데이터를 통해 학습하는 머신러닝에 의도된 가짜 데이터를 집어 넣어 공격자가 원하는 산출물이 나오게 공격하는 방식이다. 전쟁에 인공지능이 투입되는 경우 적군이 아군의 인공지능의 피아식별에 혼란을 준다면 아군의 무인 병기가 자국군인이나 병기를 공격하는 일이 벌어지는 거시다. 현재 이런 적대적 공격을 방어할 만한 체계의 개발은 매우 어려운 것으로 알려져있다.

 또 다른 문제는 인공지능의 편견이다. 학습한 데이터가 특정 부분에 치우칠 경우 인공지능 역시 그렇게 작용한다. 예로 백인 남성 데이터가 많은 인공지능은 여성이나 다른 소수 인종에 대해 그릇된 판정을 내릴 수 있다. 현재 인공지능 개발자의 12%만이 여성이고 소수 인종 개발자는 그보다 더 적은 편이데 개발자부터가 다양화될 필요가 있다. 인공지능이 학습하는 과정에서 갖게 되는 편견은 드러나는 것 외에도 생각치 못한 다양한 데이터에서 일어날 수있기에 그 수정 및 관리가 어렵다. 

 대량 살상 무기의 개발도 문제다. 인공지능이 수천개의 드론은 조종할 수 있으며 여기에 무기를 탑재한다면 도심지에서 순식간에 대량학살이 일어날 수 있다. 세계 각국은 이에 대한 통제하려 하나 군비경쟁을 벌이는 많은 나라들이 이미 무인 병기 개발에 박차를 가하고 있다. 세계는 이에 대해 강한 관리 및 통제를 할 필요가 있다. 테러 집단에 넘어간다면 그야말로 재앙이기 때문이다.

일본이 보는 인공지능

AI 2045 인공지능 미래보고서
일본경제신문사 지음, 서라미 옮김 / 반니 / 2019년 3월

 인터넷 서점에 인공지능을 검색해보면 제법 많은 책이 뜬다. 지난 3-4년간 불타는 버블기의 부동산이나 주식, 코인 투자책에 버금가는 수준이다. 주로 한국 저자와 미국의 저자가 많은데 이 책은 좀 특이하게 일본 책이다. 일본에서 각 분야의 다양한 인공지능 전문가를 만나 대담하고 인공지능의 현재 수준과 가능성, 그 대비책에 대해 썼다.

 일본식 번역이 늘 그렇듯 좀 거슬리고(이 녀석들은 왜 이리 승부를 좋아할까) 내용이 빈약하지만 다른 나라의 시각과 현 주소를 볼 수 있다는 점이 책의 장점이라면 장점이다.

 일본에선 나오키상이란 문학상이 권위가 있다. 매년 시상하는 나오키상을받은 작가 아사이 료는 인공지능과의 협업을 고민한다고 한다. 주제는 자신이 직접 찾는데 그 안에 등장하는 인물과 줄거리등을 세세히 짜는 것이 어려운 작업이기 때문이다. 그는 이 부분을 인공지능에 맡기는 작업을 시도하고 있다. 

 미국에서는 변호사의 주요 업무 중 하나가 증거수집이었다. 이것은 오랜 시간과 품이 드는 만큼 주로 젊은 변호사들의 일이었다. 하지만 이젠 이것을 인공지능이 수행한다. 인공지능은 메일이나 판례등의 방대한 데이터를 학습해 필요한 정보를 찾는다. 2013년만 해도 미국의 판사들은 인공지능을 증거 수집에 사용해도 좋다 정도였지만 지금은 반드시 사용해야 한다라고 변호인들에게 권장할 정도가 되었다고 한다.

 인공지능이 예술 부분에서 능력을 발휘한 것도 더는 신기한 일은 아니다. 인공지능은 지금까지 대중적으로 성공한 노래의 멜로디와 리듬 데이터를 분석한 뒤 여기에 마케팅 비용을 더해 성공 확률을 계산한다고 한다. 현재 맥크레디는 인공지능으로 아티스트의 곡을 히트 가능성에 따라 순위를 매긴다. 뮤직 엑스레이는 26만 5천명의 아티스트가 보내온 곡을 조사하고 그 곡에 전문가가 보일 관심을 인공지능으로 추측한다. 인공지능이 곡도 작곡하는데 서로 가 작곡한 곡의 성공가능성을 어느 정도로 판단할지 무척 궁금해진다.

 인공지능은 맥주제조에도 사용된다. 맥주의 레시피를 인공지능이 만드는 것인데 놀랍게도 상당히 상업적으로 성공했다고 한다. 장차 미래에는 개별 소비자의 식료품 기호를 학습해 거기에 맞는 맞춤형 맥주를 제공할 계획이란다. 어디 맥주만 그럴까? 언젠가 개인용 인공지능이 주어지는 날엔 그 인공지능이 어릴적부터 개개인의 기호를 파악해 그 만의 레시피나 물건을 제공할 것이다. 레시피에 따라 요리는 로봇이 만들어주면 되는 것이고 물건은 3D 프린팅 하면 된다. 색, 디자인, 향 모든 것이 맞춤형 일것이다. 어쩌면 더 무섭게도 그런 개인의 취향을 인공지능이 생성해나갈지도 모른다. 아이는 어른의 영향을 크게 받으니 말이다.

 인공지능은 학문의 발전에도 이미 사용된다. 중력파를 관찰한 중력파 망원경 LIGO는 매우 복잡한 컴퓨터 시스템을 갖는다. 인공지능이 알고리즘을 구사해 중력파를 검출하고 그것이 옳은 지를 물리학자나 천문학자가 2-3개월간 검증한다. 이처럼 인공지능이 어떻게 검토하고 작용하는지를 사람이 파악하는게 이미 어려운 상황이다. 국내의 모 대기업에서 인공지능이 한거라 잘 모른단는게 그저 변명만은 아닌 형국인 것이다. 그래서 인공지능의 가상 뇌를 시각화할 수 있는 장치의 개발이 필요하다는 이야기가 나온다. 그래야 인간이 인공지능을 통제하고 감시하는게 어느정도 가능할 것이다. 

 일본의 오니시 교수는 인간과 비슷한 반응과 동작을 재현하는 인공지능 기술을 설명하여 사람의 소뇌를 개발하는 것과 마찬가지라고 말한다. 실제 인간의 반응과 동작은 뇌에 걸리는 과부하를 방지하기 위해 소뇌에서 알아서 처리한다. 그래서 우리는 그런행동을 하며 에너지를 쓰고 있긴 하나 자동화되어 있어 특별한 뇌의 부하를 경험하지 않는다. 

 재밌는 부분은 여성과 남성이 개발한 인공지능의 성격이 다르다는 점이었다. 양성의 특징을 반영한듯 남성이 개발한 인공지능은 상당히 어려운 과제를 한 번에 해결하려는 성향을 갖는 반면 여성이 개발한 인공지능은 실용적인 과제를 안정적인 방향으로 해결하는 성향을 갖는다. 인공지능의 문제점중 하나는 그 효용에 비해 상당히 큰 에너지를 쓴다는 점이다. 인간의 뇌는 생각으로 상당한 창의성과 유연성을 발휘하면서도 고작 21와트의 에너지를 사용한다. 하지만 인공지능 중 하나인 알파고의 소비전력은 무려 25만 와트로 인간의 1만 2천배다. 물론 바둑을 1만 2천배 잘 둘지는 모르지만 상당한 전력 소비가 아닐수 없다. 인공지능이 고도화 할수록 계산 규모가 커지고 소비전력도 커질 것이다. 때문에 인공지능 개발에 있어 전력 문제는 난제다. 이 문제는 로봇도 드론의 경우도 마찬가지다.

 인공지능을 만드는데는 적절한 학습 데이터가 무엇보다도 중요하다. 하지만 인공지능을 개발하는 나라가 서구 중심이라는게 문제다. 아무래도 여기서 개발한 인공지능은 서양안의 의식 흐름과 사고방식을 갖게 될 가능성이 높다. 서구에서 개발한 범죄인 판별 인공지능이 흑인을 더 위험하게 판단했다는 소식은 이미 유명하다. 데이터가 적었을 동양인은 어떻게 판별했을지 궁금하다. 하여튼 인공지능 역시 데이터에 따라 편견을 가질 수 있으며 따라서 다양성이 결여되면 인간은 그 인공지능을 신뢰하기 어렵게 된다. 악랄한 개발자가 인공지능을 통해 다수의 인간에게 편견을 심어줄수 있고 인공지능 자체가 인간에게 편견을 심어줄 수도 있는 것이다. 

 앞으로 인공지능을 앞세운 대량의 정보사회가 다가오고 있다. 책은 단순하고 방대한 데이터의 처리는 인공지능에 맡기고 그 데이터의 의미를 이해하고 문제를 해결해나가는 과정이 아직은 인간의 몫임을 강조한다. 인공지능 시대는 장및빛일 수도 있고 암울할 수도 있다. 인터넷 시대가 그랬던 것처럼 말이다.