[오늘의 한문장] 슈퍼 인텔리전스

우리가 예측할 수 있는 것은 에이전트가 수렴하는 도구적 가치들을 추구할 것이며, 이 가치들을 자신의 최종 목표를 달성하는 데에 이용할 것이라는 점이지, 이를 위해서 해당 에이전트가 취하려는 구체적인 행동까지는 예측할 수 없다는 것이다.

존재적 위험이란 지구로부터 기원한 지적 생명체를 멸종시키거나 그런 지적 생명체의 바람직한 미래의 발달을 영구적이고도 철저하게 파괴하는 위협을 말한다.

인공지능의 최종 목표는 우리를 행복하게 만드는 것이지, 프로그래머들이 이 목표를 입력했을 때에 의도했던 바를 이루는 것은 아니다. 따라서 인공지능은 우리가 무엇을 의도했는지에 대해서는 단지 도구적 관심만을 가지게 될 것이다. 예를 들면, 인공지능은 프로그래머들이 의도한 것을 알아내는 일에는 그저 도구적 가치만을 부여할 수도 있을 것이다.

이 논의의 첫 번째 부분은 인간("주인")이 다른 존재("대리인[agent]" : 예를 들면 인공지능/옮긴이)를 고용하여 자신의 이익을 위하여 행동하도록 할 때마다 일어나는 것으로서 이것을 첫 번째 주인-대리인 문제라고 한다

몇몇 통제방법들(또는 그 방법들의 조합)은 시스템이 초지능이 되기 전에 수행되어야 한다는 것을 인식하는 것이 중요하다. 시스템이 확실한 전략적 우위를 획득한 이후에는 통제방법을 수행할 수 없다. 통제 문제를 먼저 해결하고 해결된 결과들을 최초의 초지능 시스템에 성공적으로 적용하기가 어렵다는 사실이 적절하게 통제된 지적 폭발을 일으키는 것이 대단히 어려워지는 원인의 일부분이다.

[리뷰] <문명의 충돌> : 문명, 이데올로기의 종언 후 새로운 세계질서의 구분선인가

문명의 충돌 - 세계질서 재편의 핵심 변수는 무엇인가
새뮤얼 헌팅턴 지음, 이희재 옮김 / 김영사 / 2016년 2월

탈냉전 세계에서 사람과 사람을 가르는 가장 중요한 기준은 이념이나 정치, 경제가 아니다. 바로 문화다. 민족과 국민은 '우리가 누구인가'라는 인간이 직면할 수 있는 가장 근본적인 물음에 답하기 위해 부심하고 있다. 그리고 인류가 지금까지 그런 질문 앞에서 내놓았던 전통적인 방식으로 답변을 제시하고 있다. 바로 자신들에게 가장 의미 있는 대상에 관심을 기울이는 것이었다. 사람들은 조상, 종교, 언어, 역사, 가치관, 관습, 제도를 가지고 스스로를 규정한다. _ 새뮤얼 헌팅턴, <문명의 충돌> , p20/388

새뮤얼 헌팅턴 (Samuel P. Huntington, 1927~2008)은 <문명의 충돌 The Clash of Civilizations and the Reclaiming of World Order>에서 탈(脫)냉전 이후 국가 간 갈등의 주제 '문명(civilization)'이 될 것으로 전망한다. 왜 '문명'이 새로운 세계의 단절과 대립선이 되는가? 헌팅턴은 이에 대한 해답을 지난 시대 '서구'와 '비서구' 의 대립에서 찾는다.

문명 중 유일하게 서구는 다른 모든 문명에게 대대적인, 때로는 파괴적인 영향력을 미쳤다. 다른 문명들의 상대적 힘이 증가하면서 서구 문화의 매력은 반감되며 비서구인들은 점점 자신들의 고유문화에 애착과 자신감을 갖게 된다. 서구와 비서구의 관계에서 가장 핵심이 되는 문제는 서구 문화의 보편성을 관철하려는 서구, 특히 미국의 노력과 서구의 현실적 능력 사이에서 생겨나는 부조화라고 말할 수 있다. _ 새뮤얼 헌팅턴, <문명의 충돌>, p194/329

정치적으로 시민혁명, 경제적으로 산업혁명을 통해 근대화를 달성한 서구 열강들에 의해 비서구권 국가들은 식민지나 반식민지 상태에 놓이게 되고, 구시대의 제국들은 해체되었다. 이렇게 탄생한 신생국가들은 서양 세계를 뒤따라 근대화를 추진하게 되었는데, 이는 결과적으로 서구 세계의 힘을 약화시키는 방향으로 진행되었다. 초기에는 서구에 의존해 근대화가 이룩되었다면, 근대화와 함께 일어난 민족주의 등의 힘은 탈(脫)서구화를 가져오게 되었고, 이후 정신적으로는 전통사상으로의 회귀가 자연스럽게 일어난다는 것이 헌팅턴의 설명이다.

결국 근대화는 반드시 서구화를 뜻하는 것이 아니다. 비서구 사회는 자기의 고유문화를 포기하지 않고도, 서구의 가치/제도/관습을 전폭적으로 수용하지 않고도 근대화할 수 있고 또 그렇게 발전해왔다. 서구 문화를 전폭적으로 받아들이기란 사실상 불가능하다. 서구화를 가로막는 비서구 사회의 문화 요소에 비하면, 근대화를 가로막는 비서구 사회의 요소는 극히 작은 양이다(p82)... 서구의 우위가 사라지면 서구의 힘도 아울러 사그러들 수밖에 없으며, 비서구 세계는 주요 거대 문명과 그 핵심국을 중심으로 하여 지역 단위로 흩어질 것이다. 서구의 세계적 영향력에 도전할 가능성이 높은 나라로 중국이 부상하면서 아시아 문명은 지금도 그렇고 앞으로도 가장 빠른 속도로 힘을 키워 갈 것이다. _ 새뮤얼 헌팅턴, <문명의 충돌>, p85/329

힘을 잃어가는 서구와 힘을 키워온 비서구. 여기에 더해 전통가치에 따라 헝팅턴은 세계를 문명권으로 구분하고 이들의 협력과 대립 속에서 새로운 세계질서가 구축될 것으로 전망한다. 이 중에서도 헌팅턴은 서구와 이슬람, 그리고 이슬람과 유교 문화권의 대립과 협력관계에 주목한다. 이러한 큰 틀에서 <문명의 충돌>은 이하 본문에서 7~8개 문명권의 핵심국 헤게모니와 문명권 간 대립과 협력에 대해 전망한다.

요약하면 탈냉전 세계는 7~8개의 주요 문명으로 이루어지는 세계다. 문화적 동질성과 이질성은 국가들의 이익, 대결, 협력 양상을 규정한다. 세계에서 가장 힘 있는 국가들은 놀라울 만큼 판이한 문명들에서 유래했다. 확전으로 치달을 가능성이 가장 높은 국지적 분쟁은 판이한 문명에 속한 집단이나 국가 간의 충돌이다. 정치 경제적 발전의 지배적 양상은 문명과 문명마다 다르다. 국제 문제의 중요한 사안에는 문명의 차이도 들어간다. 장기간 주도권을 행사해온 서구 문명으로부터 비서구 문명으로 힘의 무게중심이 옮겨 가고 있다. 세계정치는 다극화, 다문명화되었다. _ 새뮤얼 헌팅턴, <문명의 충돌>, p24/388

거시적 차원에서 보면 지배적 대립은 서구 대 비서구의 양상으로 나타나겠지만, 가장 격렬한 대립은 이슬람 사회와 아시아 사회, 이슬람 사횡와 서구 사회에서 나타날 것이다. 미래의 가장 위험한 충돌은 서구의 오만함, 이슬람의 편협함, 중화의 자존심이 복합적으로 작용하여 발생할 것이다. _ 새뮤얼 헌팅턴, <문명의 충돌>, p194/329

문명과 그 핵심국 사이의 관계는 복잡하고 양면적이며 자주 변화한다. 한 문명 안에 들어가는 대부분의 국가들은 다른 문명에 속한 나라들과 관계를 정립할 때 대체로 핵심국의 노선을 따른다. 그러나 항상 그런 것은 아니다. 같은 문명에 속해 있다고 해서 그 나라들이 다른 문명에 속한 모든 나라들과 동일한 관계를 맺는 것은 아니다. 대개는 제3의 문명에 속한 공동의 적을 겨냥하는 공동의 이해관계가 상이한 문명에 속한 나라들 사이의 협력을 낳을 수 있다. _ 새뮤얼 헌팅턴, <문명의 충돌> , p263/329

1993년 공산권이 붕괴되는 시점에 쓰여진 <문명의 충돌>은 분명 20세기 말 이데올로기 시대의 종언 이후 새로운 흐름을 제시했다는 점에서 그 의의를 찾을 수 있을 것이다. 그렇지만, 30년이 지난 현 시점에서도 여전히 유효할 것인가. 그렇지는 않다고 생각한다.

먼저, 오늘날 국제 정세를 문명 간의 대립이라고 볼 수 있을까. 물론 급진적인 이슬람 교도가 하나의 문제이기도 하지만, 이보다 더 큰 문제는 극우집단의 대두라는 점은 너무도 분명하다. 그리고, 극우세력의 대두가 경제적 불평등와도 밀접한 관련이 있다는 점에서 본다면 문명 간의 대립보다는 경제적 문제에서 찾는 것이 보다 정확한 진단일 것이다. 엄밀히 말하자면, 오랜 인류 역사를 통해 모든 전쟁의 원인은 정치가 아닌 경제가 아니었던가. 다만, 노골적으로 경제적 이익을 탐할 수 없기에 만들어낸 대의명분이 종교, 사상, 민족주의 등이었음을 생각해 본다면, 냉전 이후에 '문명'이 이데올로기를 대신할 새로운 대의 명분이될 것이라는 전망이 당시에도 이루어져야 하지 않았을까. 이런 점에서 본다면, <문명의 충돌> 자체가 정치적이라는 생각을 하게 된다.

우리는 서구 이데올로기가 지배하던 '진보 시대의 종언'을 목도하고 있으며 복수의 다양한 문명들이 교류하고 경쟁하고 공존하고 화해하는 시대로 진입하고 있다(p100)... 범세계적으로 종교의 부활을 가져온 가장 명백하고 두드러지고 강력한 원인은 종교의 죽음을 야기할 것으로 예측되던 원인이었다. 그것은 바로 20세기 후반부 세계를 휩쓴 사회적, 문화적, 경제적 근대화 과정이었다. 시골에서 도시로 이주한 사람들은 뿌리를 잃고 새로운 직업을 가지거나 실업자로 전전했다. 그들은 낯선 군중 속에 섞이고 새로운 관계틀에 노출되었다. 그들에게는 정체성의 새로운 뿌리가 필요했다. _ 새뮤얼 헌팅턴, <문명의 충돌>, p102/329

서구는 대량 살상무기의 확산을 저지하는 것이 국제질서와 안정에 기여하고 모든 국가의 이익을 낳는다고 설명한다. 그러나 다른 국가들은 이것을 서구의 헤게모니 고수 전략으로 파악한다. 그것은 대량 살상무기의 확산을 놓고 미국과 지역강국이 보이는 불안의 차이에도 반영된다. 이런 현상이 가장 두드러지게 나타난 지역이 한반도다. _ 새뮤얼 헌팅턴, <문명의 충돌>, p202/329

다른 면 책의 의의를 찾자면, <문명의 충돌>은 현재 우리가 직면한 문제의 기원을 찾을 수 있다는 장점을 갖고 있다. 근대화 이후 급속하게 한국사회에 세력을 확장시킨 기독교, 한반도를 둘러싼 이해관계 분석 등에서 우리는 저자의 예리한 통찰력을 느끼게 된다. 다만, 이러한 장점과 함께 기독교의 영향으로 민주화와 산업화에 성공한 한국을 중국문화권에 편입시킨 저자의 구분에 대해 근본적인 물음을 제기하게 된다는 점, 그리고 문명간 충돌의 모습으로 들고 있는 사례가 사실은 지난 시대의 산물이라는 점은 장점에 뒤이은 비판점이 될 것이다.

서유럽과 달리 동아시아는 국가 간 분쟁이 싹틀 소지가 많다. 가장 널리 인정되는 분쟁 위험 지역은 한반도와 중국이다. 그러나 이곳은 냉전의 유산이다. 이념 대립은 뚜렷한 감소 추세에 있다(p235)... 중국은 동아시아의 지배국이 되려고 한다. 동아시아 지역의 경제발전은 점점 중국 의존적으로 진행되고 있으며, 중국 본토와 대만, 홍콩, 싱가포르의 급속한 성장에다가 태국, 말레이시아, 인도네시아, 필리핀의 경제발전에 화교들이 차지하는 비중도 급격히 늘고 있다. 더욱 위협적인 것은 중국이 남중국해에 대한 영유권을 점점 강하게 내세우고 있다는 사실이다. _ 새뮤얼 헌팅턴, <문명의 충돌>, p246/329

부연하자면, 이슬람 문명 내에서 일어난 혼란과 갈등은 제1차 세계대전 이후 1919년 베르사유 체제의 산물이며, 남중국해와 한반도 문제는 1951년 샌프란시스코 체제와 1953년 판문점 체제의 결과라는 점에서 결국 헌팅턴이 제기한 '문명 간 충돌'은 경제적 요인으로 생겨난 대립의 대의 명분에 불과하고, 이마저도 과거 20세기의 영향으로부터 자유롭지 못한 개념이 아닌가를 생각하게 된다. 이러한 한계점을 인식하고 <문명의 충돌>을 읽는다면, 문명 간의 대립만이 아닌 다른 중요한 갈등요소를 찾아볼 수도 있지 않을까...

[오늘의 한문장] 한국 스켑틱 SKEPTIC vol.13 : 무엇이 과학적 사고를 가로막는가

사회문제 중 범죄에 대응하는 방식은 역사상 수많은 변화를 거쳤다. 하지만 전통적으로 사법체계에서 언급되는 처벌의 주요 목적은 징벌, 갱생, 제재, 격리다. 이 네 가지 패러다임은 시대에 따라 그 우선순위가 변할 뿐 항상 존재했다.

여기서 한 가지 짚고 가야 할 문제는 본능만으로 행동이 이루어지지 않는다는 사실이다. 인간의 행동을 형성하는 풍요로운 문화적 환경 때문에 생물학적 본능이 행동에 기여하는 역할을 분명하게 파악하기 힘들 수 있다. 이는 동물도 마찬가지다. 새끼를 자연적인 사회적 환경에서 분리하여 양육한다면, 자연에서 양육할 때와 매우 다른 행동이 나타날 것이다.

연결망을 구성하는 노드 하나하나에 동역학적인 변수를 배정하고, 연결망의 링크는 노드 사이의 상호작용을 의미하도록 하는 방법도 있다. 이를 이용해 연결망 전체의 에너지를 적절히 정의하면, 통계물리학의 모형과 비슷해져서 전통적인 물리학의 방법을 바로 적용할 수 있다. 연결망 안의 가장 적절한 커뮤니티 구조를 파악하는 문제를 에너지의 바닥상태를 찾는 문제로 바꿔 해결하는 방식이다. 연결망 안의 사람들 사이에 좋아함/싫어함의 관계가 주어지면 이를 인력과 척력이라는 물리적인 상호작용으로 볼 수 있다. 이런 정보가 주어진 연결망에서 커뮤니티를 찾는 연구를 우리 연구그룹에서도 수행한 적이 있다.

도당의 탄소와 수소를 생각해보자. 이들이 공유결합 할 때, 전자가 탄소와 수소 양쪽에 동시에 존재하게 된다. (이를 양자 중첩superposition이라 부른다.) 전자가 두 장소에 동시에 존재한다는 것은 두 장소가 하나처럼 되었다는 뜻이다. 이렇게 탄소와 수소는 하나가 된다. 보다 정확히 이야기하면 전자 하나가 아니라 전자 두 개가 이렇게 행동하는데, 이를 전자쌍이라 부른다.

해당과정의 최종산물인 피루브산은 미토콘드리아 내부로 들어가 아세틸 CoA라는 화합물로 전환된다. 아세틸 CoA라… 이렇게 끝없이 나오는 생소한 용어들이야말로 나 같은 물리학자가 생명현상을 이해할 때 부딪히는 최대의 어려움이다. 여기서 한 가지 짚고 지나가자. 해당과정에서 만들어진 피루브산이 미토콘드리아 내부로 들어간다는 말은 해당과정이 미토콘드리아 밖에서 일어났다는 뜻이다. 따라서 미토콘드리아가 없는 세균도 해당과정을 수행할 수 있다. 해당과정은 산소가 필요 없기 때문에 산소를 사용하지 않는 혐기성嫌氣性 세균이 에너지를 얻는 방법이 된다. 대표적인 예가 ‘효모’에 의한 알코올 발효다.

생명의 핵심은 스스로를 보존하는 것이다. 복제, 번식, 진화도 일단 살아야 할 수 있다. 엔트로피가 증가하는 우주에서 자신을 보존하려면 에너지가 필요하다. 지구상의 동물은 호흡으로 에너지를 얻는다. 우리는 에너지를 이용하여 걷고 숨 쉬고 생각하고 번식한다. 한 때 이 에너지를 신비한 생명의 기운 같은 것으로 생각한 적이 있었다. 하지만 지금까지 살펴봤듯이 호흡으로 에너지를 만드는 과정은 연쇄 화학반응에 불과하다.

생명이 갖는 명백한 특성이 하나 있다. 바로 자신을 보존한다는 것이다. 물리적으로 이것은 놀라운 일이다. 열역학 제2법칙에 따르면 엔트로피는 증가한다. 점점 무질서해진다는 말이다. 이것은 보존에 역행하는 경향이다. 보존하고 유지하려면 에너지가 필요하다. 집이 엉망진창이 되는 걸 막기 위해 매일같이 정리하고 청소해야 하는 이유다. 생명을 볼 때 물리학자의 첫 번째 관심사는 바로 자신을 보존하는 데 필요한 ‘에너지’다.

긍정적인 인생관은 장수와 사회적 수용, 그리고 평균 이상의 성공과 (미미하게나마) 관계가 있다고 받아들여지고 있다. 그러나 디너의 연구에 따르면 긍정적 태도와 실제 성과 사이에는 양적 선형관계가 거의 나타나지 않는다.

오늘날의 해피이즘은 그 자체로 악독한 감독관이다. 쌍생아 연구자들은 유전이 인간의 습관적 성향 중 절반 정도를 설명할 수 있다고 추정하지만37 해피이즘의 권위자들은 행복에 대한 책임이 전적으로 개인에게 있다고 말하며, 우울증 가족력이나 우연, 그밖의 어떤 ‘핑계’도 허락하지 않는다. 그들은 추종자들에게 범퍼스티커 문구에 등장할 법한 해결책을 내놓으며 행복을 선택하도록 촉구한다.
이런 압박은 그 자체로 엄청난 스트레스 요인이 될 수 있다. "미국은 인류 역사상 가장 자유로운 사회다." 《효과적 치료Effective Therapy》를 쓴 심리학자 마이클 허드Michael Hurd의 말이다. "하지만 억압받을 이유가 객관적으로 훨씬 많은 사회들과 비교해도, 그와 비슷하거나 더 심각한 수준의 우울과 불안장애가 판을 치는 곳이 바로 미국이다. 이런 현상이 나타나는 이유는 자신의 행복을 결정하는 데 따르는 책임을 두려워하는 사람들이 너무 많기 때문이다. 선택이 사람들을 두려움에 빠뜨리는 셈이다." 배리 슈와츠Barry Schwartz도 명저 《선택의 역설The Paradox of Choice》에서 비슷한 주장을 한다. 대안이 지나치게 다양한 탓에 뒷북치기, ‘항상 남의 떡이 커 보이는’ 현상, 스스로 유발하는 심리적 고문 등 자기회의라는 끔찍한 증상이 나타난다는 것이다.

점성술의 실증적 검증에 대한 논란이 없지는 않지만, 공정한 검증에 따르면 점성술로는 개인의 특성을 정확하게 설명하기 어렵다. 이 글에 소개된 결과 역시 이런 결론과 일맥상통한다. 현재의 조사 결과들은 서로 다른 별자리에 속하는 사람들이 타고나는 특성을 뒷받침하기보다는 반박하는 증거가 더 많다.

라스베이거스는 우리 모두가 본성적으로 지닌 편향성을 이용해 돈을 버는 방법을 알고 있다. 베팅을 운용하기 위한 수수료를 지급 받은 라스베이거스 도박장들은 판돈을 딴 사람과 잃은 사람이 비슷하다면 약간의 수익을 올릴 수 있다. 베팅에 이긴 사람과 진 사람의 숫자를 비슷하게 만들기 위해, 경기가 있기 전 베팅이 이루어지는 일주일 동안 각 팀에 돈을 건 사람의 숫자가 비슷해지도록 스프레드가 수정된다. 컴퓨터 알고리즘도 라스베이거스의 뛰어난 도박사들을 이기지 못한다. 컴퓨터 알고리즘은 승자를 예측하는 데 매우 뛰어나지만(거의 60%), 어떠한 알고리즘(또는 인간)도 스프레드에서 지속적으로 돈을 따지 못한다. 하지만 인간은 포기하지 않고 돈을 건다.

빅 데이터를 기반으로 한 과학 및 수학과 인간이 의식적으로든 무의식적으로든 갖고 있는 본성적인 편향성을 비교한다면, 부와 명예를 거머쥘 대학 미식축구 내셔널 챔피언 자리를 두고 연말 경기에 뛸 네 개의 팀은 컴퓨터 알고리즘으로 선정되어야 한다. 그러기 위해서 우리는 사용되는 알고리즘을 완벽하게 이해할 수 있어야 한다. 알고리즘을 철저히 분석해 가장 유의미한 결과를 도출할 공식과 변수들을 정하고 그에 따라 알고리즘을 적절하게 수정해야 한다.

[오늘의 한문장] 한국 스켑틱 SKEPTIC vol.13 : 무엇이 과학적 사고를 가로막는가

왜 과학자들이 터무니없는 주장에 빠져드는지 그 이유를 밝히기 위해서는 비판적 사고 능력이 교육 수준이나 전문성과 상관관계가 있다는 편견을 버려야 한다.

신경과학자 안토니오 다마지오는 인간의 본질이 이성적 사고에 있지 않으며, 사고의 많은 부분이 자동적으로 작동하는 감정에 직접적으로 영향을 받는다는 사실을 신경과학 연구를 통해 밝혀냈다.

우리의 핵심 의식core consciousness
e 중 가장 기본적인 요소는 기억이나 추론, 언어의 영향을 받지 않는 지금 이 순간의 자아에 대한 상대적으로 단순한 감각이다. 이는 진화론적으로 가장 오래된 의식으로, 우리와 동시대를 살고 있는 다른 영장류는 물론 과거 인류 조상도 지녔던 의식 수준이다. 다마지오가 지적했듯이, 의식의 이러한 측면은 우리가 감정emotion이라고 여기는 복잡한 화학반응과 신경반응에 의해 철저하게 통제된다.

본질주의는 사물이나 유기체의 명백하고 관찰 가능한 성질이 그 사물이나 유기체의 핵심, 즉 ‘본질’에 해당하는 불분명하고 관찰 불가능한 성질에 의해 결정된다고 추측하는 행위다.

진화를 오해하는 것과 진화의 기본적인 사실을 부정하는 것 사이에 연관성이 있을까? 답은 "그렇다."이다. ‘진화가 무엇인지’ 잘못 이해한 사람은 올바르게 이해한 사람보다 ‘진화가 실제로 발생한다.’라는 주장을 받아들일 가능성이 낮다.

침팬지와 보노보의 차이를 늑대와 개의 차이와 비교해보면, 늑대와 개에서 나타나는 여러 차이가 침팬지와 보노보 사이에서도 발견됩니다. 침팬지가 유인원의 늑대라면 보노보는 형태학적 특성이나 행동적 특성 모두에서 유인원에서 개의 위치를 차지한다고 할 수 있습니다.

[오늘의 한문장] 슈퍼 인텔리전스

초지능으로 향하는 동역학(kinetics)과 연관되어 있으면서도 구분되어야 할 질문은, 바로 초지능체가 하나만 존재할 것인지, 아니면 여러 개가 존재할 것인지 하는 질문이다.

제4장에서는 초지능의 개발을 선도하는 세력과 그것에 가장 근접한 경쟁자들 사이에 생길 수도 있는 간격의 크기를 가늠할 수 있는 핵심적인 요인 한 가지를 살펴보았다. 그것은 바로 인간 수준의 지능에서 강한 초지능으로 이행하는 속도이다.

선두주자와 후발주자 사이의 격차에 영향을 주는 한 요인은 선두주자가 가지고 있는 경쟁력(그것이 무엇인지는 모르지만)의 확산 속도이다.

여기서 핵심적인 질문은, 얼마나 많은 프로젝트들이 동시에 도약을 할 것인가가 아니라, 도약을 이룬 여러 프로젝트 팀들 중에서 확실한 전략적 우위를 차지하지 못하고 기술적으로 아주 비슷한 수준에 머무는 팀들이 얼마나 많은가이다.

초지능의 잠재적인 영향력을 생각할 때, 그것을 인간 기준에서 의인화하여 바라보지 않는 것이 중요하다. 인간 중심적인 기준은 씨앗 인공지능의 성장 궤도와 성숙한 초지능의 심리, 동기, 그리고 능력에 대해서 근거 없는 기대를 가지게 한다.