[오늘의 한문장] 한국 스켑틱 SKEPTIC vol.7 : 마인드 업로딩은 가능한가

인공지능이 문자 그대로 인간과 같은 의식을 가지는 경우와(이 경우 인공지능은 자아인식이 가능하다.) 인간과 동일해 보이지만 의식이 없는 경우, 인공지능 특이점의 본성은 완전하게 다를 것이다. 만약 인간과 같은 내적 인식이 객관적이고 보편적인 기준에 비추어볼 때 어떤 종류의 ‘본질적 가치’를 가지고 있다면, 의식을 가진 존재와 의식을 가진 것처럼 보이는 존재는 보다 근본적인 면에서 차이를 가지게 될 것이다.

나는 초인공지능이 어떤 임계점을 넘어서 내적 인식을 가지는 것처럼 보이는 대상과 실제로 내적 의식을 가지는 대상을 원리적으로 구분할 수 없게 될지도 모른다는 점에 대해서는 동의한다. 하지만 (생물학적 대상이든 비생물학적 대상이든) 어떤 존재자가 실제로 의식적 경험을 가지는지를 원리적으로 구분할 수 없다는 사실이 그 질문 자체를 무효화할 수 있다는 결론에는 동의할 수 없다. 내가 생각하기에 그 질문은 전적으로 유효하다. 로봇이 모든 우주를 개척하더라도 그 개척자가 문자 그대로의 ‘의식’을 가지지 않는 한 내적 경험의 부재는 본질적 가치의 축소를 의미할 뿐이다.

프랜시스 골턴Francis Galton의 우생학eugenics은 이런 욕망을 과학의 지위에 올려놓으려는 기획이었다. 그는 문명으로 인해 자연선택이 사라진 상황에서 인위선택을 통해 인간의 자질을 개선하고 사회적 진보를 이루려 했다. 그의 기본적 전제는 인간의 육체적, 정신적, 도덕적 특성은 유전되는데 이 유전적 요인으로 인해 인간의 사회적 성공 능력이 동일하지 않다는 것이었다. 그러므로 유전적 요인을 통제하여 인간의 타고난 질을 개선해야만 미래가 보장될 수 있다고 생각했다.

우생학적 주장들은 논리적으로 설명되지 않을 뿐만 아니라, 신분이나 계급의 차이에 관여하는 어떠한 생물학적 본성도 밝혀내지 못했다. 하지만 무분별하게 이념과 가치를 탑재한 과학은 사회적, 문화적, 정치적 편견을 정당화하는 수단이 되었다. 우생학적 사상은 20세기에 미국과 유럽에서 광범위하게 구체화되었고 독일 나치에 이르러 유대인 대학살이라는 가장 극단적이고 부정적인 형태인 우생학적 조치로 귀결되었다. 이제는 국가 주도의 극단적인 우생학은 폐기되어 사라졌다.

사회는 개량될 필요가 있다는 믿음과 유전학의 잘못된 만남은 개인의 책임의식을 훼손하고 은밀한 형태의 우생학을 부추길 수 있다. 언론을 통해 유전자에 의해 지능이나 행동이 결정된다는 연구결과에 많이 노출될수록 유전자형을 개선하고 싶은 욕구가 커질 것이다. 그래서 본성과 양육에 대한 논쟁은 지금까지도 계속되고 있다.

"스포츠 소비의 결정에 외부집단은 어마어마한 영향력을 행사한다. 외부집단은 문화나 민족의 경우처럼 미묘하게 작용하는 경우도 있고, 친구 손에 이끌려 지역 스포츠 행사에 참여하는 경우처럼 노골적으로 작용하는 경우도 있다." 어느 한 집단에 소속감을 느끼는 대다수의 사람들(하지만 모든 사람은 아니다!)은 생활방식을 결정할 때 그 집단의 선호도를 따르는 경향이 있다. 어느 스포츠를 선택해서, 그것을 얼마나 즐기고 훈련할 것인지 결정하는 것 역시 예외가 아니다.

"사회문화적 요소는 전문성의 발달에 아주 중요한 역할을 하는 것인데도 간과되는 경우가 많다. … 한 사회가 특정 스포츠 종목에 얼마나 큰 중요성을 부여하는가에 따라 성공 달성 여부가 크게 영향을 받을 수 있다."

[오늘의 한문장] 한국 스켑틱 SKEPTIC vol.7 : 마인드 업로딩은 가능한가

항생제를 너무 자주 사용하면 세균은 항생제에 적응하여 결국 항생제에 듣지 않는 균이 된다. 여기까지는 누구나 안다. 그런데 역시 세 가지를 살펴보아야 한다. 1) 항생제 내성균은 항생제를 썼을 때만 생긴다. 해열제나 감기약을 먹는다고 항생제 내성균이 생기지는 않는다. 2) 항생제 내성은 인간의 몸이 변하는 것이 아니라 세균이 변하는 것이다.

이런저런 주장에 현혹되어 백신을 맞지 않기로 한 부모에게 꼭 해주고 싶은 얘기가 있다. 백신을 맞지 않아 질병이 유행할 경우 자신의 자녀가 가장 먼저 피해를 보게 된다는 사실이다.

왜 백신을 맞으면 질병 자체가 없어질까? 집단면역herd immunity이란 현상 때문이다. 한 사회나 국가에서 충분히 많은 사람이 백신을 맞아 면역을 갖추면 병이 발병해도 걸린 사람만 앓고 끝나기 때문에 전염되지 않는다. 전염되지 않으니 유행할 수 없다. 이런 집단면역이 오랜 기간 유지되면 원인균 자체가 서식지를 잃고 결국 영원히 소멸된다

의학이 상상할 수 없을 정도로 눈부신 성공을 거둔 지금, 뜻밖에도 네 가지 모순적인 현상이 관찰된다고 진단한다. 1) 점점 많은 의사가 자신의 직업에 환멸을 느끼고 있으며, 2) 대중은 갈수록 자신의 건강을 염려하고, 3) 의학의 테두리를 벗어난 대체의학의 인기는 점점 더 커지고, 4) 모든 국가에서 의료비 지출액이 끝 간 데 없이 치솟고 있다는 것이다. 대중, 의사, 국가 등 모든 주체가 불만족 상태에 있는 셈이다.

[오늘의 한문장] 한국 스켑틱 SKEPTIC vol.6 : 과학, 도덕을 말하다

여기서 세부적인 실험결과와 수치들은 이야기하지 않겠지만, 그 결과가 꽤나 인상적이다. 흥미롭게도, 이 연구에 따르면 작동 과정에서 측정된 미세입자들의 검출량은 일상생활의 다양한 요리활동에서 검출되는 입자량과 비슷하다고 한다.

이런 논쟁 과정에서 누군가 "프린터용 잉크는 인체에 유해하다. 그러니 쓰지 말자!" 라는 주장을 하고 이것이 뉴스에 크게 보도된다면 어떨까? 이것이 우리에게 어떤 의미가 있을까? 이는 사회적으로 유익하고 유의미한 주장일까? 그렇다면 "전자파는 인체에 유해하다. 그러니 전자파를 뿜어내는 기기들을 쓰지 말자!"라는 주장은 어떠한가? 이는 사회적으로 유익하고 유의미한 주장인가?
이런 주장들과 논의들은 사회적 논의를 어떤 방향으로 끌고 갈 수 있을지에 대한 고민이 부족하다는 점에서 소모적이다.

스펙트럼과도 같은 유해성의 문제를 이야기하는 데 있어서, 일견 간단해 보이는 해결책인 이분법적인 사고를 피하기 위해서는 무엇을 해야 할 것인가? 이때 우리에게 필요한 것은 아주 세심한 맥락화다.

이는 결과적으로 우리의 사회경제적 선택의 폭을 넓혀줄 수 있다. 어느 정도까지 유해함을 감수할 것인지, 어떤 방식으로 규제할 것이며 기존의 시스템과 합치하는지, 또 다른 사회적 계층화의 위험이 존재하는 것은 아닌지 등 사회가 실제로 마주하는 선택지는 훨씬 복잡하다는 사실을 드러낼 것이다.

[오늘의 한문장] 한국 스켑틱 SKEPTIC vol.6 : 과학, 도덕을 말하다

음양오행과 음양오행의 현실적 변용인 명리·사주·주역 등은 근대의 시기를 거치며 자신의 역할을, 역사적 구성물 또는 오락(점占의 형식으로)의 하나로 제한시켜 왔다. 그것은 불가피하고 적절한 일이라고 생각한다.

세상은 밝음明과 어둠暗, 움직임動과 고요함靜, 더위暑와 추위寒로 구성된다. 밝고 움직이고 더운 건 양陽이고, 어둡고 고요하며 추운 건 음陰이다. 이 단순한 이분법의 위력은 강력하다. 세상의 어떤 것도 새나갈 수 없는 체계로 보인다.
음양론은 그 완벽해 보이는 체계에서 한발자국 더 나아가기까지 한다. 음에서 양으로, 양에서 음으로 변이하는 과정을 터놓았다

음양의 최종 거처는 바로 태양과 달이다. 태양과 달, 낮과 밤이 없었으면 사람들의 머릿속에 음양은 생겨나지 못했다. 여기서 우리는 물어야 한다. 태양과 달은 ‘우주적 진리’인가?

음양은 지구적 진리다. 명백히 시공간의 한계를 지닌 이론과 상징들의 체계다. 우주적 진리는 아니다. 음양은 아무리 그 의의를 인정해준다 해도 ‘지구적 차원의 쇼show’를 넘어서지 못한다.

오행의 또 다른 확장형을 언급할 차례다. 바로 사주다. 사주는 오행으로부터 직접적으로 연역된다. 사주의 핵심적 기법은 오행의 틀을 벗어나지 않는다. 사주풀이는 한 사람의 생년월일을 간지干支라는 매개를 이용해 오행으로 치환하면서 가능해진다

가정에서의 총기와 관련한 위험(사고, 살인, 위협, 자살 위험의 증가)은 총기를 소지해서 얻을 수 있는 효능을 훨씬 능가한다. 가정에 총을 보유하는 것이 가족을 지키고 위해를 줄이는 데 도움이 된다는 확실한 증거는 없다.21

이는 실제 세계에서 실제 무기의 규제를 논의하는 대신, 가상 세계에서 가상의 무기를 규제하는 것에만 초점을 맞추는 논의가 얼마나 모순적인지를 보여준다.

널리 알려진 기존의 연구들은 왜 비디오 게임을 부정적으로만 보고 긍정적인 면을 선뜻 받아들이지 않는 걸까? 최근 연구에 따르면 게이머가 가상 환경에서 부적절한 사회적 행동을 하고 나면 자신이 위반한 도덕률에 대해 더 예민해진다고 한다. 뉴욕주립대 버펄로캠퍼스 신문방송학과의 매튜 그리자드Matthew Grizzard 교수는 이렇게 말했다. "폭력적인 비디오 게임을 하면 도덕성이 떨어진다기보다 오히려 도덕적 감수성이 높아진다는 것이 우리 연구의 결론이다. 실생활에서도 그렇듯 도덕적 감수성이 높은 플레이어들은 자발적으로 다른 이에게 도움이 되는 행동을 한다."

비디오 게임만큼 인간의 감각과 뇌를 자극하는 것은 없다. 게이머는 현란한 삼차원의 세계에 푹 빠져 다채로운 풍경과 경쾌한 음악을 맘껏 즐길 수 있다. 이런 가상의 여정을 떠나려면 복잡한 근육 조작이 필요하므로 다양한 운동 중추와 감각 중추를 사용하게 된다. 독서는 즐겁고 의미 있는 여가활동이지만 매우 고독한 취미에 속한다. 반면 최근에 나온 게임들은 대체로 복잡한 사회적 관계를 유도한다. 목표 달성을 위한 노력과 팀워크가 결합되어 끈끈한 인간관계로 이어지기도 한다는 것이 존슨의 주장이다.

[오늘의 한문장] 한국 스켑틱 SKEPTIC vol.6 : 과학, 도덕을 말하다

도덕은 독단적이고 상대적이고 문화에 구속된 것이 아니다. 도덕은 보편적인 것이다. 우리는 모두 도덕 감각을 갖고 태어나며 도덕 감정들은 타인과의 상호작용에서 나침반이 된다. 동시에 이러한 도덕 감정들은 그 지역의 문화, 관습, 양육의 영향을 받는다. 본성은 약속과 사회적 의무를 어기는 것에 죄책감을 느낄 수 있는 능력을 부여했지만 양육이 그 죄책감의 수위를 높이거나 낮출 수 있다. 따라서 도덕은 ‘저 밖’의 자연에서 발견할 수 있는 실재하는 것이며, ‘우리 안’에 인간 본성의 일부로 존재한다.

우리가 도덕적 진보의 증거들과 그러한 진보를 가져온 여러 원인들을 살펴보는 동안 기억해둘 것은, 우리가 밝혀낸 도덕적 진보의 원인이 우리에게 말해줄 수 있는 것은 도덕적 진보라는 목표를 이루는 방법이라는 것이다. 그 원인이 왜 우리가 애당초 도덕의 영향권을 확장하고 싶어 하는지를 설명해주지는 않는다.

나는 과거 몇 세기의 도덕적 발전은 대부분 종교적 힘이 아니라 세속적 힘의 결과였으며, 이성과 계몽의 시대에 출현한 이 많은 것 가운데 가장 중요한 것은 과학과 이성이라고 생각한다. 나는 과학과 이성이라는 말을 아주 폭넓게, "일련의 논증들을 통해 추론한 다음 경험적 검증을 통해 그 결론이 참임을 확인한다."라는 뜻으로 사용한다.

나아가 나는 도덕의 궤적이 단지 정의만이 아니라 진리와 자유를 향해 구부러지며, 이러한 긍정적인 결과들의 대부분은 더 세속적 형태의 통치와 정치, 법과 법학, 도덕적 추론과 윤리적 분석을 향해 사회가 이동한 결과였음을 증명할 것이다.

내 생각에 셔머와 나의 차이점은 다음과 같이 정리할 수 있을 것 같다. 셔머는 우리가 이성을 가지고 ‘경험적 검증’을 통해 도덕적 판단을 내린다고 명시적으로 말했지만, 그가 의미하는 바의 과학과 그것의 기여는 결국 이성이란 단어로 요약된다. 반면 나는 과학, 증거, 실험, 관찰, 모델링이 앞서 논했던 도덕적 관점의 대립을 해결할 수 있는가의 문제에 항상 의구심을 지녀왔다. 나는 그것이 과학으로는 부족하다고 생각한다.

만약 셔머의 말대로 각 개인이 어떻게 최선의 결정을 내리는지에 대한 것이라면, 그것은 개인의 선택에 대한 것이지 도덕성에 대한 것이 아니다.

문제의 핵심은 이렇다. 도덕의 궤적이 직감이나 초자연적 현상이 아니라 이성에 의해 인도된다는 주장에는 나 또한 전적으로 동의한다. 어떤 철학자도 여기에 반대하지 않을 것이다. 하지만 만약 도덕의 궤적이 모든 측면에서 생물학자, 화학자, 물리학자가 수집한 과학적 증거에 의해 인도되어 왔고 인도될 것이라고 강력하게 주장한다면, 나는 어떤 연구도 셔머의 주장을 뒷받침할 수 없다고 생각한다.