[오늘의 한문장] 슈퍼 인텔리전스

앞에서 언급했듯이, 이 책에서 "초지능"은 다양하고 보편적인 인지 영역에서 현시대의 가장 뛰어난 인간보다 훨씬 더 우수한 지능체를 일컫는다. 이 정의는 여전히 꽤 모호하다. 단지 이 정의만을 따른다면 각기 다른 수행능력을 가진 여러 가지의 시스템들이 초지능으로 분류될 수도 있을 것이다.

이렇듯 속도적 초지능의 입장에서는 물질세계에서 시간 지연이 일어나는 것처럼 보이기 때문에, 속도적 초지능은 디지털 세계에서 작업을 수행하는 것을 더 선호하게 될 것이다. 가상현실에서 살면서 외부로부터 들어오는 정보를 다룰 수도 있을 것이다. 반대로, 나노 수준 정도의 작은 단위의 인공 팔다리나 부속물이라면 인간의 팔다리 같은 거시적인 수준의 부속물보다 더 빠르게 작동할 것이기 때문에, 나노 크기의 물리적 조종장치(manipulator)를 가지고 실제 물리적 세계와도 상호작용할 수 있을 것이다(한 시스템의 특성 주파수는 그 길이 단위[length scale]에 반비례하는 경향이 있다5). 이처럼 빠른 지성체는 인간처럼 느려터진 존재들이 아니라 자신과 같은 속도의 지성체와 주로 상호작용을 할 것이다.

집단적 지능의 통합 정도를 서서히 높인다면, 종국에는 이것이 하나의 통합된 지능, 즉 느슨하게 서로 연결된 작은 인간 지성체의 단순한 조합이 아니라 하나의 단일한 거대 "지성체"가 될 수도 있을 것이다.

사상 처음으로 인간의 뇌를 완벽하게 모방한 전뇌 에뮬레이션에 성공하는 것은, 이미 만들어진 에뮬레이션을 더 향상시키는 것에 비하면 엄청나게 어렵다. 최초로 새로운 에뮬레이션을 만들기 위해서는, 스캔 기술이나 이미지 해석 능력에서 엄청난 수준의 기술적 도약이 필요하다. 또한 이 단계에는 수백 대의 대용량 스캐너를 사용하는 대규모 공장 단지 같은 상당한 정도의 물리적 자원이 필요할 것이다.

인간 전뇌 에뮬레이션이 가능해지면 저항성은 일단 감소했다가 시간이 지난 후에는 다시 증가할 것이다. 즉 그때에는 가장 눈에 띄게 비효율적으로 구현되던 것들이 효율성이 극대화되도록 고쳐지고, 가장 가능성이 큰 알고리즘상의 변화가 시험될 것이고, 조직적 혁신을 위한 가장 쉬운 방법들이 실행될 것이다.

요약해보면, 인간 수준의 소프트웨어가 개발되었을 때, 이런 프로그램들을 빠른 속도로 아주 많이 구동할 수 있을 만큼 충분한 하드웨어적 기반이 이미 존재할 가능성, 즉 하드웨어 공급 누적 상황을 생각해볼 수 있다. 앞에서 살펴본 것처럼 소프트웨어 저항성은 정확하게 예측하기가 더 어렵지만, 어쩌면 하드웨어 저항성보다는 더 낮을 가능성이 있다.

[오늘의 한문장] 한국 스켑틱 SKEPTIC vol.13 : 무엇이 과학적 사고를 가로막는가

오늘날 소득 격차가 나날이 벌어지는 데 대한 분노는 특정인들이 엄청나게 부유하다는 사실 자체보다 그들이 일도 별로 하지 않으면서 남의 돈을 뺏고 세금도 충분히 내지 않는 등 공정하지 못한 방식으로 부를 취득한다는 믿음에서 온다.

분노를 표현하는 이유는 대체로 두 가지다. 하나는 ‘나는 뿔이 났고, 네가 그것을 알았으면 좋겠고, 너도 나처럼 기분이 더러워졌으면 좋겠다’는 의사를 전달하기 위해서다. 다른 이유는 그 개자식의 생각을 바꾸고, 행동을 뜯어고치고, 자신의 불만을 보상받고, 정의를 바로세우기 위해서다. 전자의 전략으로 후자의 결과를 얻긴 어렵다.

마이클 셔머Michael Shermer도 말했듯이, "대부분의 도덕적 문제는 범주로 나뉘지기보다는 연속적인 경향을 가진다. 세계를 딱 떨어지게 범주화하는 것은 특정 작업에서는 유용한 인지 도구지만, 사회적이며 도덕적인 문제를 이해할 때는 잘 들어맞지 않는 경우가 많다."1

종교단체에서 주장하는 대로 수정 직후부터 사람의 인격이 시작된다면 배반포를 파괴하는 줄기세포 추출은 살인이나 다름없다. 이 추론은 무엇이 잘못되었을까? 분명히 말하자면 수정란은 생물학적으로 ‘사람’이 맞다. 하지만 그렇게 말하자면 사람 몸의 모든 살아 있는 세포도 사람이다.

신약개발의 세계에는 과학적 발견과 임상 적용 사이에 소위 ‘죽음의 계곡’이 있다. 실패 위험이 커서 잠재적 투자자들이 등을 돌리는 지점이다. 실험적 치료법의 임상 시험에 뛰어들기로 한 회사가 있더라도 FDA 승인을 받기까지의 길이 험난해서 결심이 흔들리는 경우가 허다하다

우리는 존재론적 범주 사이의 핵심 속성의 혼동이 범주들 사이의 공통 본질이라는 개념을 함축하고 있으며, 이것이 연결성이나 총체성과 관련된 생각으로 이어진다고 제안한다. 이것이 바로 미신, 마술, 초자연 현상에 대한 믿음을 일으키는 핵심 혼동이다.

[오늘의 한문장] 슈퍼 인텔리전스

실제로는, 초지능을 통제하는 문제는 상당히 까다로워 보인다. 또한 초지능을 통제하기 위한 기회는 단 한번뿐일 것이다. 일단 인류에게 비우호적인 초지능이 만들어지면, 그것을 대체하거나 변경하려는 시도는 그 비우호적인 초지능에 의해서 가로막히게 될 것이다. 그렇게 되면 우리의 운명은 돌이킬 수 없게 된다.

우선, 인간 수준의 기계지능이 이번 세기 중반까지 만들어질 가능성이 상당히 높아 보이며, 그보다도 더 일찍 개발되거나 또는 더 늦게 개발될 가능성도 무시할 수 없을 정도로 높다(이에 대해서 더 정확한 정보나 분석 자료가 없으므로, 앞에서 살펴본 조사 결과를 참고했다). 또한 일단 인간 수준의 지능에 도달하면, 상당히 이른 시일 안에 초지능으로 발전할 것으로 보인다. 마지막으로, 인공지능의 발달이 미칠 영향에 대해서는 견해가 다양하며, 그중 아주 긍정적인 영향과 인류 멸망이라는 극단적으로 부정적인 영향을 미칠 가능성도 상당한 것으로 보인다.

그에 앞서 지적해야 할 사실은, 현재의 단계에서 인간 수준의 기계지능 개발까지 극복해야 할 난관들이 얼마나 많든지 간에, 인간 수준의 기계지능의 완성이라는 단계에서 발전이 멈추지는 않으리라는 점이다. 그로부터 그다지 멀지 않은 지점에 바로 다음 단계가 있고, 그것은 바로 인간의 지능을 뛰어넘는 수준, 즉 초인간 수준의 기계지능(super-human-level machine intelligence)일 것이다. 인간 수준의 지능에 도달했다고 해서 이러한 발전은 멈추거나 속도를 늦추거나 하지 않고 바로 초인간 수준으로 도약할 가능성이 높다.

인공지능 기술은 다양한 인터넷 서비스의 기반을 이루고 있다. 이러한 소프트웨어들은 전 세계의 이메일 통신을 관리한다. 스팸 메일을 막는 조치를 피하고자 계속 대응해나가는 스팸 메일 제작자들의 노력에도 불구하고, 베이지언 스팸 필터는 대체로 스팸 문제를 잘 저지해왔다. 인공지능을 사용하는 소프트웨어는 신용카드 거래의 자동 승인 및 거부 작업에 사용되고 있고, 사기 행위를 감시하는 데에도 이용된다. 정보 회수 시스템들 또한 머신 러닝 기법을 광범위하게 사용하고 있다. 이견이 있기는 하지만, 구글의 검색 엔진은 지금까지 만들어진 가장 위대한 인공지능 시스템으로 칭송받고 있다.
이 시점에서 우리는 인공지능과 일반적인 소프트웨어 사이의 경계가 그다지 뚜렷하지 않다는 것을 강조할 필요가 있다.

, 인간 지능의 속도 한계(rate-limiting step)는 우리가 얼마나 빨리 가공되지 않은 정보를 뇌로 받아들일 수 있느냐가 아니라, 그 정보로부터 얼마나 빨리 의미를 추출하고 이해할 수 있느냐에 달려 있다

우리는 초지능을 사실상 모든 관심 영역에서 인간의 인지능력을 상회하는 지능이라고 잠정적으로 정의할 수 있다

임계점을 돌파한다는 것은 또다른 중요한 주제 중 하나인 "순환적 자기-개선(recursive self-improvement : 강한 인공지능의 추론적 능력으로, 인공지능 스스로가 자신에게 필요한 더 나은 프로그램을 반복적으로 프로그래밍하는 것/옮긴이)"으로 이어진다. 성공적인 씨앗 인공지능은 반복적으로 자기 자신을 향상시킬 수 있을 것이다. 즉 초기 상태의 인공지능이 더욱 개선된 형태로 자기 자신을 향상시키면, 그 향상된 인공지능은 더 뛰어난 상태로 스스로를 개선할 수 있을 것이고, 이것이 계속 반복된다는 것이다.

이 소단원을 마치기 전에 한 가지 강조할 것이 있다. 그것은 인공지능이 인간의 지능체계와 완전히 똑같을 필요는 전혀 없다는 것이다. 인공지능은 우리와는 완전히 이질적일 수도 있다. 사실 대부분이 그럴 것으로 생각된다. 생물학적 지능과는 아주 다른 인지구조를 가지고 있을지도 모르고, 특히 개발 초기 단계에는 인지능력에서 우리와 아주 다른 강점과 약점을 가지고 있을지도 모른다(물론 뒤에서 다루겠지만, 이들 인공지능은 결국 이러한 초기의 약점을 극복할 수 있을 것이다). 게다가 인공지능이 지향하는 목표 시스템(goal system)은 인간의 목표 시스템과 아주 큰 차이가 있을 수도 있다. 인공 일반 지능이 사랑이나 증오, 또는 자존심 같은 인간의 감정을 행동의 동기로 삼으라는 법은 없다. 오히려 이러한 복잡한 감정을 인공지능에 적용하기 위해서는 신중하고 비용이 많이 드는 노력이 필요할 것이다. 이 부분은 큰 문제이기도 하고, 동시에 좋은 기회일 수도 있다.

[오늘의 한문장] 리 스몰린의 시간의 물리학

고리양자중력이론의 영역 안에서 우주론의 특이점들에 근접하는 양자 효과들에 대한 몇몇 모형이 연구되었는데, 그 결과는 되튀김이 우주적 현상이라는 것이다. 그러나 이들은 모형일 뿐이며 극단적인 가정들을 하고 있다는 것에 주의해야 한다. 이때 핵심적인 가정은 우주가 공간적으로 균질적이라는 것이다. 우리가 가장 확신할 수 있는 것은 우주의 가장 균일한 영역 - 중력파 또는 블랙홀이 없는 영역 - 이 되튀겨서 새로운 우주들을 탄생시킨다는 것이다.

순환 모형들은 시간을 근본적인 것으로 고려하는 것, 시간이 빅뱅에서 시작된 것이 아니라 빅뱅 이전에 존재했다는 의미에서 이 어떻게 좀 더 예측적인 우주론을 유도하는지를 보여준다. 또 다른 예는 빛의 속도가 아주 초기 우주에서는 달랐다고, 사실상 훨씬 빨랐다고 가정하는 이론들이다. 이러한 소위 빛의 변화 가능한 속도 이론들은 상대성이론의 원리들을 위배하는 방식으로 선호되는 시간 개념을 선별한다. 그 결과 이 이론들의 인기는 없지만, 이들은 팽창 없이 우주마이크로파배경 요동들을 설명할 수 있을 것이라고 약속한다.

메타법칙 가설은 무한 퇴행으로 이어진다(‘왜 이러한 메타법칙인가?’라는 질문은 메타법칙에 의해서 답변될 수 있고, 이러한 과정은 계속된다). 이것은 딜레마의 두 뿔 중 하나의 뿔이다. 다른 하나는 메타법칙이 존재하지 않을 가능성이다. 그렇게 되면 법칙들의 진화에는 무작위적인 요소가 있을 것이며, 그 결과 다시 한 번 모든 것이 설명되지는 않게 되며 충분한 근거의 원리는 과학의 가장 근본에서부터 위배된다. 로베르토 망가메이라 웅거와 나는 이를 메타법칙의 딜레마라고 부른다.

수학에서의 결론이 논리적 함축에 의해 강제된다면 자연 속의 사건들은 시간 속에서 작용하는 인과적 과정들에 의해서 생성된다는 것이다. 이 둘은 같은 것이 아니다. 논리적 함축은 인과적 과정의 양상을 모형화할 수 있지만, 이것이 인과적 과정과 동일한 것은 아니다. 논리는 인과성의 거울이 아니다.

수학은 과학의 언어 중 하나다. 수학은 강력하고 중요한 방법론이다. 그러나 과학에 수학을 적용하는 것은 수학적 계산의 결과들과 실험 결과들 사이의 동일성에 기초하며, 실험들은 수학 바깥에 있는 실제 세계에서 일어나기 때문에, 둘 사이의 연결은 일상적인 언어로 진술되어야 한다. 수학은 대단한 도구이지만 과학을 통제하는 궁극적인 도구는 언어이다.

특수상대성이론을 일반상대성이론으로 확장할 때 사용된 4차원 시공간 표기법은 개념적 혼란을 일으켰다. 이 표기법 속에서 시간은 공간의 한 차원으로서 표상되었고, 이는 시간을 공간화하고 얼어붙게 만드는 결과를 초래했다. 현대 물리학의 또 다른 주축인 양자역학에서도, 시간은 존재했지만 그것이 거꾸로 흘러간다고 해도 아무런 문제가 생기지 않았다.

[오늘의 한문장] 시사IN(시사인) 제784호 : 2022.09.27

이번 <시사IN> 조사에 포함된 18개정부 부처 차관은 전원 (24명)이 관료 출신이다. 윤석열 정부 출범 당시 인선 과정과 연관이 있다. 윤대통령 취임 당일인 5월10일까지 청문회를 통과한 장관 후보자는 18명 가운데 절반도 채 되지 않는 7명이었다. 사실상 새 정부 초기 국정운영실무를 차관급 인사들이 책임지게 된 상황에서, 윤 대통령은 이 자리에 관료 출신들을 기용했다. 윤 대통령이 강조한 능력과 전문성‘을 대표하는 이들이 관료라는점을 짐작할 수 있다.
관료 출신 가운데에선 기획재정부출신 공무원이 대거 주요 보직에 안착했다(15명). - P13

윤석열 정부의 또 다른 축은 검찰 출신이다. 오래전 검찰을 떠나 각각 국회의원을 지낸 권영세 통일부 장관, 원희룡 국토부 장관 등과 검찰 출신이 맡는 검찰총장, 대검찰청 기획조정부장, 서울중앙지방검찰청장을 제외해도, 윤석열 정부100대 요직 중 검찰 출신이 총 11명이다.
두 자릿수에 달하는 전·현직 검찰 출신인사들이, 정치권이나 학계를 거치지 않고 새 정부 대통령실 (청와대) 및 내각에곧바로 발탁되는 일은 역대 정부를 통틀어 이번이 처음이다. - P14

불과 보름 차이였지만 이 결정이 A씨의 삶에 미치는 영향은 지대했다. A씨가
‘중간 보호종료아동‘으로 분류돼 모든 자립 지원정책으로부터 제외됐기 때문이다. 자립준비청년으로서 자립정착금과자립수당 등 혜택을 받기 위해선 만 18세가 넘은 이후에 보호가 종료돼야 한다. 만17년 11개월이던 A씨에게 주어지는 혜택은 없었다. A씨는 자신과 아버지에게주어지는 기초생활수급 및 장애수당 등을 합친 110만여 원으로 생활을 꾸려 나가야 하는 처지가 됐다.

실태조사 결과에서도 연장 보호종료아동의 불안감은 여실히 드러난다. 2019년 보건복지부와 한국보건사회연구원이실시한 조사 결과에 따르면 연장보호 상태인 아동 중 44.9%에 달하는 아동이 ‘죽고 싶다고 생각해본 적이 있다‘고 답했다.
그러나 죽고 싶다는 생각이 들었을 때 시설 선생님과 대화를 통해 대처했다는 응답은 3.2%에 불과했다. 평균 11.8년간 아동복지시설에서 보호를 받고, 여전히 시설에 소속돼 있음에도 시설 선생님은 아동이 의지할 수 있는 마지막 버팀목이 되어주지 못하고 있는 것이다. B씨는 주변어른에게 의지하지 못하고, 친구들에게도 힘든 티를 내지 못했고, 따로 떨어져살았던 부모와도 소원했다. - P22

사랑제일교회는 현재 교회 건물의 6배에 달하는 새 교회를 지을 계획이라고밝혔다. 전광훈 목사는 새로 지을 교회를아들 (전 목사는 그를 "독생자"라고 부른다)에게 물려줄 예정이다. 이미 그는 교회핵심 외부 사업을 대부분 아들에게 위임했다. 전 목사의 아들 전에녹씨는 올해 들어 간증, 설교 등 공개석상에 부쩍 자주모습을 드러낸다. 지난 7월17일 예배에서 전 목사는 "내가 죽으면 교회는 1년 만에 해체될 것이라 아들을 세울 수밖에 없다" "세습은 북한이 한국 교회를 무너트리려 만든 용어다"라고 주장했다. 9월11일 설교에서는 이렇게 말한다. "언론이
‘전광훈이 헌법 위에 군림하는 놈‘이라고하던데, 그걸 이제 알았어?"
- P27

정부는 어떻게 해야 할까요? 노인이원하는 곳에서 적절한 돌봄을 받을 수 있게 도와야 합니다. 즉 어느 정도 돌봄의탈시설화가 필요합니다. 돌봄이 필요한노인이 좀 더 (시설보다는 재가 서비스를 택할 수 있도록 수가를 조정해야 할것입니다. 또한 중장기 과제로서 장기요양보험료 인상을 통해 재가시설 서비스 모두의 양적·질적 개선이 필요합니다.
그렇지만 급격한 노령화가 진행되는 현J실은 지금 수준의 서비스를 유지한다 하더라도 장기요양보험료 부담이 크게 증가할 것이 예견됩니다.
간병 인력이 모자란 것도 문제입니다.  - P31

독일은 높은 고용률을 달성했으나,
유럽 영어 뉴스 사이트인 <더 로컬 (TheLocal)>에 따르면 현재 4200만 노동자중 760만명이 미니잡으로 일한다. 미니잡 종사자 수는 2003년에서 2019년 사이43% 증가했다. 2001년 34만1000명이던파견 노동자 수도 2017년 100만명을 넘어섰다. 이러한 비정형 일자리가 정규직으로 가는 ‘징검다리‘ 역할을 하는지는 여전히 논쟁적이며, 오히려 여성의 경력 단절로 이어졌다는 비판적 시각이 있다. 하르츠 개혁 이후 독일의 고용률은 높아졌으나 실질임금은 낮아졌다는 연구결과도있다.  - P40

 하르츠개혁은 노동시장 유연화만 한게 아니라 일자리 알선이나 직업훈련 등고용서비스도 획기적으로 개선했다. 지금 우리의 문제가 뭔지 제대로 진단하고발본적이고 창의적으로 해결해가야 한다. 헌법이 말하는, 국가가 ‘적정 임금‘을보장할 의무가 도대체 무엇을 의미하는지 돌아볼 때다. - P42