이책의 핵심 질문

이책의 핵심 질문

본고가 주목하고자 하는 것은 경제성장을 가능하게 했던 조건이다 그리고 그 조건을 통해서 경제성장의 기원을 찾고자 하는 것이다 과연 어떠한 조건들이 소위 ‘현인‘과 ‘선정‘이 나올 수 있는 기반을 만들었는가? 이것이 본고의가장 근본적인 질문이 되는 것이다. 기존의 연구들이 이 문제에 대해서 천착하지 않은 것은 아니되, 주로 ‘현인‘과 ‘선정‘에 초점이 맞추어졌다. 

어떠한 사회적 조건이 마련되어 있을 때, ‘현인‘과 ‘선정‘이 나올 수 있는가? 또는 어떠한조건 위에서 과거의 유산이 생산적으로 작용할 수 있을까? 그리고 외적 충격이 경제성장의 방향으로 진행되기 위해서는 어떠한 사회적 조건이 갖추어져야하는 것일까? - P8

자료 선택 이슈와 별도로 인공지능이 하는 선택에 어떤...

자료 선택 이슈와 별도로 인공지능이 하는 선택에 어떤 제약 조건과 값을부여하는 기술적 방법이 있을 수 있다. 이것들은 덜 왜곡된 자료 모음 사용을 통해 편향성이 수정될 수 없는 상황에서 특히 유용한데, 예를 들면 (인터넷의 콘텐츠처럼) 전체 자료가 편향성을 보이거나, 성별 또는 인종 같은 특 징을 근거로 하는 결정에 의존하지 않은 채 인공지능을 훈련시킬 불충분한 자료만 있는 경우이다. - P312

인공지능이 그런 특징을 고려하지 못하도록 막을 수 있을까? ㅁㅁ 최근의실험은 그것이 할 수 있는 것을 그리고 자료 과학자들이 그렇게 하는 점점더 발전된 방법들을 개발 중임을 보여준다. 어떤 속성을 가진 대상(주로 사람)에 대한 기계 학습 모델의 편향성에 대한 가장 간단한 해법은 그 속성의비중을 낮추어서 인공지능이 의사 결정에서 그것을 고려하지 않도록 하는

것이다. 하지만 이것은 전반적으로 부정확한 결과에 이를 수 있는 조잡한 도구일 뿐이다. 101더 좋은 접근법은 조건법적 서술을 이용하는 것인데, 다른 변수들이 없어지고 바뀌는 경우에도 인공지능 시스템에 의해 동일한 결정이 내려지는지시험하는 것이다. 어떤 프로그램이 같은 결과에 도달하는지 검토하기 위해대상의 인종을 바꾸는 가정적인 모델을 운영해 봄으로써 인종 편향성을 시험할 수 있다. 102

반편향성 모델링 기술은 지속적으로 수정되고 향상되고 있다. 실비아 치아파Siluia Chiappe와 토머스 그레이엄Thomas Graham이 2018년 논문에서 조건법적 추론만으로는 편향성을 확인하고 없애는 데 항상 충분하지 않을 수 있다고 지적했다. 완전한 조건법적 모델은 성 편향성 때문에 더 많은 남성 지원자들이 어느 대학에 합격된 것을 확인할 수 있지만, 일부는 여학생들이 빈자리가 적은 과정에 지원했기 때문에 여성들이 더 낮은 합격률을 보였다는사실을 파악하지 못할 수 있다. 따라서 치아파와 그레이엄은 "불공정한 경로를따라 민감한 속성이 다른 반사실적 세계에서 취했을 결정과 일치하는 경우개인에게 공정한 결정이라고 말하는" 반사실적 모델링의 수정을 제안한다. 103

완전히 가치 중립적인 인공지능은 불가능한 생각일 수 있다. 실제로 일부 평자들은 "알고리즘은 피할 수 없이 가치 내재적"이라고 주장했다. 1매 인공지능으로부터 모든 가치관을 제거하려고 하는 대신 인공지능이 작동하는 특정사회의 가치관을 반영하는 인공지능을 설계하고 유지하는 것이 바람직한 접근 방법일 수 있다.

신뢰의 중요성 - 유전자조작곡물 사례

신뢰의 중요성
- 유전자조작곡물 사례

2015년 유럽연합 회원국의 절반이상이 농부들의 유전자 조작 곡물 생산을 금지시켰다. 사실 이런 금지는실질적인 차이는 거의 없었는데, 2015년 전에는 오로지 1개의 유전자 조작곡물만이 유럽연합에서 승인되고 길러졌었다.

이렇게 될 필요가 없었다. 미국 농업성은 2017년 미국에서 키운 옥수수의 77%가 유전자 조작이라고 보고했다." 유럽연합과 미국 간의 태도 차이의 적어도 일부는 기술이 초기 단계에 있을 때 규제 기관의 행동에 달려 있다. 정보 원천에 대한 신뢰가 사람들이 유전자조작식품에 대해 반응하는 방식에 중요한 결정 요인이라는 것을 소비자 조사와 심리 연구들이 보여주었다. 

유전자 조작 기술이 처음 개발된 조금 후에 미국 정부는 식품의약국FDA에게 그것을 감독하도록 지명했다. FDA는 과학자, 규제 기관, 농부 그리고 환경학자 등 관계자들의 논의를 시작했고 1980년대 중반 시험 생산이 뒤따랐다. 이런 실험의 자료는 그 후 관계자들 간에 공유되었는데 토론자들이 제기했던 걱정거리를 다루기 위해 추가 실험이 실행되었다. 행동 과학자 피누케인 Finucane과 홀럽 Holup은 다음과 같이 말한다.

"(미국)에 대비되게 유럽은 기술을 통과시키고 대중의 염려를 가라앉힐 중앙규제기관이 없었으며 생명 공학은 새로운 규제 조항을 필요로 하는 새 고정으로서 취급되었다. 1990년대 초 유럽의 필드 테스트는 대중과 정부 기관들 간의 논의를 끌어내지 못했다... " - P238

규정 regulations ‘규정‘은 구속력 있는 ...

규정 regulations
‘규정‘은 구속력 있는 입법 행위이다. 그것은 유럽연합 전체에 적용되어야한다. 예를 들어 유럽연합이 유럽연합 밖으로부터 수입된 제품들에 공동의보호 장치를 두고 싶을 경우 위원회가 규정을 채택했다. 

지시 directives
‘지시‘는 모든 유럽연합 국가들이 해내야 하는 목적을 적어놓은 입법 행위이다. 하지만 이들 목적에 어떻게 갈지에 대한 자기들 법을 고안하는 것은개별 국가들에 달려 있다. 한 예는 유럽연합 소비자 권리 지시인데 유럽연합전체의 소비자들의 권리를 강화하는 것이다. 

결정 decisions
‘결정‘은 해당되는 대상들(즉 유럽연합 국가 또는 개별 회사)에게 구속력이 있고 직접 적용될 수 있다. 예를 들면 위원회는 유럽연합에 다양한 반 테리조직의 작업에 참여하도록 결정을 했다. 

권고 recommendation
‘권고‘는 구속력이 없다. 위원회가 유럽연합 국가들의 사법 당국에게 국경을 넘어 사법 서비스가 잘 작동할 수 있도록 화상 회의의 사용을 개선하라고권고했을 때 이는 아무런 법적 효과를 갖고 있지 않았다. 권고는 해당 기관에 법적 의무를 부과하지 않은 채 기관의 견해를 밝히고 행동 방침을 제안할 수 있도록 한다. - P222

인공지능에 대한 국제 규정은 위 선택들의 조합으로 만들어져야만 한다.
규정들은 그것들이 그 실행에 대해 아무런 재량을 허락하지 않으므로 가장직설적인 수단이다. 그러므로 그 활용은 가장 근본적 원칙으로만 제한되어야하는데 어떤 류의 국가별 개정도 불가능하다.
달성 결과에 대해서만 구속력이 있는 (유럽연합 지시 같은) 법규는 국제 규범이 바람직하다는 것과 자기들 고유의 방법과 구조를 선택할 수 있는 국가들에 널리 퍼져 있는 본능 사이에서 좋은 타협점을 제공한다. 다른 구속적선택안 또는 비구속적 선택안이 적절하게 이용될 수 있다. 인공지능과 관련된 모든 법들의 완벽한 조화가 당장 일어날 필요는 없다. 한 가지 모델은 어떤 분야에서 구속력 없는 권고로 시작하면서, 여러 해 또는 수십 년에 걸쳐점차 그것들이 강제되는 정도까지 늘린다는 생각을 갖는 것이 한 가지 모델일 수 있다.  - P223

국제 규범의 상황

국제 규범의 상황

국가 인공지능 정책은 나라들의 세계 질서 속 현재 위상뿐 아니라 미래에있고자 희망하는 위상과 묶여 있다. 일본은 인공지능 규제의 개발을 그 산업전략의 일부로 본다. 중국에게 그 이슈는 경제적인 것이자 국제 정치적이다.
인공지능에서 세계를 선도하는 국내산 산업을 만들려는 중국의 노력은 인공지능의 국제적 담론에 연결되어 있긴 하나 영향을 미치려는 노력과 같지는 - P209

않다. 첫 목적이 성공하지 못해도 두 번째는 할 수 있을 수 있다. 마치 미국이 20세기에 걸쳐 수많은 분야에서 그랬듯이 중국이 이제는 전 세계 인공지능 규범을 만드는 데 선도적 역할을 찾으려고 한다는 최근의 시사들이 있다.
적어도 당분간은 미국 정부가 전 세계 법규 제정 역할에서 물러난 듯이 보인다. 유럽연합이 이제 자체의 포괄적 인공지능 규제 전략의 개발 쪽으로 움직이기 시작했지만, 모든 세계적 표준의 주관자가 되기 위해서는 중국 그리고일본과 경쟁하고 있음을 알게 될 것이다.
19세기에는 주요 유럽의 권력들이 아프가니스탄을 갖기 위한 "큰 게임" 그리고 "아프리카 고투에서, 물리적 영토에 대한 영향력을 위해 경쟁했다. 20세기에는 미국과 소련이 "우주 경쟁의 기술에 대해 서로 경쟁했다. 21세기는 인공지능에 대한 유사한 권력 투쟁이 특징일지도 모르는데 기술의 개발만이 아니라 규정을 쓰는 면에서도 그렇다.  - P210