‘트랜스 휴머니즘’은 진보적일까?

 

실제로 철학자이자 연구자인 닉 보스트롬이나 테슬라와 스페이스엑스의 창립자인 엘론 머스크 등도 통제를 벗어날 위험이 있는 ‘슈퍼 인공지능’ 기계들이 인간에게 가할지도 모를 실존적 위협에 대해 경고하고 있다.(2) 엘론 머스크는 이것이 핵무기보다도 더 큰 위험이 될 수 있다고 봤다. 여기에 1980년대 실리콘 밸리에서 시작된 ‘트랜스휴머니즘’까지 더해졌다. 트랜스휴머니즘은 신기술과 인공지능을 통해 인간의 신체적·지적 능력을 향상시키고 나아가 인간과 기계의 융합을 주장하는 이데올로기로, 지난 2002년 경제학자이자 철학자인 프랜시스 후쿠야마는 트랜스휴머니즘을 인류역사상 최대의 위기로 평가한 바 있다.(3),(4)

 

머지않아 기계가 인간을 뛰어넘게 될 것이라는 이 예측에는 ‘특이점(Singularity)’이라는 이름이 붙여졌다. 미국의 SF 소설가인 버너 빈지가 1993년 발표한 논문 ‘다가오는 기술적 특이점’에서 최초로 사용된 이 용어는 인공지능이 인류의 지능을 넘어서게 될 불확실한 어느 시점을 가리킨다.(5) 그때가 되면 인간의 머리로는 상상할 수 없는 새로운 시대가 열릴 것이라는 이야기다. 버너 빈지는 그에 앞서 급격한 발전의 시대를 상상했던 수학자 스타니스와프 울람이나 『최후의 질문』(1956)의 저자 아이작 아시모프, 『불카누스의 망치』(1960)의 저자 필립 K.딕, 초지능 기계에 대해 예측했던 통계학자 어빙 존 굿 등으로부터 영향을 받기도 했다.

 

 

실리콘 밸리의 기업인들과 관련 지식인들이 핵심문제로 손꼽은 특이점은 2000년대를 거치며 하나의 학파로 자리를 잡았다. 구글의 과학자이자 트랜스휴머니스트인 레이 커즈와일을 비롯해 일각에서는 특이점을 재난이 아니라, 일어나야 할 바람직한 사건으로 보고 있다. 물론 이런 기술낙관론은 소수의 의견에 그치기는 하지만 그럼에도 불구하고 모든 분석가들이 의견을 함께 하고 있는 한 가지 사실이 있다. 기술발전이 불가피하게 급격히 발달하면서 그로 인한 특이점은 필연적으로 나타날 것이라는 점이다. 그러므로 이를 막으려고만 하기보다는 인류 전체를 준비시켜 특이점의 부정적 영향을 줄여야 한다는 것이다.

 

그러나 여기에는 한 가지 역설이 분명하게 드러난다. 종말론과 예방론 중 어느 쪽이든 이런 시나리오들을 주장하는 과학자들과 기업인들이야말로, 자신들이 반대하는 바로 그 기술의 발전을 이끄는 장본인이라는 점이다. 실제로 실리콘 밸리의 기업들로부터 재정지원을 받으며 기계의 반란으로부터 인류를 보호하기 위해 규범과 규율을 제정하는 윤리단체와 각종 위원회가 늘어나고 있다. 일례로 유익한 인공지능을 주장하는 연구기관인 ‘오픈에이아이(OpenAI)’의 경우 엘론 머스크를 비롯해 대표적인 인큐베이터 기업인 와이콤비네이터의 CEO 샘 알트만, 페이팔의 공동창업자인 피터 틸 등 여러 기업인들을 통해 2015년 설립됐다. 기술 발전과 관련된 ‘실존적 위험’을 줄이기 위한 연구를 표방하는 ‘생명의 미래 연구소(FLI)’도 스카이프의 공동창업자인 얀 탈린이 설립한 곳으로, 이후 엘론 머스크로부터 1천만 달러의 지원을 받기도 했다. 

 

‘인류에게 닥친 거대한 도전들’에 맞서 디지털 기술 분야의 리더들을 교육하고 책임감을 심어주기 위해 세워진 싱귤래리티 대학 역시 레이 커즈와일이나 우주관광 및 소행성 광물자원 개발 전문가인 피터 디아만디스와 같은 기업인·엔지니어·평론가들의 기금을 통해 설립됐다. 또한 ‘베스트 프랙티스(모범사례)’를 공유하기 위해 2016년 9월 화려하게 결성된 ‘인간과 사회에 이익을 주는 AI 파트너십(Partnership on AI)’의 경우 구글, 애플, 페이스북, 아마존, 마이크로소프트, IBM 등의 창업자들에 의해 결성됐다. 그 외에도 수많은 단체들이 “언젠가는 정치인들도 깨닫게 되겠지만 그때는 너무 늦다. 그들을 앞서가야 한다. 나는 정치인이나 단기적 정책의 힘보다 기업인들의 힘을 믿는다”고 말한 피터 디아만디스의 신념을 공유하고 있다.(6)

 

컴퓨터공학자이자 철학자인 장-가브리엘 가나시아의 저서 『특이점의 신화』에서는 이런 흥미로운 상황을 이렇게 요약하고 있다. “결국 우리는 ‘방화하는 소방관’들을 목도하고 있는 셈이다. 일부러 불을 지르고 다니는 한편, 스스로에게 좋은 역할을 부여하며 불을 끄는 시늉을 해 보이고 있는 것이다.”(7) 실제로 이 기업들이 주장하는 자칭 인류애는 세금이나 노동법과 관련해 보여주고 있는 행동과 결코 일치하지 않는다. 그렇다면 이들이 전문가와 철학자들의 입을 빌려 자사가 개발한 기술의 미래에 대해 불길한 예측을 쏟아내고 있는 각종 단체에 오히려 자금을 지원하고 있는 이유는 무엇일까?

 

엘론 머스크나 페이스북 창립자 마크 저커버그와 같은 인물들이 과거 계몽주의자들이 가졌던 발전에 대한 이상을 이어받고 구현해야 한다고 진심으로 느끼고 있든 그렇지 않든, 어쨌든 그들이 기업인임은 변함없다. 기업의 성공은 두 세기 전부터 변화를 거듭해온 하나의 모델에 기인하고 있다. 즉, 상품화할 수 있는 해결책을 마련한 후에야 문제를 알리는 방식이다. 인간의 수명을 연장하고 정신적 또는 신체적 능력을 증진하는 것도 2020년까지 10억 달러 이상의 규모로 성장하게 될 유망한 시장이다. 이는 또한 디지털 산업을 인류의 미래 한가운데, 나아가 투자자들의 관심 범위 내에 가져다 놓는 훌륭한 선전이 된다. 

 

로잔공과대학의 의료과학사회학 교수인 파네즈는 몇 해 전부터 유토피아적이면서도 디스토피아적인 “약속의 경제”가 모습을 드러내고 있다고 봤다. 그는 “기술 분야 스타트업들의 출현은 이 세상의 거대한 변혁에 대한 약속에 따라 자금을 푸는 위험투자자들의 투자에 기반을 두고 있다”고 설명했다. 혁신을 주도하는 전문 기술자들과 문외한인 자본가들 사이의 간극에 대해 그는 이런 “발전에 불안요소를 담는 것이 문외한들을 유혹”하는 방식이라고 봤다.

 

 

하지만 문외한일지라도 아무 생각이 없는 것은 아니다. 기술을 앞세운 약속들에는 자연스럽게, 미디어적인 담론보다는 실용적 담론이 담기게 된다. 일례로 비록 투자자들이 실제로는 우주여행을 위해 인체를 저온냉각시키거나 사망 이후 생명을 되찾기를 바라지는 않더라도, 이와 관련된 연구들이 보존기술을 발전시킬 것이라는 사실을 인지하고 있다는 것이다. 이렇게 발전된 기술은 대형 유통업체 등과 연결될 수 있다. 그렇다면 저온냉각 기술은, 보다 효과적인 생선살 냉동기술을 얻기 위한 것인가? 

 

인공지능에 대한 환상을 깨기 위해 블로그 ‘어프록시메이틀리 코렉트’를 운영하고 있는 카네기 멜론 대학 소속 머신러닝 연구자 재커리 체이스 립튼은 “학술 분야에서는 극도의 신중함을 보이는 수많은 연구자들과 기업인들이 언론에서는 자극적인 말들을 사용하는 경향이 있다. 대체로 기술 분야에 대한 지식 범위가 한정적이고 <뉴욕타임스>나 <월스트리트저널>의 내용을 근거로 삼는 투자자들에게 직접적인 신호를 보내는 것”이라고 설명했다.

 

프랑스 트랜스휴머니즘 협회(AFT)를 연구해온 철학자 가브리엘 도르트는 “이런 엄청난 선전효과 때문에 인공지능이 지닌 수많은 구체적 응용 사례들이 일반화되고 묻히고 있다”고 평가했다. 예를 들어 의사결정을 도와주는 알고리즘의 경우 인간의 선택에 합리성을 더하기 위해 고안된 것이다. 최근에는 경찰, 법정, 보험회사는 물론 많은 미국 기업의 인사과에서도 알고리즘이 활용되고 있다. 그런데 수학자 캐시 오닐은 저서 『대략살상 수학무기』를 통해, 미디어에서는 부각되지 않은 알고리즘의 영향에 대해 우려를 표했다. 알고리즘의 사용이 가장 취약한 계층에게 부정적인 결과를 초래할 수 있다는 것이다.(8),(9) 이 알고리즘을 통해서는 범죄를 전혀 저지르지 않았을지라도 빈민가에 거주한다는 이유만으로도 잠재적 위험인물로 분류되기 때문이다. 그러나 이 또한 심각한 문제임에도 불구하고 인류의 종말과 관련된 문제들이 사람들의 눈길을 잡아끌고 있는 것이다.

 

가브리엘 도르트는 “우리가 모두 이 사태에 대한 공범자다. 연구자들도 마찬가지다. 트랜스휴머니즘 덕분에 연구자들은 위기에 처한 인류에 대해 책과 논문들을 발표할 수 있었고 일자리 등도 얻을 수 있었다”라고 강조했다. 지난 2014년에는 약 12억 유로를 투자(그중 5억 유로를 유럽기금이 지원)해 2024년까지 인간의 뇌를 슈퍼컴퓨터로 재현하는 ‘휴먼 브레인 프로젝트(HBP)’에 반대해 800명에 달하는 사람들이 공개 서신을 발표하기도 했다. 서신에 서명한 인물 중 대부분은 연구자들이었으며 신경생물학자의 수만도 300명에 달했다. 그중 한 명인 취리히 대학의 신경과학교수 리처드 한로저 역시 “실질적 내용은 없는 약속”이라고 비판하면서, 규제기관 내에 과학자는 없고 회백질에 대한 이해보다 뉴로모픽(뇌를 닮은 컴퓨터 칩) 컴퓨팅을 통해 고성능 컴퓨터를 얻는 데만 관심을 기울이고 있는 기업인들의 비중이 커지고 있다고 목소리를 높였다.(10)

 

기술을 통한 포스트휴머니즘의 발달은 정치를 제외시키는 결과를 낳기도 한다. 마치 인공지능 문제가 정부나 공적 숙의에 맡기기에는 너무 심각해서 연구자들로 구성된 전문가 집단에 맡겨야만 하는 것처럼 여겨지고 있는 것이다. 그 전문가들이 판사이자 피고인일지라도 말이다. 프랑세스코 파네즈는 역설적이게도 “윤리적 사고가 문제점을 비(非)정치화하는 역효과를 낳았다”면서 “구글, 아마존, 페이스북, 애플, 마이크로소프트 등은 논쟁을 가치적 차원에 가두는 데만 관심을 기울일 뿐, 기술이 미칠 즉각적인 영향이나 사회 불평등, 새로운 직권의 출현 등에 대해서는 고민의 여지조차 내주지 않고 있다”고 설명했다.

 

 

특이점에 대한 담론은 정치를 윤리로 바꾸는 것 외에도 또 하나의 변화를 내포하고 있다. 바로 과학적 합리성을 신화적 차원으로 바꾸는 것이다. 여기서 기술은 관찰을 근거로 하는 (기상학과 같은) 예측이론이 아닌 인류의 목숨이 달린 비극적 거대 서사의 매체가 된다. 『트랜스휴머니즘에 맞서(Against Transhumanisme)』의 저자이자 셰필드 대학의 물리학 교수인 리처드 존스는 “트랜스휴머니즘은 믿음에 기반을 두고 있는 시스템으로, 과학보다는 종교와 관련이 깊다”고 단언하기도 했다.(11)

 

그는 “트랜스휴머니즘은 인류의 근본적인 신화를 핵심요소로 사용하고 있다. 그 신화란 우리의 행복과 불행을 결정해줄 우월적 지식의 개입을 통해 풍요의 상태, 나아가 불멸의 단계에 이를 수 있다고 믿는 것을 의미한다. 더욱 놀랍게도 트랜스휴머니즘은 20세기 초 러시아의 정교회 사상가 니콜라이 표도로프로 대표되는 철학 운동인 러시아 우주론을 떠올리게 한다. 당시 니콜라이 표도로프는 과학을 통해 성경 속 약속들이 이 땅에서 이루어질 수 있으리라고 주장했다. 그는 과학이 마침내 인간을 불멸의 존재로 만들어줄 것이라고 믿었다”라고 덧붙였다.

 

특이점이 보여주는 서사는 신화와 같은 효과를 일으킨다. 릴 가톨릭 대학의 연구자이자 역사학자인 프랑크 다무르는 “이는 아주 오래된 종말론적 담론으로, 12세기 서구 사회에서 일어났던 요아킴주의(성경 텍스트 속에서 예수를 이해해야 한다는 요아킴의 사상)에서 그 기원을 찾을 수 있다”고 봤다. 새로운 기술의 비약적인 발전은 문화적 요소에 따라 다양하게 모습을 바꿔 가며 구원의 약속을 주고 있다. 실제로 힌두교의 순환론적 역사관에서는 인공지능의 출현을 서구사회에서처럼 유일무이한 사건으로 보거나 종말론적 사고관처럼 유일하며 본질적으로 유별한 한 시대에서 일어나는 불가역적 변화로 보지 않고, 과거로의 회귀, 우주가 생성되던 고대 시대의 재림으로 여긴다. ‘사티야 유가’, 즉 인류의 황금시대가 다시 돌아온 것이라고 보는 것이다.(12)

 

미국의 경우 트랜스휴머니즘적 이데올로기가 청교도주의를 따르는 다수의 종교운동과 연계되고 있다. 이에 대해 프랑크 다무르는 “특히 신체의 성공(건강, 강건함, 장수 등)이 신으로부터 선택받았다는 증거라고 믿었던 1960년대의 제4차 대각성운동(회개의 외적 증거와 내적인 은총체험을 강조하고, 성경연구와 전도에 주력-역주)과 연관성이 있다”고 설명했다. 이처럼 트랜스휴머니즘은 생시몽주의와 같이 집단적 측면을 강조했던 19세기의 과학운동과는 달리, 사회의 구원보다 개인의 구원을 더욱 중시하고 있다. 

 

프랑크 다무르는 “물론 개인의 차원에서 인간 종 전체에 대한 담론으로 바뀌기는 했지만, 사회라는 매개체를 통하지 않게 된 것”이라고 말하며 “여기서의 구원은 신체에서부터 시작된다. 이 세상을 조직하는 데에 결정적 역할을 하는 것은 더 이상 국가가 아닌, 기업구조를 매개로 하는 개인들이다. 자유주의가 이보다 강렬한 목표를 겨냥했던 적은 없을 것”이라고 덧붙였다. 결국 반대 진영은 ‘진보’라는 강력한 원동력을 빼앗긴 만큼 더욱 힘을 잃어가고만 있다.  

 

 

콜렉티프 생귤리에(Collectif Singulier) 소속 언론인으로 각각 활동하고 있다.

 

한국외국어대 통번역대학원 졸업. 역서로 『미래 대예측』 등이 있다.

 

(1) Edouard Pflimlin, ‘Les Nations unies contre Terminator’, <르몽드 디플로마티크> 프랑스어판, 2017년 3월.

(2) Nick Bostrom, 『Superintelligence: Paths, Dangers, Strategies』, Oxford University Press, 2014.

(3) Phillippe Rivière, ‘Nous serons tous immortels... en 2100’, <르몽드 디플로마티크> 프랑스어판, 2009년 12월.

(4) Francis Fukuyama, 『Our Psthuman Future: Consequences of the Biotechnology Revolution, Picador』, Farrar, Straus and Giroux, New York, 2002. 

(5) Vernor Vinge, ‘The coming technological singularity: How to survive in the post-human era’, Department of Mathematical Science, San Diego State University, 1993.

(6) Fabien Benoit, ‘A Palo Alto, au royaume des radieux’, <Libération>, Paris, 2017/01/09.

(7) Jean-Gabriel Ganascia, ‘Le Mythe de la singularité: Faut-il craindre l’intelligence artificielle?’, Seuil, coll. <Science ouverte>, Paris, 2017. / Jérôme Lamy, ‘Intelligence artificielle ou collective? 인공지능 혹은 집단지능의 매혹과 한계’, <르몽드 디플로마티크> 프랑스어판‧한국어판 2018년 6월.

(8) Cathy O’Neil, 『Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy』, Crown, New York, 2016.

(9) Frank Pasquale, ‘Mettre fin au trafic des données personnelles 디지털 귀족의 과두정치’, <르몽드 디플로마티크> 프랑스어판 2018년 5월‧한국어판 2018년 6월호.

(10) Lise Loumé, ‘Human Brain Project: faut-il continuer ce projet à 1,2 milliard d’euros?’, <Sciences et Avenir>, Paris, 2014/07/09.

(11) Richard Jones, ‘Against Transhumanism-the e-book’, 2016/01/15, www.softmachiens.org

(12) Robert Geraci, ‘A tale of two futures: Techno-eschatology in the US and India’, <Social Compass>, vol.63, no.3, New York, 2016/09.