기술적 도전
환멸
어떤 이들은 옛날의 계층화된 세상을 다시 그리워하게 되었고, 이제와서 인종적, 민족적, 젠더적 특권을 포기하지 않으려고 한다. 또다른 이들은 자유화와 세계화라는 것이 결국에는 대중을 제물로 소수 엘리트에게 힘을 건넨 거대 사기라고 결론 내렸다.^1
2008년 금융위기, 2016년 브렉시트와 트럼프의 당선은 자유주의 가치의 파산을 의미한다. 자유주의 역시 파시즘과 공산주의 몰락을 따라갈까?
1938년, 사람들에게 주어진 전 지구적 이야기의 선택지는 세 가지였고, 1968년에는 두 가지밖에 없었다. 그러다 1998년에는 한 가지 이야기만 득세하는 듯 보였다. 급기야 2018년 우리 앞에는 하나도 남아 있지 않게 되었다.^2
이야기가 없다는 것은 어떤 의미일까? 유발 하라리에 따르면 우리는 점점 자신이 사회와 무관하다고 느낀다. 블록체인, AI 같은 신조어들이 보통 사람들에게 무슨 의미가 있을까?
이제 대중은 자신이 사회와 무관해질까봐 두려워한다. 그래서 너무 늦기 전에 자신에게 남은 정치권력을 사용하는 데 필사적이다. 브렉시트와 트럼프의 부상은 전통적인 사회주의 혁명과는 반대되는 궤도의 사례를 보여준것일 수 있다. ... 2016년 트럼프와 브렉시트를 지지한 것은 아직 정치권력은 누리고 있지만 자신의 경제 가치를 잃는 것이 두려웠던 많은 사람들이었다.^29
2016년 이후로 광장을 점거하는 수많은 시위 - 특히 노년층의 시위를 보며 드는 생각이다. 나이들었기 때문에 고용시장에서 배제되고, 그러므로 사회의 존경과 관심을 받지 못하는 데에서 오는 두려움이 분노로 전이된 것이 아닐까? 그들이 거의 독립 운동가와 같은 신념으로 광장으로 나오는 것은 자신의 마지막 사회적 가치인 정치 권력을 필사적으로 사용하기 위해서라고 생각한다. 언젠가 나도 이렇게 될 것이며 기술의 진보가 그 시기를 앞당길 것이다.
자유주의 불사조
20세기의 주요 운동은 모두 전 인류를 위한 미래 청사진이 있었던 데 반해 도널드 트럼프는 그런 것은 제시하지 않는다. 그와는 정반대다. 그의 주된 메시지는 어떤 지구 차원의 청사진을 만들고 증진하는 것은 미국의 일이 아니라는 것이다. ... 트럼프와 브렉시트에 찬성표를 던진 사람들 대부분은 자유주의 패키지를 전면 거부한 게 아니다. 주로 세계화에 대한 믿음을 잃었을 뿐이다.^33
하라리의 문제 제기 방식은 매우 흥미롭다. 그는 앞에서 1900년 이후 인간을 지배한 세 가지 거대 서사(파시즘, 공산주의, 자유주의)를 소개한다. 두 거대 서사가 몰락하는 과정을 이야기하면서 자유주의 역시 같은 운명에 처할 위기에 놓였다고 이야기한다. 언뜻 하라리는 트럼프, 푸틴, 브렉시트를 비판하며 자유주의를 지켜내길 호소하는 듯 보이지만 그에게 현존하는 이데올로기들은 생명-정보 기술 혁명 앞에 쓰러질 나무와 같다.
인류의 충성을 얻고자 하는 이야기가 있다면 그 이야기는 무엇보다 ... 쌍둥이 혁명에 대처할 능력이 있는지 시험받게 될 것이다. 자유주의와 민족주의, 이슬람 혹은 다른 어떤 참신한 신조가 2050년 세계를 건설하려 한다면, 인공지능과 빅데이터 알고리즘과 생명공학을 이해하는 데 그칠 것이 아니라 그것들을 유의미한 새로운 서사로 통합할 필요가 있을 것이다.^42
일
인간의 인지력을 기계가 뛰어넘는 시대가 온다면, 인간이 잉여화가 되는 양상은 그 이전(육체적 능력을 대체하던 것)과는 현격히 다를 것이다.
인간의 직관이라고 과시해온 것이 사실은 '패턴 인식'으로 드러난 것이다. ... 특히 AI는 다란 사람에 관한 직관이 필요한 업무에서는 인간보다 더 뛰어날 수 있다.^46
자동화는 한 개인을 한 대의 기계가 대체하는 문제가 아니다. 전 세계의 수술 기계들은 한 번의 업데이트로 능력을 개선시킬 수 있는 반면에 의사들에겐 신약 소식을 알리는 것 조차 불가능하다.
단지 사람의 일자리를 보호한다는 이유로 교통과 의료 같은 분야의 자동화를 막는 것은 터무니없는 일이 될 것이다. 결국, 우리가 보호해야 할 궁극의 목표는 사람이지 일자리가 아니다.^51
사람을 위해 개발된 기계들이 소비자 역할까지 담당하는(로봇이 기업으로부터 자동으로 재화를 구매해 재생산에 활용하는) 상황이 멀지 않은 미래에 올 것이고, 우리는 인간의 사회적 존엄을 지키기 위한 새로운 경제-사회 모델이 필요해질 것이다. 유발 하라리는 두 가지 방안을 제시한다. 첫째는 보편소득(UBI) - 국가가 모든 개인들에게 기본 필요를 충당할 만큼의 재정 지원을 해주는 것이다. 다른 것은 보편 서비스 - 무상 교육, 무상 교통 서비스 등을 국가에서 제공하는 것이다. 하지만 미국 기업의 자동화로 인해 일자리가 사라지는 것은 미국인뿐만이 아니다. 인도, 방글라데시 등 개발도상국의 저숙련 노동자들은 어디에서 재정적 지원을 받을 수 있을까? 보편소득이란 무엇인가? 또한 우리는 인간 존엄을 유지할 수 있는 특성이 저마다 다르다. 무상 헌금 서비스, 무상 소주 서비스는 보편 서비스일까?
보편 기본 소득(자본주의 낙원)을 제공하느냐, 보편 기본 서비스(공산주의 낙원)를 제공하느냐, 어느쪽이 나을지는 논쟁적인 주제다... 어떤 낙원을 택하든 진짜 문제는 '보편'과 '기본'이 실제로 무엇을 뜻하는지 정의 내리는 데 있다.^72
자유 - 빅데이터가 당신을 지켜보고 있다
만약 민주주의가 이성적인 의사 결정의 문제라면 모든 사람에게 동등한 투표권을, 혹은 그 어떤 투표권도 줘야 할 이유가 전혀 없다. ... 저명한 생물학자 리처드 도킨스는 자신을 포함한 영국 대중의 대다수는 국민투표에서 투표하도록 요구받는 일이 없어야 했다면서, 그들에게는 경제학과 정치학의 필요한 배경 지식이 없기 때문이라고 항변했다. "차라리 아인슈타인이 대수학을 맞게 풀었느지 결정하기 위해 국민투표를 실시하거나, 조종사가 어느 활주로에 착륙해야 할지를 두고 승객에게 투표하게 하는 것이 낫겠다."^83
선거와 국민투표는 우리가 어떻게 생각하는지 묻는 게 아니다. 우리가 어떻게 느끼는지를 묻는 것이다. ^83
민주주의는 개인들의 자유의지의 집합체인 집단의지가 옳을 결정을 하리라는 데에 기초한다. 그런데 우리의 자유의지는 복잡하고 추상적인 것이 아니라 실제로 몇십억개의 뉴런이 만들어낸(자연선택으로 유전되어온) 결과물이다. 찰나의 순간에 흘러간 전기신호를 인과적으로 설명할 수 없기 때문에 자유의지라고 부른다. 만약 이 뉴런들의 반응을 측정-예측할 수 있으며 조종할 수 있다면 자유의지에 기반한 자유민주주의는 우리가 신뢰할 수 있는 체제가 될 수 있을까?
철학하는 자
따라서 우리가 자율주행 차량을 프로그래밍 할 때 곤경에 처한 낯선 사람을 발견하면 멈춰서 돕도록 입력해두면, 어떤 어려움이 닥치더라도 그렇게 실행할 것이다. ... 이 말은 도요타나 테슬라가 자율주행 차량을 설계할 때 도덕철학의 이론적인 문제를 현실적인 공학의 문제로 바꿔놓을 것이라는 이야기다.^104
트롤리 문제(위급한 상황에 누구를 살릴 것인가를 보는 인간의 도덕성에 관한 윤리실험)만 해도 아직까지 철학자들 모두가 만족할 정도로 해결되지는 않았다. ... 테슬라가 차를 생산하기 위해 실제로 그런 얽히고설킨 문제에 대해서도 입장을 취해야 할까? 글쎄, 아마 테슬라는 그 문제를 시장에 맡겨두기만 해도 될 것이다. 바로, 테슬라 박애주의자와 테슬라 에고이스트다. ... 이런 상황을 한 번 상상해보자. 당신은 새 차를 샀다. 하지만 사용하기 전에 설정 메뉴를 열어서 몇 가지 항목에 표시를 해야 한다. 사고가 났을 때 당신은 차가 당신의 생명을 희생시키기를 바라는가, 아니면 다른 차량에 탄 가족을 숨지게 하기를 바라는가?^107
디지털 독재
킬러 로봇을 다루는 디스토피아 영화들이 많다. 그런데, 자신의 감정을 제어하지 못하고 민간인 학살을 하는 순수 인간으로 구성된 부대와 비교하면 어떨까? 반대로 무자비한 독재자의 시위대 탄압 명령에 절대 복종하는 킬러 로봇은 어떠한가?
로봇은 공학자가 혹은 그 공학자의 고용인이 설계한대로 행동한다. 로봇이 경찰, 은행원, 군인이 되는 때가 오면 조종사가 더욱 중요해진다. 타락한 인간은 로봇을 타락한 알에 사용한다.
그런 결과를 피하려면 인공지능 개선에 투자하는 돈과 시간만큼, 인간 의식을 증진하는 데 돈과 시간을 투자하는 것이 현명하다. 불행히도 현재 우리는 인간 의식을 연구하고 개발하기 위해 하는 일은 별로 없다. ... 이런 점에서 인간은 가축화한 다른 동물과 비슷하다. ... 우리는 지금 거대한 데이터 처리 메커니즘 안에서 막대한 양의 데이터를 생산하며, 아주 효율적인 칩으로 기능하는 길들여진 인간을 만들어내고 있다.^121
평등 - 데이터를 가진 자가 미래를 차지한다
대중이 경제적 중요성과 정치적 힘을 잃으면서 국가는 이들의 건강과 교육, 복지에 투자할 동기를 적어도 일부는 잃을 수 있다. 쓸모없어지는 것은 아주 위험하다.^127
부유층이 유전 조작으로 슈퍼 휴먼을 만들 수 있다면, 우리는 최초로 호모 사피엔스 종의 분화를 경험할 수 있다. 소수의 우월 종이 부와 아름다움 그리고 지능과 신체능력을 전부 소유하는 불평등이 찾아올 수 있다. 이런 현상을 규제할 수 있는 힘은 전세계적 협력 뿐이다.
절망과 희망
테러리즘
군사력 싸움에서 상대도 안되는 테러리스트들의 공격에 국가들이 도발을 이겨내지 못하고 강한 힘을 드러내는 이유가 무엇일까?
국가가 그런 도발을 이겨내기 어려운 것은, 근대 국가가 생겨날 때 공공 영역에서는 정치 폭력이 없도록 하겠다는 약속 위에 정당성을 두었기 때문이다. ... 근대 서방 국가는 지난 수 세기에 걸쳐 점진적으로, 국경 내 정치 폭력은 불허하겠다는 명시적 약속 위에 정당성을 확립해왔기 때문이다.^1
겸손
하라리의 책 <사피엔스>가 나왔을 때, 이스라엘 인들은 유대교에 대한 언급이 기독교나 이슬람에 비해 적다는 이유로 비판했다. 이 이야기를 하며 하라리는 겸손에 대해 다음과 같이 이야기한다.
기독교와 이슬람교, 불교 같은 보편 종교와는 달리 유대교는 늘 일개 부족의 신조에 지나지 않았다. ... 유개교가 기독교를 낳았고 이슬람교의 탄생에도 영향을 준 것은 사실이다. ... 십자군이 저지른 대량 학살을 두고 유대교를 탓하는 것이 부당하듯이, 모든 인간은 신 앞에서 동등하다는 중요한 기독교 사상을 유대교의 공으로 돌릴 이유는 없는 것이다.^1
또한 하라리는 유대교의 위대함으로 유일신 사상에 공헌했다는 것을 꼽는 사람들에 대해서도 다음과 같이 반박한다.
윤리적 관점에서 봤을 때 유일신 사상이야말로 인류 역사에서 최악의 사상 중 하나였다는 주장도 있다. ... 유일신교가 한 가지 확실하게 했던 일은, 사람들을 이전보다 훨씬 더 편협하게 만들어 종교적 처형과 성전을 확산시키는 데 기여한 것이다. 다신교를 믿는 사람들은 서로 다른 사람들이 서로 다른 신을 섬기고 다양한 의식과 의례를 수행하는 것을 전적으로 받아들일 만한 일이라고 생각했다. 반면 일신교 신자들은 자신들의 신이야말로 유일한 신이며 이 신은 보편적인 복종을 요구한다고 믿었다.
진실
무지
진화의 관점에서 보면, 남들의 지식을 신뢰한 것이야말로 호모 사피엔스에게 대단히 유리하게 작용했던 것이다.^1
다른 사람의 지식을 마치 내 것처럼 여기는 이 지식의 착각은 사람들로 하여금 자신이 얼마나 무지한지 깨닫지 못하게 한다. 사람들은 지구온난화에 대해 정확히 알지 못하면서 정부의 기후 정책에 대해 비판한다. 사람들은 자기가 속해있는 공동체의 지식을 기반으로 사고하기 때문에 한번 견고해지면 더 이상 벗어나기 어렵다. 하라리는 진실을 원하는 사람에게 이렇게 권한다.
혁명적인 지식은 권력의 중심에서 출현하는 경우가 드물다. 왜냐하면 중심은 언제나 존재하는 지식을 토대로 구축되기 때문이다.^332
회복탄력성
민족주의는 나의 민족은 고유하며 나는 내 민족에 대한 특별한 의무가 있다고 가르치는 데 반해, 파시즘은 내 민족이 가장 우월하며 나는 내 민족에 대한 배타적인 의무가 있다고 말한다.^442
정치인이 신비로운 용어로 이야기하기 시작할 때는 늘 경계해야 한다. ... 특히 다음 네 단어를 조심해야 한다. 희생, 영원, 순수, 구원. ... "그들의 희생이 영원한 우리 민족의 순수함을 구원할 것"이라는 말을 지도자가 상습적으로 해대는 나라에 살고 있다면 각오해야 한다. 정신을 온전히 보존하려면 그런 지도자의 주문은 늘 현실의 용어로 바꿔 이해해야 한다. 즉, "병사는 고뇌 속에서 울고, 여성은 얻어맞고 야만적인 취급을 당하며, 아이는 두려움 속에 떨게 될 것"이라는 뜻으로 말이다.
우주와 삶의 의미, 자신의 정체성에 관한 진실을 알고 싶은가. 가장 좋은 출발점은 먼저 고통을 관찰하고 그것이 무엇인지 탐구하는 것이다. 답은 결코 이야기가 아니다.^466