여덟 번째 강의: 다극성 시나리오

들어가기

이번 주 우리의 주제는 11장 다극성 시나리오이다. 제목만 보면, 도대체 무슨 내용인지 감이 안 온다. 지금까지 다룬 내용만 보면, 보스트롬은 오직 하나의 시나리오에만 매달려 왔기 때문이다. 단적으로 초지능의 위험성, 그에 대한 경고가 그것이다.

 

오직 하나의 논조로 수백 페이지를 엮는 것이 조금은 지루했을까? 보스트롬은 이번 장에서 주위를 환기시킨다. 영화로 따지면, 일종의 장면전환이다. 그렇다고 해서 기존 논조를 뒤집어엎는 반전을 기대하면 안 된다. 다만 다른 시나리오를 소개하면서 스토리의 다채로움을 더한다.

 

이 장을 관통하는 키워드는 잉여이다. 잉여라는 용어, 어떤 느낌이 오는가? ‘쓰고 남은 것’ 혹은 ‘쓸모없는 것’, ‘필요하지 않은 것’이라는 부정어가 떠오르는가? 잉여 인간은 어떨까? 백과사전을 찾아보니, 사회에서 어떤 역할도 맡지 못하고 누구도 필요로 하지 않는 인간, 혹은 주변의 아무에게도 도움이 안 되는 인간, 이러한 정의가 등장한다.

현대판 신조어로 알고 있는 사람이 많지만, 잉여 인간은 생각보다 꽤 오래전에 등장한 인문학적 용어이다. 오늘날 단어를 들으면서 떠오르는 부정적 느낌을 대중에게 유행시킨 사람은 러시아 작가들이다. 전쟁만 아니면, 참 멋진 나라인데 매우 아쉽다. 잉여 인간은 1800년도 중후반 투르게네프, 푸쉬킨 등, 여러 작가들이 작품에 주로 활용했던 캐릭터였다. 부유하지만 어떤 의미 있는 일에도 참여하지 않고 그저 세월아 네월아 허송세월하는 귀족의 모습을 잉여 인간으로 그렸다. 조선 시대에 양반가에 태어나 거들먹거리며 살았던 한량도 잉여 인간의 전형이다.

동서양을 막론하고 이리저리 귀족사회의 계급적 부산물로 보인다. 하지만 오늘날 우리가 사용하는 잉여 인간은 조금 다르다. 생산적 활동에 종사하지도, 혹은 그럴 의지도 없이 기생하는 사람들, 룸펜, 노숙자가 여기에 해당한다. 하여튼 이 잉여 인간아, 이런 소리를 듣고 좋다고 할 사람은 아마도 거의 없을 것이다.

그런데 21세기 AI 시대가 본격적으로 등장하며 용어가 새삼 주목받기 시작했다. 경제적, 정치적, 예술적으로 가치를 증명하지 못하고, 사회적 생산성에 어떤 기여도 하지 못하는 계급의 탄생을 목전에 둔 탓이다. 특히 <사피엔스>, 단 한 권의 저서로 일약 세계적으로 유명해진 유발 하라리는 "초지능 AI 등장으로 수십억 명의 잉여 인간이 탄생할 것이라고 예견한 바 있다.

보스트롬이 사용하는 잉여 인간도 결이 같다. ‘쓸모없는 인간’이라는 공통분모를 갖는다. 이번 주 토의 주제이다. AI 로봇이 소위 노동을 대체할 경우, 인간의 삶은 어떤 모습일까? 잉여 인간이 될까? 그럼 이때 잉여 인간의 모습으로 어떨까? 단순히 부정적인 의미만을 담아야 할까? 일차적으로 AI 로봇이 인간의 노동을 대체하는 시대가 임박한 것일까?

 

AI 로봇의 발달은 인간의 삶을 확실히 변화시킬 것이다. 즉 잉여 인간, 잉여 계급의 출현은 필연적으로 보인다. 보스트롬은 이 주제를 다극성 시나리오라는 제목으로 다루고 있다. 보스트롬에게도 잉여는 그저 부정적 의미만을 내포하고 있다. 그런데 우리는 다양한 관점에서 이 주제를 다뤄볼 까 한다. 유발 하라리가 걸었던 길, 보스트롬이 걷고 있는 길, 그 길만이 잉여 계급의 길은 아니다. 출발해 보자.

---

말의 운명

총자산 분배율이라는 용어가 있다. 세계 총소득에서 유산 계급과 무산 계급이 서로 나눠 갖는 비율을 말한다. 보스트롬은 오랜 기간 총자산 분배율이 일정하게 유지되었다고 전제한다. 세계 총소득의 30%가 이른바 자산 소유자가 가져가는 몫이고, 70%가 이른바 노동자가 임금으로 받는 소득이라는 것이다.

대체로 지금도 이 비율은 유지되고 있을 것이다. 하지만 앞으로도 계속 동일한 비율로 유지되지는 않을 것이다. 변화는 기계 지능이 대부분의 인간 노동을 대체하는 시점에서 발생한다. 상품을 생산하는데 들어가는 한계비용이 지속적으로 줄어들 전망이기 때문이다. 무슨 의미일까? 제레미 리프킨의 저서 『한계비용 제로사회』에 등장하는 중요한 경제 개념이다. 배우는 시간이 될 것이다.

 

전체적으로 보면, 세계 GDP는 초지능의 등장과 함께 급증할 것이다. IOT(사물 인터넷), 무료 에너지, 생산 도구의 자동화, 생산성의 극대화는 어느 정도 예측할 수 있다. 자산에 따른 총소득도 엄청나게 늘어날 것이다. 하지만 소득 분배율은 크게 달라질 수도 있다. 노동인구의 소득은 거의 제로에 가까워질 것이고, AI, 로봇 등 생산 수단을 소유한 계층은 소득의 대부분을 독점할 가능성이 있다. 즉 빈부격차가 지금보다 심화될 수 있다는 의미이다. 지금도 그런 조짐이 보인다. 새로운 계급에 앞서 전대미문의 빈부격차가 발생할 것이다.

사회적 생산성에 이바지하지 못하는 사람들은 무엇으로 살아갈까? 일자리가 없어서 그냥 굶어 죽어야 할까? 일명 잉여 인간이라고 불릴 이 계층이 존재적 의미, 즉 삶의 가치를 상실할 것 같지는 않다. 생산과 그에 따른 소득이 지속적으로 유지되기 위해 소비 인구가 절대적으로 필요하기 때문이다. 노예가 없는 주인이 존재할 수 없듯, 새로운 유산 계층은 무산 계층에 기본 소득을 부여하여 삶의 자리를 지키게 할 것이다.

 

이러한 논리라면, 결국 인간은 산업혁명 이후 말의 운명을 답습하게 될 전망이다. 산업 사회 이전까지 말은 어마어마한 가격으로 거래되었다. 전쟁, 각종 운송수단, 취미, 경주, 인간 삶의 구석구석에서 말의 흔적은 빛을 발했다. 사실 존엄성이 모든 인간에게 자연적으로 귀속된 절대성, 즉 가격을 뛰어넘는 존재가 되기 전까지, 말은 웬만한 사람보다 더 비싼 동물이었다.

 

Unsplash 라이선스

---

물론 지금도 비싸기는 하다. 하지만 사회적 가치는 사실상 제로에 수렴하고 있다. 증기 기관차, 자동차, 트럭, 기계적 운송수단이 발명되면서, 말은 사치품으로 전락하게 된 것이다. 그저 잉여의 동물이 된 것이다. AI, 초지능의 시대에 인간도 말과 유사한 운명을 맞이하게 될까? 아니 인간 대부분은 사치품에도 속하지 않는 쓸모없는 잉여의 존재로 전락하게 될까?

대략 초지능의 등장은 두 가지 시나리오를 가능케 한다. 두 시나리오 모두 우리에게 익숙하다.

 

첫째, 주인과 노예의 관계이다. 로봇에게는 3대 원칙이니, 5대 원칙이니 발목을 묶어두고 온갖 잡일을 시키면서, 인간은 예술, 문학, 정치, 철학 문화적이고 고상한 삶을 영위하는 시나리오이다. 이보다 더 아름다운 결말은 없다. 그 놈의 돈돈 타령도 할 필요가 없고, 잉여 생산물을 둘러싸고 각종 비인간적인 사건, 사고도 벌일 필요가 없다. 그로 인한 갈등과 전쟁도 사라질지도 모른다. 이런 낙원이 어디 있겠는가? 그런데 모든 일이 생각대로 진행되지는 않을 것이다.

 

둘째, 파국이다. 보스트롬은 첫 번째 시나리오와 정반대도 발생할 수 있다고 경고한다. 지금까지 논의해 왔듯, 초지능이 인간을 노동현장에서 완전히 몰아내거나, 아예 존재의 흔적을 지워버릴 수도 있다는 것이다. 어떻게 이런 생각에 이르게 된 것일까? 도대체 왜 초지능이 인간에게 적대적인 스탠스를 취할 것이라고 단언하는 것일까?

 

보스트롬의 생각은 보수적이다. 아니 인간중심적이라는 표현이 맞을 것이다. 역사에서 보인 인간의 행적에 너무도 충실한 생각을 하고 있는 것이다. 지금까지의 연구에 따르면, 현생 인류의 직계 조상격인 사피엔스가 진화의 정점은 아닌 것으로 보인다. 사피엔스가 활동하던 시기, 비슷한 지적 역량을 지닌 여러 종이 함께 공존했다고 한다. 하지만 최종적으로 사피엔스만이 자신의 유전자를 남길 수 있었다. 다른 종은 어디로 사라진 것일까?

 

교수자의 학창시절 교과서에는 오스트랄로 피테쿠스, 호모 에렉투스, 네안데르탈인, 데니소바인, 호모 사피엔스, 이렇게 차례로 인류가 진화한 것으로 나와 있다. 지금은 아무도 이러한 단선적 진화를 믿지 않는다. 대부분 비슷한 유인원들이 사피엔스와 동시대를 공존했다는 것이다.

그러다가 어느 순간 사피엔스만을 남기고 모두 멸종의 길을 걷게 된다. 공룡도 멸종했으니, 멸종 그 자체가 문제는 아니다. 사피엔스와 비슷한 유인원들의 멸종 이유가 쇼킹한 것이다. 자연 멸종이 아니었다. 그들은 누군가에 의해 대량 학살을 당했고, 결국 멸종의 길을 걷게 되는데 그 주체가 하필이면 우리의 조상인 사피엔스였던 것이다. 사실인지 아닌지는 모르겠지만, 현대 사피엔스 후손의 행실을 보면, 충분한 개연성이 있다.

 

그렇다. 인간은 자신과 동등하거나, 위협이 되는 종의 존재를 용인할 수 없었다. 생태계의 어느 종보다 뛰어난 인지능력을 자랑했지만, 관용에 있어서만큼은 밴댕이 속이었다. 다른 종에게만 그런 것이 아니다. 경쟁 종이 사라지면서, 내부적으로 사피엔스는 PAX의 시대를 열었다. 팍스 로마나, 팍스 유로파, 팍스 차이나, 팍스 아메리카나, 수십만 년에 해당하는 인간의 역사는 패권의 역사였다. 물론 지금까지 그러하다. 지금은 팍스 아메리카나의 시대이다. 유럽과 일본은 알아서 기었고, 중국과 러시아가 대드는 바람에 글로벌 시대가 종말을 맞았다.

이러한 경험치로 단련된 인간의 눈에 초지능의 등장은 당연히 위협적일 수밖에 없다. 초지능이 다음 패권의 주인일 될 것이라는 생각은 매우 자연스러운 수순이다.

---

잉여존재의 의미

사실 어떤 시나리오가 현실이 되든, 그렇게 아름다운 것은 아니다. 지금까지 그래왔듯 주인행세를 하는 일은 그리 어렵지는 않다. 하지만 네안데르탈인, 데니소바인을 멸종시킨 폭력성이 이 관계에서도 재연될 가능성이 크다. 초지능이 인간에게 저항하는 일이 생긴다면, 그 원인 제공자는 인간이지 않을까?

 

두 번째 시나리오는 굳이 설명할 필요가 없다. 멸종의 운명을 맞이하는 과정을 장황하게 설명하는 일은 그리 유쾌하지는 않을 것이다. 어떤 시나리오가 등장할지는 알 수 없다. 위의 경우가 아닌 제3, 제4의 시나리오도 가능하다.

 

어떤 시나리오가 되었든, AI의 시대가 인간의 삶의 무게를 어느 정도 덜어줄 것은 틀림없어 보인다. 특히 노동의 무게만큼은 그러하다. 잉여 존재의 탄생은 거의 필연적 현상이 될 수 있다는 의미이다.

 

기분이 안 좋은가? 그럴 필요는 없다. 잉여 존재의 역사를 보면, 생각이 완전히 달라질 것이다. 잉여 존재의 역사는 비교적 간단하다. 고대 노예제 사회에서는 노예가 잉여의 존재였다. 봉건제 사회에는 농도들이, 자본주의 사회에는 가난한 프롤레타리아가, 그리고 이제 AI 사회에서 아직 이름 붙여지지 않은 잉여 존재가 그 자리를 대체할 것이다.

잉여라는 단어의 의미, 조금 다르게 보이지 않는가? 좀 더 자세히 살펴보자. 상식적으로, 잉여는 썩 좋은 인상을 풍기지 않는다. 노예나 농노, 가난한 노동자가 아름다운 페스소나는 아닌 것이다. 그러나 우리는 그 존재론적 가치를 다른 관점에서 볼 필요가 있다. 잉여의 의미를 찾아서 지금부터 상상의 나래를 펴보자.

 

수렵 채집 활동으로 생활했던 초창기 인류에게 잉여는 아주 낯선 것이었다. 자연이 주면 배를 채우는 것이고, 자연이 화를 내면, 굶어 죽어야 했다. 그래서 자연은 공포이자 동시에 숭배의 대상이었다. 자연적인 모든 것에는 신성(神性)이 있다는 애니미즘은 자연스러운 정신 현상이다.

농경사회에 접어들어서도 자연은 여전히 위풍당당했다. 농사라는 것이 전반적으로 자연에 의존하는 생활방식이기 때문이다. 하지만 예전만큼은 아니다. 처음으로 인간은 생산할 수 없는 시간을 위해 먹을 것을 비축하기 시작했다. 먹을 것이 충분치 않을 때조차도 일부를 남겨 굶어 죽는 운명을 피하려고 한 것이다. 자율적 인간이 원래 그렇다. 자신의 운명을 자신의 의지로 개척하는 존재, 그 존재를 우리는 자율적 존재라고 부른다.

 

이때부터 잉여라는 관념이 인간에게 생겼을 것이다. 당장 소비하지 않고 남겨두는 무엇이 필요했기 때문이다. 잉여는 남겨진 것이다. 그리고 이 남겨진 것이 인간의 탐욕을 일깨웠다. 힘이 강한 자는 누군가의 잉여를 착취하여 지배 계급이 될 수 있었기 때문이다. 개인은 부족으로, 부족은 지역으로, 지역은 국가로 그 착취의 범위를 확장한다. 계급사회는 잉여의 시대가 낳은 대표적인 부산물이다.

그렇다고 잉여가 마냥 인간의 부정적 성질만을 의미하지는 않는다. 오히려 반대이다. 잉여는 인륜성의 원천이기도 하다. 우리가 알고 있는 인류의 빛나는 문화유산들을 생각해 보자. 잉여가 없었다면, 과연 가능했을까? 타지마할, 인도를 상징하는 아름다운 성이다. 그것이 잉여의 산물이면, 과도한 해석일까? 백과사전을 찾아니, 타지마할을 보지 않고 인도를 떠난 사람은 반드시 되돌아오게 된다는 전설이 있다. 이 아름다운 건축물이 왜, 어떻게 이 세상에 모습을 드러낸 것인지 살펴보면, 교수자의 해석이 결코 과도하지 않다, 여러분이 알고 있는 그대로이다. 죽은 왕비를 잊지 못한 왕의 슬픔이 국고를 탈탈 털어서 성을 짓도록 이끈 것이다. 믿거나 말거나이지만, 왕은 타지마할이 완성된 직후 이보다 더 아름다운 건축물이 세상에 나오는 것을 막기 위해 공사에 참여했던 모든 사람들의 손목을 잘랐다고 한다.

그 외에도 이집트의 피라미드, 진시황의 병마용갱, 경주의 석굴암, 세계의 거의 모든 관광상품이 삶에 필수적인 것이 아니었다. 사실상 잉여였던 것이다. 잉여의 창의력이 빚어낸 여백이었던 셈이다.

---

인류 문명의 원동력

본격적으로 잉여가 인류 문명의 원동력으로 알려진 것은 산업혁명이 이후이다. 산업혁명은 자본과 과학기술이 결합하면서 엄청난 생산력의 증가를 가져왔다. 그리고 잉여 생산물의 축적은 본격적으로 자산가 계급의 출현을 알렸다. 자본주의 사회가 본격화 된 것이다.

 

자본주의 사회, 어떤 사회인가? 우리가 알고 있는 자본주의는 머니머니해도 머니가 최고인 시대인가? 머니는 잉여와 안면을 튼 이후 단 한 번도 인간의 삶에서 그 권좌를 뺏기지 않았다. 자본주의의 전유물이 아닌 것이다. 그럼 우리는 무슨 근거로 자본주의라고 부르는 것일까?

 

자본주의 시대를 문을 열고 길을 닦았던 동력은 바로 신용이었다. 경제학을 전공한 학생들은 익숙한 문법이 되겠다. 자본주의 시대는 이전에는 상상조차 할 수 없는 유동성의 잉여를 만들어 낸 것이다. 간단한 예를 들어보자.

누군가가 은행에 100원을 맡긴다. 은행은 10%에 해당하는 지급 준비율을 제외한 나머지 90원을 필요한 누군가에게 빌려준다. 일명 대출이다. 영끌이 아니다. 그리고 이자로 10원을 받는다. 그럼 이 상태에서 시중에는 190원이 돌아다니게 된다. 원래 100원이 한방에 두 배로 뻥튀기 된 것이다.

은행은 지급 준비율이 충족되는 선에서 이 과정을 반복할 수 있다. 그래서 유동성은 기하급수적으로 늘어나게 된다. 이러한 과정을 우리는 흔히 신용 창조라고 쓰고, 거품 팽창이라고 읽는다. 인플레이션이 발생하는 조건이 갖춰진다. 지금 세계 경제를 뒤흔들고 있는 인플레이션은 어느 한 국가의 잘못으로 비롯된 것이 아니다. 예금과 대출이 무한 반복되면서, 그렇지 않아도 인플레이션을 피할 수 없는데 코로나로 인한 유동성 공급이 불에 기름을 부은 겪이다.

그럼에도 현대 사회를 이 부작용을 기꺼이 감수한다. 왜냐? 오늘날 우리가 누리고 있는 물질적 풍요로움 바로 잉여의 창출에 빚지고 있기 때문이다. 자본주의 사회에서 잉여는 무에서 유를 창조하는 신박한 기술이다.

---

새로운 잉여의 시대

이제 AI의 등장과 함께 생각할 여지가 많아졌다. 잉여라는 현상도 그 가운데 하나이다. 쓸모 없는 것, 비축해 놓은 것, 탐욕을 일으키는 것, 성장의 원동력까지는 대략 이해할 수 있는 현상이다. 문제는 앞으로이다.

인간의 생산능력은 단순 노동력과 인지능력, 그리고 서비스 능력 등으로 크게 나눠볼 수 있다. 산업혁명 이후 단순 노동력은 꾸준히 기계로 대체되어 지금은 기계의 도움이 받지 않는 순수 육체노동은 거의 사라졌다.

반면 인지능력을 요하는 직종은 복잡하게 분화되었다. 소위 정치, 경제, 법제도, 사회, 문화, 교육, 어느 분야가 되었건 경쟁하듯 전문가 집단을 양성해 내었다. IT 기술이 발달하면서도 관련 분야 직종이 꾸준히 늘었다. 단순 사무직은 이제 기획, 디자인, 마케팅, 프론트엔드, 백엔드 등 가장 최신 직종으로 분화되었다. 그래서 인지능력 분야는 여전히 인간의 능력의 고유한 몫으로 보인다. 종합적 판단능력이나, 창의성이라는 명분을 달고 있기도 하다.

그런데 그거 아는가? 전문직일수록 패턴을 기억하고, 분석하며 인식하는 능력으로 구성되어 있다. 무슨 뜻일까? 초지능은 둘째 치더라도 범용 AI가 더 뛰어난 역량을 발휘할 수 있다는 의미이다. AI는 이미 의료, 법률, 회계, 금융, 언론 등 소위 전문 직종을 위협하고 있다. IBM에서 개발한 의료 인공지능 ‘왓슨’은 의사보다 뛰어난 분석능력을 보인다. 왓슨의 발전을 막는 주적은 병원과 의사이다. 관련 데이터를 제공하지 않는 악수를 두면서까지 말이다. 왜 그럴까? 그 이유는 쉽게 알 수 있다.

세상에서 가장 비싼 수술은 로봇 수술이다. 정교하면서도 한 치의 실수도 허용하지 않기 때문이다. 수 십 명의 변호사가 수개월에 걸쳐서 해야 할 일을 법률관련 AI는 한 시간도 안 되어 처리할 수 있다. 쉽지 않은 세상이 도래할 것 같다. 미국의 월가에서는 AI의 조언에 따라 투자 결정을 하며, AI가 쓴 언론기사가 튜링 테스트를 통과하고 있다. 인간의 창의력이 강조되는 예술 역시 안전지대가 아니다. 인공지능이 작곡을 하고, 그림도 그린다. 이젠 무엇이든 AI로 대체해야 한다는 말이 유행어처럼 던져지고 있다. 인간은 자의든 타의든 오류를 범하는 데 반해, AI는 최소한 정해진 룰에 따라 움직이기 때문이다. 그러니, 스포츠 심판도, 판사도, 변호사도, 기레기도, 심지어 정치인도 인공지능으로 대체해야 한다는 말이 나오는 것이다.

 

『사피엔스』의 저자 유발 하라리의 최근 발언은 일리가 있다. AI 시대는 잉여인간의 시대를 낳는다는 것이다. 사회적 가치를 상실하여 사회적 생산성에 아무런 기여도 하지 못하는 사람을 말한다. 보스트롬의 두려움도 이해가 된다. 이 ‘쓸모없는 계급’, 즉 ‘잉여 인간’은 그저 일자리를 구하지 못한 사람들이 아니라, 일자리를 구할 수 없는 사람들일 것이다. 노예, 농도, 프롤레타리아, 그리고 AI에 의해 대체된 나머지 인간은 잉여 존재의 계통을 잇는 역사적 인간일 것이다.

 

하지만 이 잉여 존재를 단순히 ‘쓸모없음’, ‘무가치함’의 존재로 해석해도 되는 것일까? 유발 하라리, 보스트롬이 놓치고 있는 부분이 바로 이것이다. 인문학적 상상력이 필요한 부분이기도 하다.