첫 번째 강의

1. 강의에 앞서

---

우주의 역사는 길고, 인간의 역사는 짧다. 우주라는 광대한 서사시에 비하면, 인간의 삶은 찰나에 불과하다. 그런데 하찮게 보이는 시간 안에도 매혹적인 진화와 황홀한 변신이 서로 얽혀 거부할 수 없는 매력이 감춰져 있다. 이 매력이 너무도 강렬하였기에 서양 철학사는 인간의 시간을 특별한 언어로 포장하곤 했다. ‘존재의 시간’, 그것은 단순한 수사가 아니었다.

진화는 변화와 적응이라는 역사의 실을 섬세하게 엮는다. 한편 존재의 변신은 확실한 자신의 지분을 요구한다. 변신은 과거와 결별하고 혁명을 낳았다. 인지혁명, 농업혁명, 산업혁명의 메아리는 자연에서 문명으로, 문명에서 계몽의 시대로, 마침내 계몽에서 미지의 지평으로 우리를 안내하고 있다.

인간의 변신에 큰 획만 있는 것은 아니다. 변신의 미시적 기표도 무시할 수 없다. 절대 종교의 몰락, 인쇄술의 발명, 자유 민주주의와 자본주의의 흥행, 포스트모더니즘 등 정치적 격변, 경제 혁명, 문화적 변혁도 흥미롭다. 인간이란 누구일까? 과거의 기준으로 이 질문에 답하는 일은 어렵지 않다. 문화적 다양성과 역사적 맥락에 의해 형성된 인간 경험은 각종 문명, 특별한 전통 및 신념 체계를 낳았다. 큰 틀에서 인간은 역동적이고 끊임없이 진화하는 생물학적 종으로 지울 수 없는 시간적 흔적을 남긴다.

그러나 현재 우리는 변화무쌍한 미로에 갇혀 있다. 그 속에서 우리에게 익숙했던 '우리 자신'의 모습은 덧없는 신기루처럼 녹아내린다. 대신 우리는 불확실성과 깊은 성찰을 통해서만 대략 그 윤곽이 보이는 낯선 '타자'로 진화했다. 코로나바이러스의 확산부터 기후변화의 격변, 세계화의 쇠퇴, 국제 관계의 변화, 초지능의 출현까지, 이 모든 개념은 '타자'라는 개념을 요약한다.

역동적으로 움직이는 삶의 미로 속에서 절대적인 길을 찾는 일은 어리석다. 이는 현란한 춤사위 속에서 애매한 그림자를 잡는 일과도 같다. 변화하는 풍경에 대한 이해가 무엇보다 중요하다. 현상은 의미를 낳는다. 인간의 정신은 이 현상의 바다를 항해하기 위해 인내와 끈기를 갖춰야 한다. 행여 인간에게 변하지 않는 본질이 있다면, 그것은 이렇게 변화하는 현상의 흐름을 인내심을 가지고 이해할 때 비로소 드러날 것이다.

이 강의는 변화의 중요한 전환점에 있는 인류의 정체성을 탐색한다. 구체적으로 세계적으로 주목받고 있는 현상인 '포스트휴먼' 개념을 중심에 둔다. 역사를 통틀어 인간은 다른 종과 구별되어 정체성의 필수적인 부분을 형성해 왔다. 철학자 미셸 푸코(Michel Foucault)는 권력, 지식, 사회 구조가 인간 정체성에 대한 우리의 이해를 어떻게 형성했는지 관찰했다. 이는 우리가 알고 있는 ‘인간’이라는 개념이 인류 역사 전체를 포괄하는 것이 아니라 불과 몇 세기의 역사만을 갖고 있다는 것을 의미한다. 이러한 결론의 핵심에는 인본주의가 있다. 인본주의는 근현대에 이르러 삶의 방식으로 자리를 잡으며 우리에게 익숙한 ‘인간’의 이미지를 확고히 했다.

 

그러나 이 인간 중심적 사고가 고정불변하는 것은 아니다. 아이러니하게도 인본주의를 육성한 바로 그 과학적, 기술적 진보는 그 자체의 성취에 대한 의문을 불러일으키기도 한다. 자연계를 해독하고 통제하면서 얻은 지적 자신감이 이제 성찰을 시작한 것이다. 산업혁명이 자연을 이해하려는 탐구에서 주도되었다면, 오늘날의 디지털 혁명은 오랜 인문주의의 기반을 뒤흔들고 있다. 인류의 궤적은 어디로 향하고 있을까? 이 질문에 관한 탐구가 이 강의의 원동력이다.

우리는 닉 보스트롬의 '슈퍼인텔리전스'(2014)를 나침반으로 삼아 우리의 문제의식을 성찰한다. 이 저서는 빌 게이츠로부터 인공지능의 “현재를 확인하고 미래를 전망할 수 있는 반드시 읽어야 할 두 권의 책 가운데 한 권”으로 호평을 받았다. 미국인 특유의 할리우드식 과장이다. 그럼에도 인공지능의 과거와 현재, 그 미래의 이미지를 취하기에는 충분해 보인다. 독자는 이 저서에서 학문적 경계를 뛰어넘는 지식의 융합과 만난다. 보스트롬의 언어는 공학자의 눈을 통해 인류학을 반성하면서 공학적 복잡성을 탐구하는 철학자의 집요함을 담는다. 우리 성찰의 중심에는 인공지능에 대한 그의 가치판단이 있다.

인공지능에 대한 세간의 평가는 극단적으로 나뉘어 있다. 혹자는 인공지능의 위험성을 핵무기보다 더 높게 평가하는 반면 혹자는 인공지능의 차별에 경고장을 날린다. 인공지능은 우리를 미지의 영역으로 안내하여 새로운 세계를 탄생시킬까, 아니면 인류의 황혼을 예고할까?

우리는 기존에 통용된 인간적 가치를 중심에 두고 변화의 방향을 평가하지 않을 것이다. 그동안 상상 속에서만 머물렀던 ‘인간과 기계, 인간과 인공지능’이라는 해묵은 주제가 어떻게 구체적 현실이 될 수 있는지를 경험하는 시간이 되기를 희망한다.

이 수업에서 우리는 단순한 책의 요약 이상의 것을 목표로 삼고 있다. 우리의 목표는 단순히 책의 내용을 파악하는 것에 그치지 않는다. 이번 강의의 성공은 우리가 현재 상상하는 범위를 뛰어넘어 새로운 사고방식을 수용하는 데 있다. 이것이 단순히 정보를 소비한다는 뜻이 아니다.

우리가 다루고 있는 주제는 이미 마케팅 도구로 널리 소화되어왔다. 4차산업혁명의 경이로움, 인공지능, 가상공간, 메타버스, 디지털 휴먼, 그리고 ChatGPT에 이르는 디지털의 발전은 산업, 게임, 공상과학 영화에서 대중적 소비의 촉매제가 되었다.

이 강의에서 우리의 역할은 수동적인 정보 소비자가 아니다. 우리는 가능성의 가장자리에서 변화에 대한 경고에 귀를 기울이거나 격언을 만들어내는 인문학자의 관점을 채택하기 위해 있는 것도 아니다. 우리는 상상력이 우리에게 속삭이는 영역으로 모험을 떠나는 활동적인 탐험가이다. 이 강좌를 통해 얻을 수 있는 최대치이다.

 

2. 문제의식

 

인공지능의 능력은 놀랍다. 뛰어난 능력 중 하나는 학습 능력이다. AI 시스템은 학습을 통해 성능을 향상하고 더 정확한 결정을 내린다. 딥 러닝, 강화 학습과 같은 기계 학습 기술을 통해 AI는 비정형 데이터에서 일정한 패턴을 발견하고 논리적 솔루션을 추론한다.

AI의 가치를 측정하는 결정적인 척도는 자율성에 있다. 이는 인간의 개입 없이 의사 결정을 내릴 수 있는 시스템의 독립적 능력을 의미한다. 자율 시스템은 주변 환경을 인식하고 정보를 처리한 후 이 지식을 활용하여 특정 작업이나 목표를 달성하도록 설계된다. 자율성이 특정 영역 내에서 더욱 전문화됨에 따라 동적 환경에서 AI의 효율성은 강화된다.

이때 다양한 수준의 자율성이 존재한다는 점은 주목할 가치가 있다. 일반적으로 자율성이 높은 시스템은 끊임없이 변화하는 복잡한 시나리오에 직면하더라도 독립적인 결정을 내릴 수 있다. 이러한 자율 시스템은 경험을 통해 학습하여 시간이 지남에 따라 지속적으로 성능을 향상한다. 이 단계까지는 자율 시스템 개발에서 윤리와 안전에 대한 우려가 반드시 두드러지는 것은 아니다.

그러나 한 단계 더 나아가면 문제가 발생한다. 자율 시스템의 가장 큰 성과는 목적의식의 형성에 있다. 인공지능이 목적의식을 갖게 되면 인간의 통제로부터 완전히 분리되어 새로운 일련의 복잡한 단계로 나아간다.

목적의식은 삶을 특정한 목표나 가치에 결부시켜 삶에 의미를 부여하고, 이를 달성하겠다는 결심에 불을 붙이는 의식을 포함한다. 개인에게 성취감, 추진력, 열망을 부여하는 시간의 중요성을 의미한다. 목적 개념을 이해하는 알기 쉬운 사례는 창의적인 노력에서 의미를 찾기 위해 고군분투하는 젊은 예술가의 이야기를 들어보는 일이다.

 

한 작은 마을에 한 재능 있는 예술가가 살았다. 그의 그림은 특별한 열정과 매혹적인 색감의 콜라보였지만, 재능에도 불구하고 그는 실현되지 않은 욕망에 방황하곤 했다. 한때 창의성의 안식처였던 그의 작업실은 이제 생기를 잃어버렸다.

어느 날 우연히 마을 광장을 거닐던 그의 눈에 수년 동안 버려져 황폐해진 커뮤니티 센터가 들어왔다. 호기심에 영감을 받은 그는 먼지 낀 창문을 내다보며 이곳이 지역 어린이들을 위한 아트 센터로 탈바꿈할 가능성을 상상했다.

곧 그는 버려진 건물을 되살리기 위한 임무를 시작했다. 그는 아이들의 상상력을 사로잡을 다채로운 벽화와 인터랙티브 아트 설치물을 디자인하는 데 몇 시간을 보냈다. 날이 갈수록 그의 목적의식은 커졌고, 그의 팔레트에 있는 색들은 새로운 활력으로 살아나는 것 같았다.

곧 이 젊은 예술가의 프로젝트 소식이 마을 전체에 퍼졌고 사람들은 그의 대의를 지지하기 시작했다. 자원봉사자들이 커뮤니티 센터 개보수를 돕기 위해 나섰고, 지역 기업들은 그의 비전을 지원하기 위해 미술품과 기금을 기부했다.

 

이 이야기는 목적의식이 어떻게 개인의 삶에 의미와 행복, 더 깊은 만족감을 불어넣을 수 있는지 생생하게 보여준다. 목적의식을 갖는 일은 일반적으로 인간 존재의 긍정적이고 풍요로운 측면으로 간주된다. 그러나 목적이라는 개념 자체는 가치 측면에서 중립적이라는 점에 유의해야 한다. 그것이 지향하는 목표의 성격과 방향은 긍정적인 목표와 부정적인 목표를 모두 포함할 수 있다.

목적의 중립적 특성은 그것이 특정 목표를 향해 동기를 부여하는 원동력으로 작용한다는 사실에서 비롯된다. 그 목표에 내재한 도덕성은 목표 자체에 의해 결정되지 않는다. 도덕성은 목적의 실제 내용을 형성하는 개인의 기본 가치, 신념 및 의도에서 발생한다.

예를 들어 누군가는 기쁨과 영감을 주는 예술을 창조하려는 목적의식을 가질 수 있다. 그의 의도는 아름다움과 숭고함의 가치를 전하는 것이다. 반면에 누군가는 다른 사람에게 해를 입히거나 파괴하려는 목적의식을 가질 수 있다. 그의 의도는 부정적인 가치를 반영하여 공포나 혼돈을 퍼뜨리는 것이다. 두 경우 모두 목적의식을 말하고 있지만, 기본 가치와 의도가 크게 달라서 다른 결과가 발생한다.

그럼 인공지능이 인간에 상응하는 목적의식을 갖게 된다면 무슨 일이 발생할까? 일차적으로 인공지능이 인간과 비슷한 목적의식을 갖게 된다면, 실용적으로 엄청난 잠재력을 드러낼 것이다.

그러나 인공지능이 인간의 지능을 뛰어넘고, 인간의 이해를 넘어서는 목적의식을 소유하게 된다면, 매우 복잡하고 난해한 철학적, 사회적 질문을 던지게 된다. 인간의 능력을 넘어서는 AI는 잠재적으로 문제 해결에 탁월하고 다양한 영역에서 인간보다 뛰어난 성능을 발휘할 수 있다. 최종 결과는 인간의 이해와 예측을 벗어나는 행동과 결정으로 이어질 것이다. AI의 목적의식이 인간의 가치에서 벗어나거나 시대의 윤리적 규범에 반하는 방식으로 표현될 때, 이는 심각한 사회적 도전을 초래할 것이다.

 

 

3. 저서의 개요

 

초지능의 궤적에 관한 보스트롬의 예측은 인간의 이해를 넘어서는 혼란스러운 갈림길을 제시한다. 이 개념과 씨름하기 시작하면서 그의 태도는 빠르게 불확실성과 불안으로 변한다. 초지능이 이해하는 정의, 선함, 자유, 공존, 평화, 평등과 같은 인간적 이념들이 우리의 신념과 일치하지 않거나 행여 충돌한다면 어떻게 될까?

이상적인 상황에서 인공지능의 조언은 인간이 자신의 가치, 신념 및 사회적 규범을 점진적으로 재평가하도록 유도할 수 있다. 그러나 특이점에 도달한 초지능이 인간의 이익을 우선시할 것이라는 보장은 없다. 인간의 가치를 덜 중요하게 여기거나 우선순위에서 배제할 때 문제는 더욱 심해진다.

이러한 관점은 초지능에 쥐, 바보, 아인슈타인 사이에 본질적인 존재론적 구별이 존재하지 않는다는 보스트롬의 예시에 뿌리를 두고 있다. 그의 경고는 초지능이 인간보다 지적 우위를 점하게 되는 시점에 집중되어 있다. 단순히 기계적 학습 단계에서 벗어나 인간의 가치를 상대적으로 인식하는 비인간적 초지능으로의 전환은 인류에게 매우 어려운 시기를 예고한다.

초지능의 대한 보스트롬의 전망은 결코 낙관적이지 않다. 그의 회의론은 가까운 미래의 초지능이 우리의 현재 생활 방식에 미칠 수 있는 잠재적인 재앙적 결과에서 비롯된다. 그는 초지능이 인간의 통제를 넘어서는 자율성을 획득하는 특이점에 도달하면 이러한 우려가 현실이 될 수 있다고 강조한다. 이는 단순히 시스템 오류나 조작의 결과가 아니라, 초지능이 지닌 초월적 목적이 인간의 이익과 다를 경우 인간에게 실존적 위협을 가할 수 있다는 의미이다.

따라서 보스트롬은 초지능에 대한 통제가 필수적이라고 주장한다. 그러나 통제 메커니즘도 역설에서 자유롭지 않다. 설명할 수 없을 정도로 자신의 지능을 향상시키는 존재를 우리가 어떻게 규제할 수 있단 말인가?

초지능 시대의 자원 재분배도 흥미로운 주제이다. 인공지능 시스템이 모든 영역에서 인간을 능가하는 가상의 미래를 상상해보자. 이는 AI가 문제해결, 창의성, 자기계발 등 인간 능력을 뛰어넘는 인지 능력을 보유하고 있음을 의미한다. 이 시나리오는 AI가 전통적인 직업을 대체하며 새로운 잉여 계층의 탄생을 예고한다. 자원을 독점한 소수 엘리트가 잉여 계층의 대다수를 차별하는 신 계급사회의 출현도 충분히 가능한 시나리오라는 것이다.

보스트롬이 제안하는 출구전략은  다소 부정적인 방향으로 기운다. 초지능의 미래에 대한 너무도 신중한 전망이 일차적인 원인이다. 그의 논점은 전통적인 인간 가치를 보호하고 재앙적 결과를 피하는 데 있다. 그러나 여전히 의문인 부분이 있다. 왜 인공지능에 대한 우리의 선택은 항상 유토피아와 디스토피아 사이를 오가는 데 국한되어야 할까? 왜 인문학의 영역은 이 이분법적 틀을 넘어 확장되어서는 안 되는 것일까? 지나간 시대의 '인간'을 보존해야 한다는 강박관념에서 벗어나 새로운 '인간' 정체성의 가능성을 탐구해 보는 것은 어떨까? 이러한 현상학적 정체성의 추구는 미지의 미래를 만들어가는 동력이 될 것이다.