728x90 반응형 명저읽기13 열한번 째 강의: 전략적 그림 들어가기 이 장에서 보스트롬은 초지능 에이전트의 개발과 그 활용에 대한 정책기술 및 전략적 방향을 다룬다. 결론의 전 단계이지만, 사실상 결론 부분에 해당한다. 대단히 유의미한 결론을 기대하면 실망하게 된다. 읽지 않아도 충분히 예측 가능한 논평이기 때문이다. 단적으로 정리해 보자. 초지능의 등장은 현 인류가 감당할 수 없는 존재적 위협을 초래할 수 있기에, 지금 충분한 시간적 여유를 가지고 대비해야 한다는 것이다. 이게 무슨 말인가? 이것은 해결방안이 아니라, 일종의 공지이다. ‘내일 태풍이 올지도 모르니, 모두 조심하세요’라는 기상청 공지의 문법이다. 일기예보라면 모를까, AI 특별 전문가의 문법으로는 유명세에 미치지 못한다. 일단 보스트롬의 논의를 요약해 본다. 보스트롬은 초지능의 개발이 가져올 가.. 2023. 11. 21. 열 번째 강의: 선택의 기준 선택하기 들어가기 초지능이 인류에게 존재적 위협이 된다는 전망은 보스트롬의 일차적 진단이다. 따라서 초지능의 통제 문제에 보스트롬이 집착한 이유를 충분히 이해할 수 있다. 통제가 사실상 쉽지 않다는 진단도 익숙하다. 그런데 이상한 일이다. 인류는 왜 이 치명적 존재를 더 빨리 개발하지 못해 안달일까? 인류 멸종의 가능성까지 언급되는 마당에 굳이 인공지능 개발에 매진하는 이유는 무엇일까? 우리는 지금까지 이 문제를 한 번도 거론하지 않았다. 보스트롬조차 이 질문에 대해서는 별 관심이 없는 듯하다. 왜 그럴까? 누가 아무리 발목을 잡아봤자, 실익이 없기 때문이다. 결국 인공지능 개발자들은 제 갈 길을 갈 것이고, 초지능도 언젠가는 등장할 것이다. 인공지능 개발은 개발자에게 일방통행일 뿐이다. 그렇다. 역사적으로 보면.. 2023. 11. 10. 아홉 번째 강의: 가치 획득 들어가기 이제 우리 수업도 반환점을 돌고 있다. 시간상으로는 아직 3분의 1 정도가 남아있지만, 내용상으로 그렇다는 의미이다. 거의 정리 단계이다. 특히 마지막 14주 차는 그간 하지 못했던 질의응답 시간으로 채울 것이다. 기말고사 주제에 대한 개별 질문도 가능하다. 미리 주제도 생각해 보고, 하고 싶은 질문도 만들어 보기 바란다. 비록 5페이지 안팎 에세이라고 하나, 농축된 언어로 구성하려면, 충분히 시간을 할애해야 할 것이다. 이번 주차 주제는 초지능의 생각과 행위를 제어할 가치에 관한 것이다. 뭔가 익숙하다. 이미 우리는 7주 차에 가치문제를 다루었기 때문이다. 이번 주차는 초지능의 통제 문제와 함께 묶어서 종합적으로 생각해야 한다. 우리는 어떻게 인간의 지능을 넘어서는 초지능의 행동을 통제할 수 .. 2023. 11. 1. 여덟 번째 강의: 다극성 시나리오 들어가기 이번 주 우리의 주제는 11장 다극성 시나리오이다. 제목만 보면, 도대체 무슨 내용인지 감이 안 온다. 지금까지 다룬 내용만 보면, 보스트롬은 오직 하나의 시나리오에만 매달려 왔기 때문이다. 단적으로 초지능의 위험성, 그에 대한 경고가 그것이다. 오직 하나의 논조로 수백 페이지를 엮는 것이 조금은 지루했을까? 보스트롬은 이번 장에서 주위를 환기시킨다. 영화로 따지면, 일종의 장면전환이다. 그렇다고 해서 기존 논조를 뒤집어엎는 반전을 기대하면 안 된다. 다만 다른 시나리오를 소개하면서 스토리의 다채로움을 더한다. 이 장을 관통하는 키워드는 잉여이다. 잉여라는 용어, 어떤 느낌이 오는가? ‘쓰고 남은 것’ 혹은 ‘쓸모없는 것’, ‘필요하지 않은 것’이라는 부정어가 떠오르는가? 잉여 인간은 어떨까? .. 2023. 10. 24. 일곱 번째 강의: 9장 통제 문제 들어가기 이번 주차 살펴볼 주제는 초지능 에이전트에 대한 통제이다. 초지능이 인간에게 존재적 위험이 될 수 있다면, 인간에 의한 AI의 통제는 공존을 위해 필연적 절차일 것이다. 문제는 어떻게 이다. 우리는 어떻게 AI를 통제할 수 있을까? 통제가 가능한 일이기는 할까? 지난 시간 주제 발표에서 소개되었던 영화 를 떠올려보자. 기억해 내야 한다. 보스트롬이 바라보고 있는 초지능의 대략적인 실사판이다. 영화의 핵심 키워드는 튜링 테스트와 속이기였다. 튜링 테스트란 인간과 동등하거나 구별할 수 없을 정도로 지능적 행동을 보여주는 인공지능 능력에 대한 테스트다. 우리가 알고 있는 과거의 것과 차이가 있다면, 오늘날의 튜링 테스트는 대상 관계가 다르다. 과거에는 AI가 튜링 테스트의 검증 대상이었다면, 지금은 .. 2023. 10. 7. 기생적 생각: 감염성 아이디어가 어떻게 상식을 파괴하는가 갓 사드(Gad Saad)의 "기생적 생각: 감염성 아이디어가 어떻게 상식을 파괴하는가"는 아이디어가 현대 사회에 미치는 영향에 관한 분석입니다. 진화심리학자 갓 사드(Gad Saad)는 기생 사상, 즉 인간의 마음속에 퍼지고 번성하며 이성과 상식을 손상하는 사상의 개념을 탐구합니다. 개요 갓 사드(Gad Saad)는 생물학적 병원체가 인체에 감염되어 해를 끼칠 수 있는 것처럼 기생적인 사상도 인간의 정신에 감염되어 해를 끼칠 수 있다고 주장합니다. 그는 정치적 올바름과 취소 문화부터 급진적 페미니즘과 정체성 정치에 이르기까지 다양한 현대 문제를 조사합니다. 진화심리학의 관점을 통해 Saad는 이러한 아이디어가 어떻게 견인력을 얻었는지, 무엇이 사람들이 이를 채택하고 방어하도록 동기를 부여하는지 탐구합니.. 2023. 9. 24. 새로운 디지털 시대: 사람, 국가, 비즈니스의 미래 재편 『새로운 디지털 시대: 사람, 국가, 비즈니스의 미래 재편』은 구글의 전 CEO인 에릭 슈미트와 전 국무부 관료이자 구글 아이디어 이사인 제러드 코헨이 공동 집필한 책입니다. 2013년에 출판된 이 책은 디지털 혁명이 사회, 정치, 개인에 미치는 심오한 영향을 분석하는 동시에 기술의 미래와 그 의미에 대해 저자의 혜안을 제공합니다. 주요 주제 및 논점 기술 변혁: 저자들은 우리가 기술에 의해 주도되는 변혁의 시대에 살고 있다고 주장합니다. 그들은 디지털 시대가 단순히 기기와 소셜 미디어에 관한 것이 아니라 우리 삶의 모든 측면에 영향을 미치는 근본적인 변화라고 강조합니다. 개인 역량 강화: Schmidt와 Cohen은 기술이 개인에게 역량을 부여하는 방법에 대해 논의합니다. 그들은 스마트폰과 인터넷이 어.. 2023. 9. 24. 여섯 번째 강의: 8장 예정된 결말은 파국인가? 들어가기 초지능 에이전트의 탄생, 인간과의 공존은 결국 파국으로 결말을 맞게 될까? 이 질문에 대한 답변은 수학적 역량보다는 인문학적 상상력을 필요로 한다. 보스트롬은 이 질문에 대해 가정을 붙여 답변한다. 만약 우리가 초지능 에이전트를 완벽하게 통제할 수 있다면, 공존은 아름다운 결말로 이어질 수 있다. 그런데 보스트롬은 통제 문제에 다소 회의적이다. 초지능 에이전트가 지닌 특성 때문에 그렇다. 마치 원숭이가 인간을 통제할 수 없는 것과 동일한 이치가 아닐까. 통제 문제는 다음 주차 주제이니 지금은 파국의 가능성만 다뤄보기로 한다. 비록 영화의 설정이지만, 앞서 우리는 테오와 시스템 사만다의 파국적 결별을 살펴보았다. 테오의 사랑은 우리에게 익숙한 낭만적 감정이고 사만다의 스탠스는 매우 낯설다. 우리의.. 2023. 9. 22. 다섯 번째 강의: 7장 초지능의 의지 7장 초지능의 의지(Will of Superintelligence) 들어가기 “세상에서 만들어진 최초의 초지능을 통제하는 연구 집단은 아마도 확실한 전략적 우위를 획득하게 될 것이다. 그러나 이 힘의 직접적인 원천은 초지능 시스템 그 자체에 있다. 기계 초지능은 상당히 강력한 에이전트로서 자신을 존재하게 만든 연구자뿐만 아니라 전 세계에 대해서 자기주장을 행사할 수도 있다. 바로 이 순간이 가장 중요한 시점이다.”(슈퍼인텔리전스 P. 178) 인간의 지능을 능가하는 초지능의 개념은 인공지능이 인간에게 미치는 실존적 위험에 대한 우려를 증폭시킨다. 주요 논점 중 하나는 초지능과 인간의 가치 사이에 목표들이 상충적으로 정렬될 수 있다는 점이다. 이러한 우려는 근거가 있을까? 인간의 두려움은 초지능의 목표와 .. 2023. 9. 15. 네 번째 강의: 6장 인지적 초능력 6장 인지 초능력(Intellectual Superpowers) 들어가기 인지 초능력이란 인간의 지능을 능가하는 인공지능 시스템의 놀라운 능력을 말한다. 이 개념은 인간이 가지고 있는 인지 능력의 확장이다. 그것을 완전히 이해하기 위해 그 기원과 의미를 추적해 보자. 인지 초능력을 향한 여정은 인지 혁명과 산업 혁명이라는 두 가지 중요한 전환점으로 거슬러 올라간다. 인지 혁명은 인간의 잠재력을 극대화하여 획기적인 발명과 발견으로 이어졌다. 전례 없는 인간 성취의 시대는 인류세(Anthropocene)라고 불리며, 인간 활동이 지구 시스템에 심오하고 지속적인 영향을 미친 지질학적 시대를 일컫는다. AI 시스템이 인지 초능력을 갖기 위해서는 학습 과정, 문제 해결, 의사 결정과 같은 영역에서 인간의 능력을 .. 2023. 9. 9. 세 번째 강의: 4장 지능 대확산의 동력학 4장 Singularity Dynamics: 지능 대확산의 동력학 들어가기 인간 수준의 지능을 가진 시스템이 개발된다면, 초지능에 도달하는 데까지 얼마나 시간이 걸릴까? 현재 인공지능의 수준은 위협적이지 않다. 유동적 상황에 따른 유연성에서 여전히 심각한 결함을 보이기 때문이다. 그러나 기술 발전의 속도가 점점 빨라지면서 언젠가는 전환점을 통과하는 시간이 올 것이다. 먼저 기계 지능이 인간 지능의 수준까지 접근할 수 있어야겠다. 사건의 처리속도나 데이터의 양이 문제가 아니다. 다양한 사태를 병렬적으로 처리할 수 있는 종합적 판단력과 유연성에서 인간 지능을 넘어서야 한다. 현대 산업의 블루오션으로 통하는 자율 로봇의 상용화가 그 가늠자가 될 듯하다. 자율 로봇은 인간처럼 몸과 의식이 하나로 결합한 세트가 .. 2023. 8. 31. 두 번째 강의: 2장 초지능으로 향하는 몇 가지 경로 2. 초지능으로 향하는 몇 가지 경로 들어가기 탈세계화가 급속히 진행되는 와중에도 인공 지능의 발전은 새로운 형태의 세계화에 열려 있다. 2022년 7월 19일 모스크바에서 열린 국제 체스 경기는 로봇과 인간의 대결로 세간의 관심을 끌었다. 하지만 경기 중 안타까운 사고가 발생해 첨단 인공지능을 탑재한 로봇의 한계가 부각됐다. 와 그 후속작인 와 같은 원리로 작동하는 체스 두는 로봇은 기술 면에서 인간의 지능을 능가했지만, 여전히 근본적인 무엇이 빠져 있었다. 인공지능은 전략적 사고와 분석에서 인상적인 발전을 이루었지만, 상황 변화에 따라 행동을 적응시키거나 주어진 가치에 따라 일관되게 행동하는 자발성에서 심각한 결함을 드러내었다. 이 사건은 우리에게 이중적 감정을 안겨주었다. 사고가 발생했다는 사실은 .. 2023. 1. 29. 첫 번째 강의 1. 강의에 앞서 우주의 역사는 길고, 인간의 역사는 짧다. 우주라는 광대한 서사시에 비하면, 인간의 삶은 찰나에 불과하다. 그런데 하찮게 보이는 시간 안에도 매혹적인 진화와 황홀한 변신이 서로 얽혀 거부할 수 없는 매력이 감춰져 있다. 이 매력이 너무도 강렬하였기에 서양 철학사는 인간의 시간을 특별한 언어로 포장하곤 했다. ‘존재의 시간’, 그것은 단순한 수사가 아니었다. 진화는 변화와 적응이라는 역사의 실을 섬세하게 엮는다. 한편 존재의 변신은 확실한 자신의 지분을 요구한다. 변신은 과거와 결별하고 혁명을 낳았다. 인지혁명, 농업혁명, 산업혁명의 메아리는 자연에서 문명으로, 문명에서 계몽의 시대로, 마침내 계몽에서 미지의 지평으로 우리를 안내하고 있다. 인간의 변신에 큰 획만 있는 것은 아니다. 변신.. 2023. 1. 29. 이전 1 다음 728x90 반응형
