728x90 반응형 보스트롬7 열한번 째 강의: 전략적 그림 들어가기 이 장에서 보스트롬은 초지능 에이전트의 개발과 그 활용에 대한 정책기술 및 전략적 방향을 다룬다. 결론의 전 단계이지만, 사실상 결론 부분에 해당한다. 대단히 유의미한 결론을 기대하면 실망하게 된다. 읽지 않아도 충분히 예측 가능한 논평이기 때문이다. 단적으로 정리해 보자. 초지능의 등장은 현 인류가 감당할 수 없는 존재적 위협을 초래할 수 있기에, 지금 충분한 시간적 여유를 가지고 대비해야 한다는 것이다. 이게 무슨 말인가? 이것은 해결방안이 아니라, 일종의 공지이다. ‘내일 태풍이 올지도 모르니, 모두 조심하세요’라는 기상청 공지의 문법이다. 일기예보라면 모를까, AI 특별 전문가의 문법으로는 유명세에 미치지 못한다. 일단 보스트롬의 논의를 요약해 본다. 보스트롬은 초지능의 개발이 가져올 가.. 2023. 11. 21. 열 번째 강의: 선택의 기준 선택하기 들어가기 초지능이 인류에게 존재적 위협이 된다는 전망은 보스트롬의 일차적 진단이다. 따라서 초지능의 통제 문제에 보스트롬이 집착한 이유를 충분히 이해할 수 있다. 통제가 사실상 쉽지 않다는 진단도 익숙하다. 그런데 이상한 일이다. 인류는 왜 이 치명적 존재를 더 빨리 개발하지 못해 안달일까? 인류 멸종의 가능성까지 언급되는 마당에 굳이 인공지능 개발에 매진하는 이유는 무엇일까? 우리는 지금까지 이 문제를 한 번도 거론하지 않았다. 보스트롬조차 이 질문에 대해서는 별 관심이 없는 듯하다. 왜 그럴까? 누가 아무리 발목을 잡아봤자, 실익이 없기 때문이다. 결국 인공지능 개발자들은 제 갈 길을 갈 것이고, 초지능도 언젠가는 등장할 것이다. 인공지능 개발은 개발자에게 일방통행일 뿐이다. 그렇다. 역사적으로 보면.. 2023. 11. 10. 아홉 번째 강의: 가치 획득 들어가기 이제 우리 수업도 반환점을 돌고 있다. 시간상으로는 아직 3분의 1 정도가 남아있지만, 내용상으로 그렇다는 의미이다. 거의 정리 단계이다. 특히 마지막 14주 차는 그간 하지 못했던 질의응답 시간으로 채울 것이다. 기말고사 주제에 대한 개별 질문도 가능하다. 미리 주제도 생각해 보고, 하고 싶은 질문도 만들어 보기 바란다. 비록 5페이지 안팎 에세이라고 하나, 농축된 언어로 구성하려면, 충분히 시간을 할애해야 할 것이다. 이번 주차 주제는 초지능의 생각과 행위를 제어할 가치에 관한 것이다. 뭔가 익숙하다. 이미 우리는 7주 차에 가치문제를 다루었기 때문이다. 이번 주차는 초지능의 통제 문제와 함께 묶어서 종합적으로 생각해야 한다. 우리는 어떻게 인간의 지능을 넘어서는 초지능의 행동을 통제할 수 .. 2023. 11. 1. 여덟 번째 강의: 다극성 시나리오 들어가기 이번 주 우리의 주제는 11장 다극성 시나리오이다. 제목만 보면, 도대체 무슨 내용인지 감이 안 온다. 지금까지 다룬 내용만 보면, 보스트롬은 오직 하나의 시나리오에만 매달려 왔기 때문이다. 단적으로 초지능의 위험성, 그에 대한 경고가 그것이다. 오직 하나의 논조로 수백 페이지를 엮는 것이 조금은 지루했을까? 보스트롬은 이번 장에서 주위를 환기시킨다. 영화로 따지면, 일종의 장면전환이다. 그렇다고 해서 기존 논조를 뒤집어엎는 반전을 기대하면 안 된다. 다만 다른 시나리오를 소개하면서 스토리의 다채로움을 더한다. 이 장을 관통하는 키워드는 잉여이다. 잉여라는 용어, 어떤 느낌이 오는가? ‘쓰고 남은 것’ 혹은 ‘쓸모없는 것’, ‘필요하지 않은 것’이라는 부정어가 떠오르는가? 잉여 인간은 어떨까? .. 2023. 10. 24. 일곱 번째 강의: 9장 통제 문제 들어가기 이번 주차 살펴볼 주제는 초지능 에이전트에 대한 통제이다. 초지능이 인간에게 존재적 위험이 될 수 있다면, 인간에 의한 AI의 통제는 공존을 위해 필연적 절차일 것이다. 문제는 어떻게 이다. 우리는 어떻게 AI를 통제할 수 있을까? 통제가 가능한 일이기는 할까? 지난 시간 주제 발표에서 소개되었던 영화 를 떠올려보자. 기억해 내야 한다. 보스트롬이 바라보고 있는 초지능의 대략적인 실사판이다. 영화의 핵심 키워드는 튜링 테스트와 속이기였다. 튜링 테스트란 인간과 동등하거나 구별할 수 없을 정도로 지능적 행동을 보여주는 인공지능 능력에 대한 테스트다. 우리가 알고 있는 과거의 것과 차이가 있다면, 오늘날의 튜링 테스트는 대상 관계가 다르다. 과거에는 AI가 튜링 테스트의 검증 대상이었다면, 지금은 .. 2023. 10. 7. 여섯 번째 강의: 8장 예정된 결말은 파국인가? 들어가기 초지능 에이전트의 탄생, 인간과의 공존은 결국 파국으로 결말을 맞게 될까? 이 질문에 대한 답변은 수학적 역량보다는 인문학적 상상력을 필요로 한다. 보스트롬은 이 질문에 대해 가정을 붙여 답변한다. 만약 우리가 초지능 에이전트를 완벽하게 통제할 수 있다면, 공존은 아름다운 결말로 이어질 수 있다. 그런데 보스트롬은 통제 문제에 다소 회의적이다. 초지능 에이전트가 지닌 특성 때문에 그렇다. 마치 원숭이가 인간을 통제할 수 없는 것과 동일한 이치가 아닐까. 통제 문제는 다음 주차 주제이니 지금은 파국의 가능성만 다뤄보기로 한다. 비록 영화의 설정이지만, 앞서 우리는 테오와 시스템 사만다의 파국적 결별을 살펴보았다. 테오의 사랑은 우리에게 익숙한 낭만적 감정이고 사만다의 스탠스는 매우 낯설다. 우리의.. 2023. 9. 22. 네 번째 강의: 6장 인지적 초능력 6장 인지 초능력(Intellectual Superpowers) 들어가기 인지 초능력이란 인간의 지능을 능가하는 인공지능 시스템의 놀라운 능력을 말한다. 이 개념은 인간이 가지고 있는 인지 능력의 확장이다. 그것을 완전히 이해하기 위해 그 기원과 의미를 추적해 보자. 인지 초능력을 향한 여정은 인지 혁명과 산업 혁명이라는 두 가지 중요한 전환점으로 거슬러 올라간다. 인지 혁명은 인간의 잠재력을 극대화하여 획기적인 발명과 발견으로 이어졌다. 전례 없는 인간 성취의 시대는 인류세(Anthropocene)라고 불리며, 인간 활동이 지구 시스템에 심오하고 지속적인 영향을 미친 지질학적 시대를 일컫는다. AI 시스템이 인지 초능력을 갖기 위해서는 학습 과정, 문제 해결, 의사 결정과 같은 영역에서 인간의 능력을 .. 2023. 9. 9. 이전 1 다음 728x90 반응형
