AI와 종말론적 상상들

AI, 구원과 파멸의 상상력
AI는 인류의 가장 위대한 발명인 동시에 마지막 발명일지도 모른다. 기술의 진보가 인류의 구원을 약속하던 시대는 지나갔다. 이제 우리는 AI가 만들어 낸 풍요 속에서 실존적 불안을 마주하고 있다. ‘AI 종말론’은 단순한 공포가 아니라, 의미와 목적을 잃은 인류가 만들어 낸 새로운 신화다. 과거 종교와 이념이 담당하던 종말의 서사는 이제 기술이 대신하고 있다. 특이점주의, 가속주의, 유토피아와 디스토피아의 담론은 모두 이 신화의 다양한 얼굴이다.
AI는 기술이 아니라 서사이며, 그 안에는 인간의 구원 욕망과 자기 파괴적 충동이 공존한다. 이 책은 이러한 복합적 서사를 해부하며, AI를 둘러싼 상상력의 지도를 그린다. AI가 우리를 파괴할 것인가를 묻기보다, 왜 그런 질문이 우리 시대의 가장 강박적인 질문이 되었는지를 추적한다. 기술의 진보는 곧 인간의 불안이며, 그 불안은 새로운 신화의 형태로 우리를 다시 사로잡고 있다.

AI는 도구가 아니라 신화다. 구원과 파멸의 상상 속에서 인간은 스스로의 미래를 예언한다. 기술이 만든 종말론은, 의미를 잃은 시대가 만들어 낸 또 하나의 거대한 이야기다. AI총서. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

조이환
국가AI연구거점 연구원으로 국제 협력 및 공동 연구 기획을 담당하고 있다. 이전에는 지디넷코리아 기자로 인공지능(AI) 및 데이터 거버넌스 관련 기사를 기고했으며 AI 아시아태평양기구(AI Asia Pacific Institute)에서 아태 지역 AI 거버넌스 협력을 연구했다. 현재 국제인공지능윤리협회(IAAE) 자문위원으로도 활동하고 있다. 런던정치경제대학교(LSE)에서 국제관계학 석사, 성균관대학교에서 정치외교학 학사를 마쳤다.

기술 신화와 종말의 서사

01 특이점 주의와 초월 신화
02 AGI 메시아들
03 초지능의 통제 불가능성
04 반기술주의와 기술 탈주론
05 우파 가속주의와 비인간 정치 철학
06 자본의 지배와 가속의 실현자들
07 좌파 가속주의와 유토피아 재장전
08 AI 리얼리즘과 상상력의 한계
09 비서구 기술 철학과 인식의 전환
10 AI 이후 존재성

유전학은 생명의 코드를 재설계하고, 나노 기술은 원자 단위에서 물질을 조작하며, 로봇 공학과 AI는 지능 자체를 창조한다. 이 세 가지 혁명이 맞물려 돌아가며 만들어 내는 가속적인 변화가 바로 커즈와일이 예언한 미래의 구체적인 청사진이다. 커즈와일은 2029년이 되면 AI가 특정 분야의 최고 전문가와 동등한 ‘인간 수준 지능’에 도달하고, 이어서 어떤 인간보다도 모든 면에서 뛰어난 ‘범용 인공지능(AGI)’이 같은 시기에 등장할 것이라고 예측한다. 이는 단순히 인간을 흉내 내는 것을 넘어, 인류 전체의 지능을 초월하는 존재의 등장을 예고하는 것이다.
－01_“특이점 주의와 초월 신화” 중에서

초지능의 위험이 이토록 명백하고 파국적이라면 인류는 무엇을 해야 하는가? 일라이저 유드코프스키가 내놓은 해법은 그의 문제 제기만큼이나 단호하고 급진적이다. 그는 2023년 AI 전문가들이 제안했던 ‘6개월 개발 중단 서한’과 같은 미미한 조치는 상황의 심각성을 전혀 이해하지 못한 정치적 행위에 불과하다고 일축한다. 수십 년이 걸릴지도 모르는 안전성 문제를 6개월 만에 해결할 수 있다는 생각 자체가 어불성설이라는 것이다. 그에게 타협안은 존재하지 않는다. 인류가 생존하기 위한 유일한 길은 단 하나, ‘모든 것을 멈추는(Shut it all down)’ 것뿐이다.
－03_“초지능의 통제 불가능성” 중에서

민주주의라는 낡고 비효율적인 운영 체제를 해체한 자리에 오직 기술의 효율성과 자본의 논리만이 작동하는 새로운 질서를 세우는 것이다. 이 세계에서 주권은 더 이상 국가가 아닌, 시장과 그것을 통제하는 소수의 기술 엘리트에게 귀속된다. 사회는 투표로 선출된 대표가 아니라 가장 유능한 자본가들이 이끄는 거대 기업처럼 운영되며, 개인의 자유는 시장에서의 효용성으로만 평가받는다. 이는 국가의 완전한 소멸이자, 자본의 논리가 모든 것을 지배하는 민주주의 이후의 세계를 향한 암울하고도 장대한 이상주의다.
－06_“자본의 지배와 가속의 실현자들” 중에서

기술적 특이점을 통한 영생을 꿈꾸는 유토피아주의자(커즈와일), 통제 불가능한 초지능을 두려워하는 비관론자(유드코프스키), 그리고 기술-자본의 흐름에 모든 것을 내맡기거나(랜드) 그것을 탈취해 오랜 공산주의적 이상을 되살리려는 가속주의자들(좌파 가속주의)까지, 이들은 모두 서구 기술이라는 단 하나의 궤도 위에서 가속할 것인가 감속할 것인가, 혹은 운전대를 누가 잡을 것인가를 두고 다투고 있을 뿐이다. 육후이와 음벰베는 바로 그 궤도 자체에 의문을 제기하며, 우리에게 전혀 다른 길의 가능성을 사유하라는 ‘인식의 전환’을 촉구한다.
－09_“비서구 기술 철학과 인식의 전환” 중에서