특이점과 슈퍼 인공지능

지능 대폭발의 시대, 슈퍼인공지능이 온다
AI의 발전이 가져올 변화를 이해하고, 특히 ‘특이점(Singularity)’과 ‘슈퍼 인공지능(Super Intelligence)’ 개념을 중심으로 인간과 기계의 관계를 재정립하고자 한다. AI가 인간의 지능을 능가할 때 일어날 수 있는 전환점을 구체적으로 설명하고, 그로 인해 발생할 수 있는 윤리적, 사회적, 경제적 변화에 대해 논의한다. 특이점은 기술 발전이 급격히 가속화되어 인간의 능력을 초과하는 지점으로, AI가 자체적으로 자기 개선을 거듭하면서 예측 불가능한 변화를 일으킬 것으로 예상된다. 이 시점이 다가올 경우 인간은 AI의 통제를 받을지, 아니면 AI와 협력하며 공동의 발전을 이룰 수 있을지를 중점적으로 다룬다. 또한, 슈퍼 인공지능이 나타나게 되면 기존의 인간 중심의 사회 질서가 어떻게 변할지, 그리고 AI가 인간의 역할을 대체하거나 확장하는 방식에 대해서도 깊이 있는 분석을 제공한다.
AI의 발전이 가져올 기회와 위협은 극명하게 대립한다. AI는 한편으로 AI가 의료, 교육, 경제 등 여러 분야에서 혁신을 일으킬 수 있는 잠재력을 갖추고 있지만, 다른 한편으로는 인간의 일자리를 대체하고, 윤리적 문제와 사회적 불평등을 심화시킬 가능성도 존재한다. 이 책은 AI의 발전이 인류에게 미칠 영향을 긍정적이든 부정적이든 모두 예측하고 대비할 수 있는 방향을 제시하며, AI가 인간 사회와 어떻게 조화를 이루어야 하는지에 대한 해답을 모색한다.

인공지능의 발전과 특이점, 그리고 슈퍼 인공지능의 가능성에 대해 탐구한다. AI는 인간의 지능을 넘어서려 하며, 이는 긍정적 변화와 동시에 심각한 사회적, 윤리적 문제를 야기할 수 있다. AI가 인간 사회에 미치는 영향을 분석하고, AI와 인간의 관계, 기술의 발전 방향을 논의한다. 특히, AI가 가져올 미래 변화에 대한 두 가지 상반된 관점을 제시하고 인간과 AI가 공존할 수 있는 방법을 모색한다.

허훈
서울 상일여자고등학교 통합 사회, 윤리과 교사다. 서울대학교에서 윤리 교육을 전공해 교육학 석사 학위를 취득했고, 성균관대학교 동양 철학과에서 한국 철학을 전공해 박사 학위를 받았다. 국제음악예술대학, 중앙대학교에서 강의했고, 기업체나 교육 기관, 학회, 대학원에 출강해 동서양 철학과 심리학, 한의학 워크숍을 진행했다. 현재 인공지능의 할아버지로 불리는 라이프니츠 철학에 관심을 갖고 공부하고 있다. 국내에서는 처음으로 영원 철학에 관한 단행본 서적을 출간하고, 특이점 이후 초래될 수 있는 심각한 AI 윤리 문제를 영원 철학에서 해법을 모색하는 논문을 발표했다. 대표 저서로 『동무 이제마의 철학 사상』(2008), 『마음은 몸으로 말한다: 동서양의 심신 의학』(2010), 『한눈에 보는 세계 철학사』(2015) 등이 있다. 『동무 이제마의 철학 사상』은 2009년 대한민국학술원 우수학술도서로 선정되었으며, 『한눈에 보는 세계 철학사』는 2015년 한국출판산업진흥원의 우수 출판콘텐츠 지원 사업 당선작이다. 영원 철학에 관한 저서로는 『영원한 철학: 한 줌 지식의 마중물 효과』(2013)가 있다. 인공지능 관련 논문으로는 “AI의 영원 철학적 접근: 존재의 대둥지와 AQAL 프레임을 중심으로”(2020)와 “인공지능 철학 관련 연구의 비판적 고찰: 통합이론 ‘사상한(四象限)’과 관련하여”(2020)가 있다.

슈퍼 인공지능의 출현으로 맞이하는 특이점

01 21세기 GNR 혁명
02 특이점
03 특이점 도래 시점
04 특이점 이전과 이후
05 특이점주의자의 인공지능 낙관론
06 인공지능 비관론
07 딜레마에 빠진 특이점 대응 문제
08 특이점과 영원의 철학
09 통합적 솔루션
10 슈퍼 인공지능과 포스트휴먼 문명

나노 기술 이론가 로버트 프레이타스(Robert Freitas)는 나노 기술을 바탕으로 적혈구·혈소판·백혈구를 재설계한다. 인공호흡을 하는 로봇 적혈구를 사용하면 몇 시간이고 산소 없이 버틸 것이라고도 하며, 마이크로 규모 인공 혈소판, 미생물 포식자 세포 나노봇 등으로 혈액을 프로그래밍할 수 있다고 주장한다. 나아가 스스로 움직이는 자동 혈구 나노봇들로 심장과 혈관계를 대체할 수 있다고 한다. 피가 저절로 흐를 수 있다면, 막대한 압력을 내뿜는 심장이라는 중앙 펌프가 왜 필요하냐는 것이다.
－01_“21세기 GNR 혁명” 중에서

그는 2045년에 특이점이 올 것이라고 확신하고, 이를 준비하고 있다. 그때가 되면 그는 97세가 되는데, 그때까지 살기 위해 한때 하루 200알의 영양제(요즘은 100알 정도)를 복용했다고 한다. 2045년까지 버틸 수 있다면 특이점을 맞아 자신은 불로불사의 존재가 될 수 있다고 생각하기 때문이다. 그는 ‘사람은 누구나 죽음을 맞이할 수밖에 없다’는 인류 역사상의 너무나도 당연한 오랜 상식을 무너뜨리려 한다.
－03_“특이점 도래 시점” 중에서

정말 이렇게 인공지능이 인간의 손에서 벗어나 제멋대로 움직이는 상황을 맞이한다면, 그 결말로서 인간의 생사여탈을 마음대로 하게 되는 최악의 경우를 가정하지 않을 이유가 없다. 이때 인공지능은 인류의 실존을 위협하는 악마 같은 존재가 될 것이다. 그래서 현대 문명의 ‘멸망’을 경고하는 옥스퍼드대 교수 보스트롬은 이렇게 말한다. “길게 내다보면 우리는 AI를 놓고 초대형 도박을 벌이게 될 것이다. 인류가 그동안 판돈을 걸고 벌인 도박치고는 이만한 게 없을 것이다.” 그런데 만약 도박에서 우리 인류가 진다면?
－06_“인공지능 비관론” 중에서

어느 쪽이 맞을까? ‘환원주의 vs 복잡성 이론’, 현대 과학은 아직 어느 한쪽이 옳다고 손들어 주지 못한다. 하지만 우리는 경험적으로 안다. 실제 우리는 마음이 우리의 몸과는 다른 메커니즘을 갖는다고 느낀다. “몸 따로 마음 따로”라는 말도 있질 않은가? 몸과 마음은 분명 하나로 연결되어 있지만, 우리는 자신의 몸과 마음이 따로 노는 경우를 종종 겪는다. 그런 고뇌의 역사는 짧지 않다.
－09_“통합적 솔루션” 중에서