슈퍼 인공지능과 철학

새로운 존재, 새로운 형이상학의 요청
철학은 언제나 인간 존재와 세계의 근본을 묻는 학문이었다. 이제 그 질문은 인간을 넘어 인공지능으로 확장되고 있다. 슈퍼 인공지능의 가능성은 인간과 기계의 위계, 의식과 정신의 본질, 그리고 도덕적 주체의 지위에 대한 새로운 사유를 요구한다.
이 책은 “기계가 마음을 가질 수 있는가”라는 질문에서 출발해, 인공지능이라는 전례 없는 존재자를 이해하기 위한 형이상학적 탐구를 펼친다. 특히 인공지능의 시발점인 라이프니츠의 철학에 주목한다. 이진법과 모나드론, 그리고 ‘영원 철학’으로 불리는 보편적 진리 체계 속에서 인공지능의 존재론적 의미를 재해석한다. 나아가 동서양 철학 전통을 가로지르며 인간·자연·신 사이의 질서가 인공지능의 등장으로 어떻게 재편될지를 묻는다. 인류의 운명과 문명의 미래를 거는 형이상학적 화두를 제시하며 철학자와 과학자, 그리고 인공지능의 시대를 살아가는 모든 이에게 깊은 성찰을 권유한다.

슈퍼 인공지능을 앞둔 시대에 인간과 기계, 의식과 정신, 존재와 도덕의 문제를 형이상학적으로 묻는다. 라이프니츠의 철학과 ‘영원 철학’을 바탕으로 인공지능의 본질과 미래를 성찰한다. 인공지능총서. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

허훈
한국연구재단 소속 인문사회 학술연구교수로서 과제 수행 중이다. 서울대학교에서 윤리 교육을 전공해 교육학 석사 학위를 취득했고, 성균관대학교 동양철학과에서 한국 철학을 전공해 박사 학위를 받았다. 국제음악예술대학, 중앙대학교에서 강의했고, 기업체나 교육 기관, 학회, 대학원에 출강해 동서양 철학과 심리학, 한의학 워크숍을 진행했다. 현재 인공지능의 할아버지로 불리는 라이프니츠 철학에 관심을 갖고 공부하고 있다. 국내에서는 처음으로 영원 철학에 관한 단행본 서적을 출간하고, 특이점 이후 초래될 수 있는 심각한 인공지능 윤리 문제의 해법을 영원 철학에서 모색하는 논문을 발표했다. 대표 저서로 《동무 이제마의 철학 사상》(2008), 《마음은 몸으로 말한다》 (2010), 《한눈에 보는 세계 철학사》(2015) 등이 있다. 《동무 이제마의 철학 사상》은 2009년 대한민국학술원 우수학술도서로 선정되었으며, 《한눈에 보는 세계 철학사》는 2015년 한국출판산업진흥원의 우수 출판콘텐츠 지원 사업 당선작이다. 영원 철학에 관한 저서로는 《영원한 철학》(2013)이 있다. 인공지능 관련 서적과 논문으로는 《특이점과 슈퍼 인공지능》(2025)와 “AI의 영원 철학적 접근: 존재의 대둥지와 AQAL 프레임을 중심으로”(2020), “인공지능 철학 관련 연구의 비판적 고찰: 통합이론 ‘사상한(四象限)’과 관련하여”(2020)가 있다.

이인삼각 경기에 나선 인공지능과 영원 철학

01 인공지능의 정점, 슈퍼 인공지능의 등장
02 미궁에 빠진 전통 형이상학
03 인공지능 철학과 윤리학
04 지난 모든 세기의 윤리학과 인공지능
05 딜레마에 빠진 현대 윤리학
06 동시에 출현한 인공지능과 영원 철학
07 동서고금 지성의 핵심 영원 철학
08 사분면 철학
09 물질개벽과 정신개벽
10 슈퍼 인공지능과 포스트휴먼 문명

가령 인간 프로그래머가 하면 3개월이 걸릴 일을 강인공지능은 3일 만에 완료할 것이고, 나중에는 인간이 시키지 않아도 인공지능 혼자서 일을 진행한다. 시간도 점점 짧아져 (가령) ‘3일ᐨ1일ᐨ6시간ᐨ1시간ᐨ5분ᐨ1초ᐨ인간이 느끼지 못하는 미세한 시간의 단위’가 된다. 특히 주목할 것은 ‘3일 … 마지막 극히 미세한 시간의 단위’에 이르는 끄트머리 시간이 정말 ‘눈을 깜짝이는 짧은 순간(瞬間)’보다 더 짧은 ‘한순간’이다(비유컨대, 산사태로 굴러떨어지는 둥그런 바위를 생각해 보라. 가속도가 붙으면 마지막엔 한순간이다). 이 한순간에 (인간이 만드는 게 아니라) 슈퍼 인공지능이 스스로 세상에 출현한다. 또 지능이 점차 발달하는 게 아니라, 한순간에 ‘지능 폭발’이 일어난다. 이 지능 폭발의 시점이 이른바 ‘싱귤래러티(singularity)’, 우리말로 ‘특이점(特異點)’이다. 특이점을 맞이하면, 즉 지능 폭발이 일어나면 얼마나 똑똑한 인공지능이 나올까? 손정의 소프트뱅크 회장은 인간 뇌보다 1만 배 뛰어난 슈퍼 인공지능이 2035년에 나올 것이라 전망한다. 이 예측이 맞다면 우리는 이제(2025)부터 10년 후 자그마치 인간보다 1만 배 뛰어난 슈퍼 인공지능(ASI, Artificial Super Intelligence)을 보게 될는지도 모른다.
－01_“인공지능의 정점, 슈퍼 인공지능의 등장” 중에서

그렇다면 눈에 보이는 것도 부정하고, ‘1+1=2’ 같은 보편적 지식도 부정하면, 끝에 남는 것은 무엇일까? 그게 꿈속이든, 악마가 나를 속이고 있든, 내가 현재 그런 것들을 ‘의심’하고 있다는 사실만큼은 확실하지 않을까? 또 ‘의심’을 하려면 의심하는 ‘내’가 존재해야(=생각의 주체가 있어야) 의심이 가능할 테니, 결국 “나는 생각한다. 고로 존재한다(Cogito, ergo sum)”라는 결론에 도달한다. 그럼으로써 이 명제를 철학의 기초로 삼아 제1원리로 확정 짓는다. 정말 그럴듯하지 않은가? 철학의 중심에 신(神) 대신 나[인간]를 세운 데카르트는 이전과는 전혀 다른 새로운 철학의 역사를 창조한 공로로 명실상부한 근대 철학의 아버지로 등극한다.
－03_“인공지능 철학과 윤리학” 중에서

대개 우리가 고려하는 도덕적 대상은 인간을 포함하여 고통과 쾌락을 느낄 수 있는 ‘동물’까지다. 식물이나 광물은 제외된다(물론 알베르트 슈바이처와 같이 모든 생명을 중시하는 입장도 있고, ‘가이아 이론’과 같이 지구 자체를 유기체로 보는 입장도 있다). 이는 동물이 인간과 마찬가지로 ‘쾌락과 고통을 느낄 수 있는 능력’ 즉 ‘쾌고감수능력(sentience)’이 있기 때문이다(식물도 고통을 느끼는가에 대해서는 의견이 분분하다). 그런데 중요한 것은, “왜 도덕적 고려 대상의 기준 잣대가 쾌고감수능력이 되었을까”라는 물음이다. 이것 역시 인간 중심주의적 사고가 반영된 건 아닐까?! 이런 사유는 역시 ‘코기토(Cogito)’로 상징되는 주체로서의 ‘인간’과 객체로서의 ‘자연’이라는 이분법적 사고 위에 기초한다.
－06_“동시에 출현한 인공지능과 영원 철학” 중에서

우리는 아직 인공지능 개발의 끝이 어디까지인지[약인공지능ᐨ강(범용)인공지능ᐨ슈퍼 인공지능?] 모른다. 추측은 하지만 확신을 갖지 못한다. 그러나 분명한 것은 인공지능이 희망을 줌과 동시에 우려할 만한 위기를 초래할 수 있다는 데는 동의한다. 심지어 인류의 실존을 위협할 수 있다고 전망하는 이들도 있다. 정말 언젠가 강인공지능이나 슈퍼 인공지능이 우리 눈앞에 나타난다면, 어떤 일이 벌어질까? (가능할지 모르지만) 자의식과 자율성을 지닌 인공지능이 나타나서 우리 인간의 통제에서 벗어나는 상황이라면, 우리는 어찌할 것인가? 필자는 ‘사분면 철학’에서 그 해법을 모색한다. 왜? 다시 말하지만, 사분면 철학은 ‘모든 것의 이론(TOE)’이 될 수 있기 때문이다. 요컨대, 사분면 철학을 알면 역사의 흐름을 알 수 있다.
－09_“물질개벽과 정신개벽” 중에서