AI와 인간중심주의

기술 발전 속 AI의 책임
AI의 발전에 따른 윤리적, 사회적 책임을 깊이 탐구하는 책이다. 우리는 AI가 ‘지능’, ‘학습’, ‘자율’, ‘감정’과 같은 인간적 개념을 갖춘 것으로 착각하곤 하지만 AI의 작동 원리는 인간이 만든 개념과는 전혀 다른 메커니즘에 기반한다. 따라서 AI의 기술적 특성을 올바르게 이해하고, 이를 인간중심주의 관점에서 다시 평가해야 한다. AI는 인간이 설계하고 제어하는 도구이며, 그 책임 또한 인간에게 있다.
이 책은 AI가 인간과 비슷한 방식으로 사고하거나 자율적으로 결정을 내릴 수 있다는 오해를 불식시키며 AI가 제공하는 정보의 신뢰성 문제를 다룬다. 특히, AI의 ‘블랙박스’ 문제와 편향성 논란을 제기하며, 이를 해결하기 위한 방법으로 설명 가능한 AI(XAI)나 신뢰할 수 있는 AI 설계의 중요성을 강조한다. AI가 발전하면서 발생할 수 있는 사회적 불안감과 법적 논란을 해소하기 위해 AI에게 법적 권리나 의무를 부여하는 것보다 AI의 개발과 활용에 대한 인간의 책임을 명확히 하는 것이 중요하다. 민주주의와 법치주의가 AI 기술의 발전을 선도해야 한다.
이 책은 AI의 미래에 대한 논의에서 발생할 수 있는 오류와 위협을 점검하며, 인간중심주의의 원리에 입각해 AI와 공존할 수 있는 구체적인 해결책을 제시한다. AI를 개발하고 활용하는 주체인 인간의 책임을 상기시키며, 기술이 인간을 넘어서는 것을 방지할 수 있는 방안을 논의한다. AI 기술 발전 속에서 인간의 책임을 잊지 않고, AI의 발전이 사회와 법을 위협하지 않도록 하는 방향을 제시한다.

AI의 발전과 그에 따른 인간의 책임을 탐구한다. AI가 인간처럼 사고하거나 자율적 결정을 내린다는 오해를 불식시키며, 기술적 문제의 해결책은 인간에게 있으며 AI에게 법적 권리를 부여하는 것보다 인간의 책임을 명확히 해야 한다고 주장한다. 기술 발전 속에서 인간의 역할을 재조명하며 AI와 공존할 수 있는 구체적인 대안을 제시한다.

윤현식
사회단체 ‘노동·정치·사람’의 정책위원이며, ‘지역정당네트워크’의 정책위원이다. 건국대학교 대학원에서 헌법학을 전공했으며, “하이에크의 헌정질서에 관한 연구”로 박사 학위를 받았다. 민주노동당, 진보신당, 노동당에서 정책연구원, 정책위의장을 역임하면서 민주주의와 공화주의, 인권관계법 및 정치관계법을 주로 연구했다. 주요 저서로 『지역정당』(2023)이 있다. “공직선거법과 군소정당의 관계”(2016), “헌법주체와 개헌의 관계”(2018) 등 논문을 발표했으며, AI와 관련하여 “AI에 대한 법인격 부여의 근거로서 탈인간중심적 법이론의 가능성”(2021)을 발표했다.

인간의 책임과 AI의 미래

01 AI의 창조주
02 AI의 학습
03 AI의 감정
04 AI의 욕망
05 AI의 인격
06 AI의 자유의지
07 AI의 존엄성
08 AI의 지위
09 AI의 인정투쟁
10 AI와 인간중심주의

정작 AI가 현실이 되면서 AI의 창조주인 인간은 과거 자신들이 창조했던 신이 인간에 대해 염려했던 바를 그대로 AI에게 투영하고 있다. “AI가 우리와 같이 될까 두렵다”라는 것이다. 인간의 인지능력을 흉내 내는 정도가 아니라 인간의 그것을 훨씬 초월하는 AI의 탄생 가능성, 그리고 그렇게 태어난 초인공지능이 결국 인류를 멸절로 몰아갈 수도 있다는 공포가 번지고 있다. 특이점(singularity)을 넘어선 AI의 미래를 예측할 수 없기 때문이다.
－01_“AI의 창조주” 중에서

철학자 마크 존슨(Mark Jonhson)은 신체성이 의미를 갖게 만드는 방식, 그 의미를 발전시키고 다듬는 방식, 경험을 이해하고 사고하는 방식이 이러한 배경에 따른 행위 전반에 직접적인 영향을 준다고 지적한다.
－03_“AI의 감정” 중에서

AI가 생성한 데이터가 누적되면서, AI는 인간이 생성한 데이터뿐만 아니라 AI가 생성한 데이터들을 학습에 사용하거나 재가공하게 된다. 이렇게 되면 AI 학습의 병목만이 아니라 AI ‘모델 붕괴(model collapse)’라는 문제가 발생한다. 선행 모델에서 생성된 텍스트를 학습에 사용한 결과 AI가 생성한 이 합성 데이터(synthetic data)가 학습 집합을 오염시키면서 엉뚱한 출력을 하게 된다.
－06_“AI의 자유의지” 중에서

AI와 인간의 관계가 주인과 노예의 변증법적 관계로 형성된다면, AI는 목숨을 걸지 않으므로 인간은 사투를 벌일 필요 없이 주인의 지위에 오를 수 있다. 그런데 이렇게 주종 관계가 성립된 후 인간은 점차 더 다양한 분야에서 AI의 도움을 받아야 한다. 반면 AI는 자신의 지위가 인간에 종속되어 있음을 스스로 인정하면서 인간으로부터 굳이 인정받고자 노력하지 않는다. AI가 스스로 자립적 의식의 소유자가 되는 것이다. 이런 논리라면, 결국 21세기 ‘AI 변증법’은 AI와 인간의 주종 관계가 역전된 형태로 정립되어야 한다.
－09_“AI의 인정투쟁” 중에서