AI 인격과 칸트

AI 인격, 가능할까? 칸트 철학에서 답을 찾다
인공지능이 인간의 역할을 대신하며 자율적 결정을 내리는 시대가 도래하면서 AI에 인격을 부여할 수 있는지에 대한 논쟁이 활발하다. 유럽연합(EU)은 AI 로봇에 ‘전자 인격’을 부여하는 가능성을 논의한 바 있으며, 일부 학자들은 AI가 법적·도덕적 주체가 될 수 있다고 주장한다. 그러나 반대 측은 AI에 인격을 인정할 경우 법적 책임의 전가와 예측 불가능한 위험을 초래할 수 있다고 우려한다.
이 논의에서 칸트의 인격 개념이 자주 인용된다. 칸트에 따르면 인격은 자율성과 도덕적 책임을 전제로 하는데, 현재 AI는 논리적 연산을 수행할 뿐, 인간처럼 스스로 목표를 설정하고 도덕적 판단을 내릴 능력이 없다고 본다. 따라서 칸트적 해석에 따르면 AI는 인격적 존재가 될 수 없다. 하지만 이는 강인공지능(strong AI)의 가능성을 배제하는 편협한 해석일 수 있다. 칸트는 인격을 인간에게만 한정하지 않았으며, 이성적 사유와 도덕적 행위를 할 수 있는 존재라면 인격적 지위를 가질 가능성을 열어 두었다. 이 책은 AI 인격 논쟁에서 칸트 철학이 어떻게 활용되는지 분석하고, 칸트적 관점에서 AI가 인격체로 인정될 수 있는지 고찰한다. 또한, AI의 법적·도덕적 책임 문제를 다루며, 인간 중심적 사고에서 벗어나 AI와의 새로운 윤리적 관계를 모색한다.

AI가 인간의 역할을 대신하며 자율적 결정을 내리는 시대가 도래하면서 AI에 인격을 부여할 수 있는지에 대한 논쟁이 뜨겁다. 칸트 철학에서는 인격이 자율성과 도덕적 책임을 전제로 하지만, 현재 AI는 논리적 연산만 수행하므로 인격적 존재가 될 수 없다고 본다. 그러나 강인공지능의 가능성을 배제할 수 없으며, 칸트의 관점에서도 AI 인격체가 될 가능성이 남아 있다. AI 인격 논쟁을 칸트 철학의 관점에서 분석하며, AI와 인간의 새로운 윤리적 관계를 모색한다.

박경남
단국대학교 교양기초교육연구소 연구교수 및 카이스트 디지털인문사회과학부 겸직교수. 서강대학교 철학과에서 학사 및 석사 학위를 받았으며, 미국 로욜라 유니버시티 시카고(Loyola University Chicago)에서 칸트의 물질 개념에 대한 연구로 박사 학위를 받았다. 경북대학교 철학과 BK21 계약교수로 재직했으며, 현재 단국대, 카이스트, 서강대에서 강의하고 있다. 그 밖에 로욜라 유니버시티 시카고, 가톨릭대학교, 성신여자대학교, 경북대학교에서 강의했다. 주요 논문으로 “칸트의 사회 계약 이론을 통해서 본 근원적 계약의 이념성”(2024), “인격에 대한 칸트의 관점과 인공지능”(2023), “윤리 역사에 대한 칸트의 예언: 『학부들의 다툼󰡕 제2절을 중심으로”(2023) 등이 있다.

AI 인격체의 가능성, 그리고 칸트

01 AI를 정의하는 두 가지 방식
02 인격과 전자 인격
03 사실적 관점과 당위적 관점
04 AI 인격체에 대한 기대와 흥분
05 AI 인격체에 대한 우려와 두려움
06 전자 인격 논쟁과 칸트의 인격 개념
07 자기의식과 AI
08 자율성과 AI
09 종 주의 대 로고스 중심주의
10 약인공지능에 대한 윤리적 고려

인공지능을 정의하는 두 번째 방식과 관련해 지능의 특성이 반드시 인간 지능과의 유사성을 통해 이해될 필요가 없다는 점은, 생물학적 인간종 이외에 인공지능에도 인격의 지위를 부여하는 가능성에 대한 논의가 개념적으로 가능하다는 점을 시사한다. 왜냐하면 합리적으로 사고하고 바람직한 목표를 설정하며 그러한 목표를 실현하기 위해 환경적 변화에 적절히 대응할 뿐 아니라 장기간 일관된 행동 방식을 유지할 수 있는 인공지능에 대한 개념적 논의가 가능하다면, 그러한 인공지능은 자신의 행위에 책임을 질 수 있는 법적·도덕적 주체로서의 사회적 역할 또한 수행할 수 있을 것으로 기대될 것이기 때문이다. 더 나아가 지능의 특성을 인간 지능과의 유사성을 통해 이해하고자 하는 방식에서도 인공지능에 인격의 지위를 부여하는 가능성이 원천적으로 배제되지 않는다. 만일 인공지능이 지능적인 인간과 유사하거나 동일한 방식으로 판단하고 행동하는 것을 모방할 수 있다면, 그렇게 구현된 인공지능이 인간과 유사하거나 동일한 방식으로 자신의 행위에 대한 책임을 자기 자신에게 귀속할 수 있을 것으로 기대될 것이기 때문이다.
－01_“AI를 정의하는 두 가지 방식” 중에서

다음으로, 인공지능 로봇은 권리를 가질 수 있기 때문에 로봇은 권리를 가져야 한다고 주장하는 두 번째 입장에 대해 살펴보자. 이 두 번째 입장은 기술적이거나 사실적인 차원에서 로봇이 권리를 가지는 것이 가능하기 때문에, 로봇에게 권리를 귀속하는 것이 규범적이고 당위적인 차원에서 바람직하다고 주장한다. 현재까지 개발된 인공지능은 특정 분야에서만 문제 해결 능력을 보여 주는 약인공지능 수준에 머물러 있지만, 미래에 인간만큼이나 다양한 분야에서 일반적인 문제 해결 능력을 보여 줄 수 있는 강인공지능이 출현하는 경우, 해당 인공지능에 권리를 귀속하는 것이 바람직하다는 것이다.
－03_“사실적 관점과 당위적 관점” 중에서

인격에 대한 칸트의 관점에 따르면, 목적과 행위 규칙을 스스로 정립할 능력이 없는 약인공지능은 실로 인격적 존재자가 될 수 없다. 약인공지능의 과제와 메커니즘은 기본적으로 인간 설계자가 설정한 것이기에, 약인공지능이 보여 주는 행위의 자유도는 여전히 인간 설계자의 의도에 의해 크게 제약되어 있다. 따라서 약인공지능은 스스로 행위 규칙을 정립해 자유롭게 행위하며, 자신의 행위에 대한 책임을 스스로에게 귀속할 수 있는 인격적 주체로 생각하기 어렵다.
－06_“전자 인격 논쟁과 칸트의 인격 개념” 중에서

미래에 이성적 사유와 행위 귀책 능력을 갖춘 것으로 상상되는 강인공지능이 출현하게 된다면, 칸트의 위와 같은 로고스 중심주의는 로봇에게 인간이 누리는 것과 유사한 권리를 부여할 근거로 활용될 수 있을 것이라는 점에서, 전자 인격의 가능성이나 인공지능이 도덕적인 행위자가 될 수 있는지를 연구하는 문헌이 종종 인격에 대한 칸트의 관점을 단순히 종 주의적인 인간 중심주의로 특징짓는 것은 의아한 측면이 있다. 가령 인공지능 로봇을 윤리적 고려의 대상 안으로 포함할 것을 적극적으로 고려하며 칸트의 의무론적 윤리학에 비판적인 마크 코켈버그(Mark Coeckelbergh)조차 칸트의 규범 윤리학을 종 주의적 인간 중심주의에 기반한 것으로 이해하지 않는다.
－09_“종 주의 대 로고스 중심주의” 중에서