인공지능의 도덕적 지위

인간과 AI의 관계, 재정립이 필요하다
AI와 로봇의 도덕적 지위에 대한 논의가 단순한 이론을 넘어 현실적 문제로 부상하고 있다. 특히 GPT-4와 같은 대형 언어 모델의 등장으로 AI가 인간과 유사한 지적 능력을 가질 가능성이 제기되고 있다. 이 책은 AI의 도덕적 지위에 대한 철학적 논의를 종합해 AI가 인간처럼 자율성과 의식을 가질 경우 그에 따른 도덕적 책무가 어떻게 변화할지 탐구한다. 인공지능에 도덕적 지위를 부여할지 여부는 기술 발전과 사회적 가치관의 교차점에 위치하며, 이는 단순한 도구 이상의 존재로 AI를 바라볼 때 발생하는 중요한 윤리적 질문이다. 이 책은 AI가 자율성을 갖고 의식을 가질 경우 그에 맞는 도덕적 지위를 논리적으로 제시하고, 감성주의라는 관점에서 현상적 의식을 도덕적 지위의 필요조건으로 삼아야 한다는 입장을 다룬다.
또한 AI와의 관계에서 발생하는 새로운 윤리적 문제들, 특히 인간과 인공지능 간의 ‘인공 친밀성’에 대한 논의를 통해 인간의 감정 기제를 자극하여 발생하는 복잡한 사회적 현상을 설명한다. 인공지능의 도덕적 지위, 자율성, 그리고 감성주의를 중심으로 AI와 인간의 미래 관계를 철학적으로 조명하며, 인공지능 시대에 새로운 도덕적 기준을 모색한다.

AI가 자율성과 의식을 갖추게 될 경우, 인간과 유사한 도덕적 지위를 부여할 필요가 있는지를 논의한다. 특히 감성주의 관점에서 현상적 의식을 도덕적 지위의 필수 조건으로 제시하며, AI와 인간의 관계가 어떻게 재정립될 수 있는지를 다룬다. 또한, ‘인공 친밀성’ 개념을 통해 AI와의 감정적 유대가 가져올 사회적 영향도 고찰한다.

정태창
공주대학교 교양학부 부교수다. 서울대학교에서 “민주주의의 규범적 기초로서의 자율성에 대한 연구: 하버마스와 롤스를 중심으로”로 철학 박사학위를 받았다. 성신여자대학교, 건국대학교, 서울시립대학교, 서울대학교에서 강의했으며 서울시립대학교에서 박사 후 연구원(2018∼2020)을 지냈다. 사회철학, 정치철학, 윤리학이 주된 연구 분야다. 저역서로 『가정폭력과 포퓰리즘』(공역, 2023)이 있으며, “자아 없는 자율성: 인공지능의 도덕적 지위에 대한 고찰”(2020), “좋은 삶의 형식적 개념에 기초한 물화의 재정식화”(2022), “친밀성의 물화”(2023), “인공지능의 도덕적 지위와 현상적 의식”(2024) 등 16편의 논문을 등재학술지에 게재했다.

인간-인공지능 관계성의 미래

01 인공지능의 도덕적 지위에 대한 논쟁
02 인공지능의 자율성과 도덕적 지위
03 로봇 자율성의 단계들
04 인공지능의 자아 없는 자율성
05 인공지능은 자기 이익을 가질 수 있는가?
06 인공지능의 도덕적 지위와 현상적 의식
07 인공지능과 기능주의
08 관계론적 입장과 상대주의
09 인공지능과 인간중심주의
10 인공지능의 의인화 경향

관계론적 입장은 속성론적 입장에 원리적으로 내재해 있는 이러한 배제의 문제를 극복할 수 있다는 점에서 매력적인 대안으로 간주된다. 그것은 인류의 도덕적 진보의 과정으로서 ‘포함(inclusion)’의 역사, 즉 평등한 도덕적 지위를 인종, 나이, 성별, 계층 등의 특정 속성과 상관없이 인간 일반으로 확장하고, 더 나아가 동물을 비롯한 생물들에게 도덕적 지위를 부여해 우리의 도덕 공동체 안으로 포함시켜 온 역사에 잘 부합하는 관점으로 생각된다. 관계론적 입장에 따라 ‘인격성(personhood)’의 관념을 인공종으로 확장하고 인공지능을 우리의 도덕 공동체 안에 성원으로 포함시키는 것은 도덕적 진보로 볼 수 있다는 것이 이 입장을 지지하는 학자들의 관점이다.
－01_“인공지능의 도덕적 지위에 대한 논쟁” 중에서

현재 시판되는 자율주행 자동차는 LORA를 기준으로 할 때 7단계 이하에 속하는 수준으로, 인간의 운전을 인공지능이 보조하거나 혹은 특정한 상황에서만 인공지능이 주행을 맡는 식이다. 미국 자동차공학회에서는 자율주행 기술의 등급을 레벨 0에서 5까지로 구분하는데, 현존하는 자율주행 자동차는 레벨 0에서 2 정도의 수준이다. 앞으로 자율주행 자동차가 레벨 5인 ‘완전 자동(full automation)’에 이르면 차에서 운전대와 페달이 완전히 제거되고, 탑승자는 운전에 전혀 개입하지 않고 목적지만 입력하면 된다. 레벨 5에 해당하는 자율주행 자동차는 LORA에 따라 완전한 로봇 자율성을 갖는 것으로 생각할 수 있을 것이다.
－03_“로봇 자율성의 단계들” 중에서

어떤 사람의 접근 의식을 인공지능을 이용해 똑같이 복제하고, 그 사람을 외형상 완벽하게 구현하는 로봇에 그러한 인공지능을 탑재해 그 사람과 겉보기에 똑같이 말하고 행동하는 안드로이드를 만들어 낸다고 하더라도, 그것이 그에 상응하는 현상적 의식을 갖지 않는 한 그것은 철학적 좀비로서 도덕적 지위를 갖지 않는 자동기계(automaton)에 불과할 것이다. 그러한 자동기계를 총으로 위협하면 겉보기에는 사람과 똑같이 두려워하는 모습을 보이고 살려 달라고 말할 수도 있지만, 그것을 파괴하면 컴퓨터의 전원을 끄는 것과 마찬가지로 일련의 기계 작동이 정지될 뿐 어떠한 도덕적 해악도 발생하지 않을 것이다.
－06_“인공지능의 도덕적 지위와 현상적 의식” 중에서

인공지능에 대한 종차별주의가 성립하기 위해서는 인공지능이 도덕적 지위를 갖는다는 점이 먼저 확립되어 있어야 한다. 차별이라는 것은 동등한 것들을 동등하지 않은 방식으로 대우할 경우에 성립하므로, 먼저 관련 존재자들 간에 어떤 측면에서 동등성이 존재하는지가 제시되어야 한다. 예를 들어 동물 해방을 주장하는 싱어의 경우에는 인간과 동물이 쾌락과 고통을 느끼는 능력이라는 측면에서 동등하다는 점을 보인 뒤, 이에 기초해 동물의 고통을 동등하게 고려하지 않으면 종차별주의를 범하게 된다고 주장한다.
－09_“인공지능과 인간중심주의” 중에서