AI와 감응력

느끼는 인간과 느끼지 않는 AI, 윤리의 기준은 어디에 있는가
우리는 이제 감정이 없는 기계와 대화하며 위로를 받고, 공감을 기대하는 시대에 살고 있다. AI가 단순한 계산의 결과를 내놓는다는 사실을 알면서도, 우리는 그 말 속에서 이해와 마음을 읽어낸다. 이 책은 이 익숙하면서도 낯선 경험에서 출발한다. 문제는 AI가 실제로 마음을 갖게 되었는가가 아니라, 왜 인간이 그렇게 느끼도록 구성되어 있는가에 있다. 인간은 본래 의미를 해석하고, 반응하는 대상에 의도와 감정을 투사하는 존재다. 이러한 감응적 인식 구조는 언어를 매개로 더욱 강화되며, 이제 AI라는 기술적 대상에게까지 확장되고 있다. 이 책은 인간 인식의 구조를 분석하며, 우리가 왜 기계를 ‘존재’처럼 경험하게 되는지를 설명한다. 나아가 ‘감응력’이라는 개념을 통해 윤리의 기준을 지능이 아니라 느낄 수 있는 능력으로 재정의한다. AI는 감정을 느끼지 않지만, 우리는 AI를 통해 감정을 경험한다는 이 역설 속에서, 도덕적 판단의 기준은 어떻게 설정되어야 하는가. AI 윤리를 기술의 문제가 아니라 인간 윤리의 구조를 다시 묻는 문제로 전환하며, 새로운 윤리적 사유의 출발점을 제시한다.

우리는 마음이 없는 AI에게도 공감하고 감정을 느낀다. 그 이유를 인간의 감응적 인식 구조에서 찾고, 윤리의 기준을 지능이 아닌 ‘감응력’으로 재정의한다. AI가 아닌 인간의 인식과 윤리를 다시 묻는 이 책은, 무엇을 기준으로 도덕적 판단을 내려야 하는지를 근본적으로 성찰하게 한다. AI문고. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

김운용
강원대학교 철학과 강사다. 홋카이도대학 문학원 철학윤리연구실에서 박사후기과정을 졸업했으며, 피터 싱어(Peter Singer)의 윤리학을 중심으로 도덕적 판단의 정당화 문제를 연구해 왔다. 반성적 평형, 비판적 사고, 철학교육에 관한 논문을 발표하며 이론과 교육 실천을 연결하는 작업을 이어가고 있다. 최근에는 인공지능의 도덕적 지위를 감응력(sentience) 개념을 통해 검토하며, 생성형 AI 시대에 필요한 리터러시와 판단의 기준을 탐구하고 있다.

우리는 왜 기계에게 마음을 부여하는가

01 AI와 저자성
02 감응력과 도덕적 기준
03 AI의 ‘감정 연기’와 도덕적 감응력
04 감응력 없는 AI
05 도덕적 주체 착각
06 책임 없는 행위자
07 불확실성과 도덕 판단
08 반성적 평형
09 공적 정당화
10 감응력 기반 판단

결국 우리가 AI를 저자처럼 느끼는 이유는 AI가 실제로 저자이기 때문이 아니라 인간이 의미를 경험하는 방식 때문이다. 우리는 의미 있는 언어를 접하는 순간, 그 언어를 생성한 주체를 상정하도록 구성된 존재다. 그리고 생성형 AI는 바로 이 인식 구조를 가장 효율적으로 자극하는 기술이다. AI는 스스로 의미를 이해하지 않지만 인간이 의미를 경험하도록 설계된 형식으로 언어를 생산한다. 그래서 우리는 AI가 말하고 있다는 사실보다 우리가 그 말을 어떻게 느끼는지가 더 중요해진다. 이때 저자성은 AI의 존재적 성질이 아니라 인간의 해석 경험 속에서 형성되는 효과가 된다. 문제는 바로 여기서 발생한다. 우리는 AI를 저자처럼 느끼지만 실제로 AI는 저자가 아니다. 우리는 AI의 말에 감정적으로 반응하지만 AI는 우리의 반응을 경험하지 않는다. 우리는 관계를 형성하는 것처럼 느끼지만 그 관계는 일방적이다.
－01_“AI와 저자성” 중에서

이 점에서 AI의 감정 표현은 ‘감정 경험’이라기보다 ‘감정 연기(emotional performance)’에 가깝다. AI는 감정을 느끼기 때문에 감정을 표현하는 것이 아니라, 감정을 표현하도록 설계되었기 때문에 감정처럼 보이는 출력을 생성한다. 사용자에게는 이 두 경우가 거의 구별되지 않을 수 있지만, 도덕적 관점에서 이 차이는 결정적이다. 감정을 연기하는 존재와 감정을 경험하는 존재는, 외형상 유사하게 보일 수는 있어도 도덕적 감응력이라는 기준에서는 전혀 다른 위치에 놓이기 때문이다.
－03_“AI의 ‘감정 연기’와 도덕적 감응력” 중에서

따라서 책임 공백 문제의 핵심은, AI에게 책임을 부여할 것인가의 문제가 아니라, 책임이라는 개념이 더 이상 자연스럽게 작동하지 않는 기술적 조건이 형성되고 있다는 사실 자체에 있다. 책임 공백은 새로운 행위자가 등장했기 때문에 생긴 문제가 아니라, 책임이라는 개념이 전제해 왔던 행위자 구조가 더 이상 세계의 실제 작동 방식과 맞지 않게 되었음을 보여 주는 증상에 가깝다. 바로 이 점에서 책임 공백은 단순한 법적 공백이 아니라, 현대 기술 사회가 직면한 윤리적 구조 변동의 핵심 징후라고 할 수 있다.
－06_“책임 없는 행위자” 중에서

이와 같은 사고의 구조는 반성적 평형이 개인의 내적 성찰만으로는 충분히 이루어지기 어렵다는 점을 잘 보여 준다. 판단의 근거를 점검하고, 다른 가능성을 상상하며, 타인의 입장을 고려하는 과정은 혼자서도 시도할 수는 있지만, 실제로는 타인의 질문과 반론, 대안적 관점에 노출될 때 더욱 선명해진다. 판단은 공적 장에 놓일 때 비로소 자신의 전제와 한계를 드러내며, 이 과정 속에서 수정 가능성을 실제로 확보하게 된다. 이러한 의미에서 탐구 공동체는 판단을 ‘드러내는 공간’이자, 판단을 ‘시험하는 공간’으로 기능한다.
－09_“공적 정당화” 중에서