AI 돌봄 윤리

돌봄의 자리, AI가 들어설 때
인공지능이 인간의 돌봄 노동을 대신하려는 오늘의 현실 속에서, “AI가 돌봄을 해도 괜찮은가?”라는 근본적인 질문을 던진다. 영화 〈월-E〉의 로봇이 보여준 ‘인간보다 더 인간적인 돌봄’처럼, 기술이 인간의 윤리적 책임을 대신할 수 있는가를 성찰한다. 단순히 돌봄 로봇의 효용을 따지는 데서 멈추지 않고, 돌봄 윤리라는 새로운 틀을 제시한다. 캐럴 길리건, 버지니아 헬드, 트론토 등의 논의를 따라 돌봄을 ‘관계 속에서 발생하는 윤리적 책임’으로 정의하며, 이를 AI와 로봇의 관계로 확장한다. ‘인공 돌봄 행위자(ACA)’라는 개념을 제안해, 돌보는 이-AI-보살핌받는 이가 함께 구성하는 윤리적 팀으로서의 가능성을 탐구한다. 기술이 인간의 손발을 넘어 마음의 영역으로 들어선 지금, 이 책은 AI 시대의 돌봄을 인간의 존엄과 관계성 속에서 다시 생각하게 만든다.

돌봄 노동의 위기 속에서 인공지능이 수행할 ‘돌봄’의 윤리적 조건을 탐색한다. 인간·AI·피돌봄자 간의 관계를 중심으로 새로운 돌봄 윤리의 틀을 제시하며, 기술이 아닌 관계에서 출발하는 윤리의 가능성을 모색한다. AI총서. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

김준혁
현재 연세대학교 치과대학 치의학교육학교실 조교수로 일한다. 연세대학교 치과대학을 졸업하고 동병원 소아치과 수련을 받았다. 펜실베이니아대학교 의과대학에서 의료윤리 석사를, 부산대학교에서 의료인문학 박사를 취득했다. 연세대학교 의과대학 의학교육학과에서 펠로우로 일했다. 한국의철학회 편집이사, 대한의료커뮤니케이션학회 학술이사, 한국의료윤리학회 이사 및 편집위원으로 활동하고 있다. 주요 저서로 《돌봄의 역설》(2024), 《모두를 위한 의료윤리》(2021), 역서로 《의존을 배우다》(2023), 《의철학 입문》(2023) 등이 있다. 주로 의료윤리 및 의철학 분야의 논문을 저술하였고, 국내외 등재지에 40편 이상의 논문을 발표하였다.

AI 돌봄 윤리가 필요한 이유

01 돌봄 위기와 AI
02 돌봄 윤리: 관계성
03 돌봄 윤리: 조율
04 돌봄 윤리: 상호 주관성
05 돌봄 윤리: 역능 강화
06 돌봄 윤리: 순환성
07 돌봄 윤리: 유동성
08 AI 돌봄 윤리의 제안
09 ACA의 구상
10 ACA: 클라라와 태양

돌봄의 필요는 넘쳐 나는데, 우리에게 돌볼 사람이 없다는 것이 문제가 된다. 이전 사적 책임의 영역에 놓였던 돌봄이 이제 공적 노동이 되었지만, 우리 사회는 아직 돌봄 노동에 정당한 가치를 부여하지 못하고 있다. 여전히 저임금 단순 노동으로 취급받는 돌봄이지만, 한편 우리는 점점 더 고급 돌봄을 원한다. 우리 아이를 돌보는 이는 아이에게 뛰어난 돌봄을 제공해야 한다. 노인으로서 내 물리적, 정서적 필요에 돌봄의 손길을 내미는 이는 능숙해야 한다. 가치 부여와 요청되는 노동 수준 사이에 점차 간극이 벌어지고 있으나, 이에 대해 관심을 기울이는 이는 없다. 그래서 대안으로 제시된 것이 로봇과 AI다.
－01_“돌봄 위기와 AI” 중에서

돌봄의 의도와 실천에서 핵심은 돌보는 자의 성향과 행위가 돌봄받는 자의 구체적 필요와 상황에 맞춰지는 데에 있다. 이는 단순히 일반적인 돌봄 기법이나 실천을 적용하는 것을 의미하지 않는다. 조율은 각 개인의 고유한 취약성, 선호, 그리고 맥락적 조건들을 민감하게 파악하고 그에 적합한 방식으로 돌봄을 제공하는 것을 의미한다. (…) 조율된 돌봄이란 먼저 이러한 개별적 차이를 인식하고, 자신의 돌봄 성향을 상대방의 실제 필요에 맞게 조정하여 발휘하는 것이다. 이때 중요한 것은 돌보는 자가 자신의 선입견이나 편의가 아닌, 돌봄받는 자의 관점에서 그들의 필요를 이해하려는 지속적인 노력이다.
－03_“돌봄 윤리: 조율” 중에서

결론부터 이야기하자면 AI 돌봄은 돌봄의 모든 층위에 개입한다. 당장 돌봄 로봇은 돌보는 이와 보살핌받는 이 사이 직접적인 1차적 돌봄 사이에 놓인다. 한편, 이런 AI와 로봇은 돌봄 노동을 줄이거나 보조, 보완하는 역할을 할 것으로 기대받는다(즉, 2차적 돌봄의 한 방식이다). 또한 자원 분배나 교환 등의 시스템적 차원에서 활용되는 AI는 개별 기관이나 심지어 국가 차원에서 돌봄 노동을 조직하고 지원하여 돌봄 노동을 효율화하는 한편 각자의 부담을 줄이는 방식으로 활용될 수 있다.
－06_“돌봄 윤리: 순환성” 중에서

이에 따라 우리는 AMA에서 한 걸음 나아가 ACA를 제안한다. ACA는 보편적 정의 대신 관계적 돌봄을 우선시하며, 이는 필연적으로 특정 돌봄 대상자에 대해서만 집중하는 행태를 보인다. 다시 말해, ACA는 모든 이에게 공평한 대우를 하는 것이 아니라, 자신이 돌보는 특정 개인의 필요와 가치를 우선적으로 고려하여 행동한다. 그런데, 로봇이 특정 대상에 대해 편파적으로(partially) 행동하는 것을 받아들일 수 있는가?
－09_“ACA의 구상” 중에서