AI 로봇 윤리

기계 윤리로 새로 쓰는 인간 윤리
AI 기술의 발전과 로봇의 자율성이 높아짐에 따라 AI 로봇 윤리가 중요한 주제로 부각되고 있다. AI 로봇 윤리는 인간의 지능을 모방한 기계가 어떻게 윤리적 판단을 내릴 수 있는지, 그리고 이러한 기계와 인간이 어떤 윤리적 관계를 가져야 하는지를 탐구하는 학문이다. 로봇 윤리학은 로봇의 제작과 사용에 있어 인간이 따라야 할 윤리와, 로봇 자체가 따라야 할 윤리적 규범을 다룬다.
이 책은 AI 로봇의 자율성, 도덕적 책임, 권리 등의 이슈를 심도 있게 다루며, 로봇이 단순한 기계를 넘어 도덕적 행위자가 될 가능성까지도 탐구한다. 특히 AI 로봇이 인간 사회에서 점점 더 중요한 역할을 맡게 되는 상황에서, 인간과 로봇 간의 공생 윤리와 로봇의 권리에 대한 논의는 필수적이다. 로봇이 인간과 동등한 도덕적 권리를 가지게 될 미래를 대비해 새로운 윤리적 지평을 제시한다. 기존의 인간 중심 윤리에서 벗어나, AI 로봇이 윤리의 주체로서 인정받을 수 있는 방향을 모색하며, AI 로봇 시대에 필요한 윤리적 대안을 제시하는 것이 중요하다.

AI 로봇 윤리는 AI 기술과 로봇의 자율성이 높아짐에 따라 등장한 새로운 학문이다. AI 로봇의 윤리적 판단, 도덕적 책임, 권리 등을 탐구하며 인간과 로봇 간의 공생 윤리와 로봇의 권리에 대한 논의를 통해 미래의 윤리적 지평을 제시한다.

김상득
전북대학교 철학과 교수다. 서울대학교 철학과를 졸업하고 동 대학원에서 “응용윤리학 방법론 연구”로 철학박사 학위를 받았다. 서울대학교와 서울교육대학교 등에서 강의했으며, 연세대학교 의과대학에서 Post-Doc. 과정과 연구강사를 역임했고, 미국 조지타운대학교 케네디윤리학 연구소에서 객원 연구원으로 활동한 바 있다. 생명 윤리, 인공지능의 윤리, 사회 정의 등에 관심을 갖고 연구하고 있다. 저서로 『알기 쉬운 윤리학』(2013), 『유전자 윤리학』(2009), 『생명의료 윤리학』(2000) 등이 있으며, “AI 로봇의 책임 공백에 관한 윤리학적 연구”(2024), “낙태법 관련 헌법재판소 결정에 관한 ‘윤리 법정’”(2023), “기계의 메타 윤리학”(2020), “소수집단 우대 조치에 관한 윤리학적 연구”(2017) 등의 논문이 있다.

기계가 윤리를 만나다

01 로봇 윤리와 기계 윤리
02 AI 로봇 존재론
03 AI 로봇의 윤리 판단
04 AI 로봇과 도덕 행위자
05 윤리적 AI 로봇
06 도덕적 튜링 테스트
07 전쟁 로봇의 윤리
08 터널 문제와 자율 주행 자동차의 정의
09 젠(Gen) AI와 로봇의 권리
10 AI 로봇의 도덕적 책임

로봇 공학의 발달로 인해 제기되는 윤리 물음은 크게 둘로 구분된다. 하나는 인간 및 사회에 미치는 윤리적 해악을 최소화하기 위해 개발자, 제작자, 그리고 사용자가 어떻게 해야 하는가의 물음을 다루는 로봇 윤리학이고, 다른 하나는 로봇 자체가 어떻게 윤리적으로 행동할 수 있도록 할 것인가의 물음을 다루는 기계 윤리학이다. 기계 윤리학은 로봇이 도덕 행위자가 될 수 있는가와 같은 보다 철학적인 물음을 다룬다.
－01_“로봇 윤리와 기계 윤리” 중에서

그러면 로봇은 도덕 행위자가 될 수 없는가? 일관성의 논리에 따르면 로봇이 도덕 행위자가 될 수 있는 길은 두 가지다. 하나는 도덕 행위자의 기준을 로봇도 충족시킨다는 것을 보여 주는 방안이고, 다른 하나는 도덕 행위자의 기준 자체를 수정하는 방안이다. 전자의 방안은 쉬운 일이 아니다. ‘의도적인 마음’이라는 개념에서 알 수 있듯이, 기계가 마음을 지닐 수 있다는 데에는 우리 모두가 의아하게 생각하기 때문이다. 기계가 마음마저도 지닌다면 만물의 영장으로서 인간의 지위는 더는 유지되기 어렵지 않은가?
－04_“AI 로봇과 도덕 행위자” 중에서

도덕의 본질은 도덕 판단을 내리고 도덕적 행위를 하는 현상에 있는가, 아니면 이러한 판단과 행위의 주체에 해당하는 형이상학적 실체에 있는가? AI 로봇의 도덕 행위자 가능성에 관한 입장은 이 물음에 대한 대답에 따라 갈라진다. AI 로봇의 도덕 행위자 가능성에 대해 후자의 입장은 반대하지만, 전자의 입장은 긍정한다.
－06_“도덕적 튜링 테스트” 중에서

사회적으로 유용하면 우리는 합의를 통해 인간이 아닌 실재에 대해서도 권리를 부여할 수 있다. 그 단적인 예가 기업이다. AI 로봇에 대해서도 사회적 합의를 통해 우리는 권리를 부여할 수 있다. AI 로봇에게 권리를 인정하는 것이 그렇지 않는 것보다 사회적으로 유용하다면 우리는 얼마든지 AI 로봇의 권리에 대해 사회적 합의에 도달할 수 있다. 실제로 유럽연합은 로봇을 ‘전자 인간(electronic persons)’으로 규정하고 있다. 특허권이나 저작권에서 알 수 있듯이, 젠 AI의 생성물에 대해 젠 AI 자체에게 그 권리를 인정하지 않을 경우 누구에게 그 권리가 귀속되는가의 물음이 발생한다. 만약 제작자나 설계자에게 귀속된다면 ‘AI 디바이드’가 사회적 불평등을 더욱 부채질할 것이다.
－09_“Gen AI와 로봇의 권리” 중에서