AI 범죄와 윤리적 책임 주체

AI 범죄와 책임 귀속의 윤리적 기준
AI가 더 공정하고 객관적일 것이라는 기대는 AI 심판, AI 판사, 자율주행차 같은 제도와 기술을 밀어붙이는 동력이 된다. 그러나 사고와 피해가 발생하는 순간, 문제는 성능이 아니라 책임 귀속으로 바뀐다. 이 책은 AI 범죄와 사건 사고를 ‘누가 책임져야 하는가’라는 질문으로 정면에서 다룬다. 로봇 살인 같은 극단적 상상부터 AI 가스라이팅, 통제와 지배, AI 학대와 분노의 확산까지, AI를 둘러싼 폭력과 공포가 결국 인간 사회로 되돌아오는 구조를 보여 준다. 대중 매체의 가상 사례와 실제 보도된 사건을 교차해 ‘만약 이런 일이 벌어진다면’의 경우의 수를 펼치며, 개발자·기업·사용자·사회 제도가 어떤 윤리적 책임을 져야 하는지 기준을 세운다. AI를 두려워하기 전에 AI를 어떻게 대우하고 어떤 목적을 부여할지 묻는 것이 인간의 가치와 공존의 조건을 지키는 출발점임을 강조한다.

AI는 공정함의 대안처럼 도입되지만, 사고와 범죄가 발생하면 책임 주체가 불명확해진다. 이 책은 AI 범죄의 다양한 경우를 통해 책임의 귀속 기준을 점검하고, AI 윤리가 인간의 가치와 공존의 조건임을 밝힌다. AI문고. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

최애순
계명대학교 타불라라사 칼리지 부교수다. 고려대학교에서 국어국문학 박사학위를 받았다. 고려대학교 국어국문학과에서 현대소설을 전공한 후, 탐정소설과 SF 등 대중문학을 연구했다. 주요 저서로 《조선의 탐정을 탐정하다- 식민지조선의 탐정소설사》(2011), 《공상과학의 재발견》(2022), 《한국 과학소설사》(2023) 등이 있다. 현재 연구는 SF에 이어서 우리의 미래가 어떻게 될 것인지, 어떤 방향으로 나아갈 것인지에 대한 유토피아/디스토피아에 관한 것이다.

AI 윤리의 필요성

01 AI 시대의 도래와 사건 사고들
02 AI 살인 범죄를 다룬 대중 매체
03 AI 학대
04 AI 가스라이팅
05 카렐 차페크의 《R.U.R》
06 웹툰 〈인간적인, 너무나 인간적인〉
07 청소년 SF 임태운의 〈로봇 짝꿍〉
08 청소년 SF 최영희의 〈안녕, 베타〉
09 웹툰 〈인간의 온도〉와 〈AI가 세상을 지배한다면〉
10 자율주행차 사고에서 윤리적 책임 주체

AI의 시대가 도래하고 인간은 AI 덕분에 편리하고 윤택한 생활을 누리게 될 것이라고 기대했다. 그러나 어느 순간부터 AI에 대한 부정적 감정들을 접하게 된다. 공포, 분노, 무기력 등과 같은 부정적 감정들은 AI가 인간의 삶을 위협한다고 느끼기 때문일 것이다. AI에게 일자리를 뺏길지도 모른다는 불안, AI 때문에 사고가 나서 불구가 됐다는 원망, AI 때문에 사회로부터 소외당하고 차별당한다는 억울함, AI 시대에 쓸모없는 사람으로 버려질 거라는 자포자기 등의 심리는 AI에 대한 참을 수 없는 ‘분노’로 표출된다.
－01_“AI 시대의 도래와 사건 사고들권” 중에서

AI 챗봇뿐만 아니라 AI 로봇을 발로 걷어차거나 부수는 등의 행위에 대해서도 논란이 일고 있다. 로봇에게도 동물권과 같은 도덕적 지위가 보장되어야 한다는 의견과 로봇은 감정이 없어서 아픔을 느끼지 않기 때문에 괜찮다는 의견으로 갈리고 있다. 그런데 이제 AI 로봇이 더 발전하게 되면 우리는 ‘AI 챗봇이나 AI 로봇을 어떻게 대해야 하는가’에 대해 고민해 보아야 하지 않을까 한다.
－03_“AI 학대” 중에서

ENA 드라마 〈아이쇼핑〉은 인간의 이기적 욕망이 어디까지 갈 수 있는지의 끝을 보여 준다. 인간은 AI 로봇이 마음에 들지 않으면 ‘시스템 종료’를 하고, 구매한 물건이 마음에 들지 않으면 ‘환불이나 반품’을 한다. 그런데 드라마 〈아이쇼핑〉은 제목 그대로 아이를 쇼핑하고 구매한다. 아기가 자신의 욕구에 부합하지 않으면 불량품으로 환불을 요구하거나 반품 처리한다. 반품 처리는 폐기 처분을 의미하고 그것은 곧 죽이라는 살인 지시다. ‘인간적인 로봇’을 죽이는 것과 물건 취급된 인간을 죽이는 것을 같은 사건으로 볼 수 있는가.
－06_“웹툰 〈인간적인, 너무나 인간적인〉” 중에서

웹툰 〈AI가 세상을 지배한다면〉은 AI를 사용하는 인간이 ‘선한 의도’가 아닐 경우의 위험성을 경고한다. AI 범죄는 인간의 의도가 개입될 수밖에 없다. 인간의 의도에 따라 어떤 AI를 만들지가 결정되기 때문이다. 그러나 인간은 불완전하고 유한한 인생을 살기 때문에, 인간의 의도가 모든 경우 선할 것이라고 확신할 수 없으며 인류에게 이로울 것이라고 장담할 수 없다. 어떤 의도로 개발하는지, 어떤 목적으로 활용할 것인지에 대한 명확한 윤리적 기준이 마련되어야 할 것이다.
－09_“웹툰 〈인간의 온도〉와 〈AI가 세상을 지배한다면〉” 중에서