AI와 책임

책임 공백이라는 시대 과제
AI의 발전이 가져오는 이점과 함께, ‘책임 공백’이라는 새로운 윤리적, 법적 문제가 떠오르고 있다. 이 책은 AI와 책임의 문제, 특히 AI 오작동 시 책임 소재가 모호해지는 상황을 중심으로 다룬다. 전통적인 법체계는 인간의 자유의지에 기반한 의도와 예견 가능성을 기준으로 책임을 묻는다. 그러나 자율적인 AI의 등장으로 이 기준이 도전받고 있다. 자율적 로봇이 예측할 수 없는 방식으로 작동해 피해를 초래했을 때, 그 책임을 누구에게 물을 것인가 하는 문제가 발생한다.
책임 공백을 해결하기 위한 한 가지 제안은 자율적 AI에게 ‘의제인격’을 부여해 법적 책임을 지게 하자는 것이다. 그러나 이 접근은 복잡한 법적, 윤리적 문제를 야기할 수 있다. 또한, AI의 복잡성과 불투명성으로 인해 발생하는 책임 공백을 해결하기 위해서는 AI의 투명성을 높이고, 소송에서의 입증 책임을 조정하는 등의 제도적 특례가 필요할 수 있다. AI 거버넌스는 단순히 기술 규제를 넘어서, AI와 사회가 상호작용하는 방식을 이해하고 조율하는 역할을 해야 한다. AI의 발전과 함께 그 책임을 명확히 하고, 이를 관리할 거버넌스를 구축하는 것이 오늘날 중요한 과제다. 이 책은 이러한 AI 책임 문제를 다루며, 독자들에게 AI와 법, 윤리의 복잡한 관계를 이해할 수 있는 통찰을 제공한다.

AI의 자율성으로 인한 책임 공백 문제가 발생하고 있다. 자율적 AI가 예측할 수 없는 방식으로 작동할 때 책임 소재가 모호해지는 문제를 해결하기 위해, AI에게 법적 책임을 부여하는 방안 등이 논의되고 있다. 이 책은 AI와 책임 문제를 다루며, 관련된 법적, 윤리적 과제를 탐구한다.

정해빈
헌법재판소 헌법연구관이다. 서울대학교 경제학부와 법학전문대학원을 졸업하고, 동 대학원에서 법경제학 전공으로 법학박사과정을 수료했다. 제6회 변호사시험에 합격한 뒤 공익법무관을 거쳐 수원지방검찰청 안산지청에서 검사로 근무하다 헌법재판소로 자리를 옮겼고, 서울대학교 인공지능 정책 이니셔티브(SAPI)에서 비상임연구원으로 활동하고 있다. 헌법경제학과 인공지능 정책 등이 주된 연구 분야이며, 논문으로 “인공지능과 차별”(공저, 2019), “인공지능과 시장경쟁: 데이터에 대한 규율을 중심으로”(공저, 2019) 등이 있다.

AI와 책임 공백

01 1980년대의 AI와 책임
02 AI의 기술 혁신과 규제
03 자동화의 노동경제학과 책임
04 자동화의 인간공학과 책임
05 노동, 여가, AI와 책임
06 AI의 이용자, 소비자와 책임
07 책임 공백 담론의 재검토
08 안전 규제와 범용 기술
09 상용화, 안전기준, 그리고 사용 방법
10 AI 거버넌스의 방향

책임 공백 담론에서 출발한 논의들이 보이는 모습이 그때나 지금이나 별반 다를 바 없다는 점은, 그 담론이 사실은 AI 기술에 대한 정책 수립에 집중하는 현실적 고찰이 아니라 자율성, 불투명성 등의 이런저런 추상화한 개념항들을 AI라는 상상 속의 관념에서 추출해 낸 다음, 이를 자유의지나 책임성에 관한 오래된 수수께끼들에 빠뜨려 사상시키는 고식적 사고 실험의 한 갈래에 지나지 않음을 간접적으로 드러낸다.
－01_“1980년대의 AI와 책임” 중에서

애니메이션에 필요한 원화를 그리는 애니메이터들이 근무하는 사무실을 예시로 들어 보자. 원래 원화가 10명이 근무하며 주당 3만 장의 프레임을 직접 그려 내던 상황에서, 적절한 키워드를 입력하면 그에 맞는 그림을 생성하는 생성형 AI 기술을 도입해 똑같이 주당 3만 장을 생산해 내면서도 7명의 원화가만 근무하게 되는 상황으로 바뀌었다면, 새로 도입된 생성형 AI는 원화가 3명을 ‘대체’한 것일까?
－03_“자동화의 노동경제학과 책임” 중에서

예를 들어 형식적으로 가해자와 피해자를 구분해 피해자의 과실이 큰 경우에도 언제나 가해자에게 일차로 책임을 묻던 옛 책임법상의 원칙은, 법경제학이 등장하기 이전에도 피해자의 과실이 크다면 쌍방 과실이 상계된다고 보아 형식적 가해자라도 과실이 적은 자에게는 책임을 덜 묻거나 묻지 않는 방향으로 점차 변해 왔다. 그러나 이러한 변화가 어떻게 정당화될 수 있는지를 명쾌하게 설명하는 법원리가 등장하지는 못했는데, 이를 해결한 것이 법경제학의 최소비용 회피자 원리다.
－06_“AI의 이용자, 소비자와 책임” 중에서

그럼에도 책임 공백 담론으로 대표되는 AI와 책임에 관한 종래의 논의들은 마치 AI를 자율적 로봇이라고 보아 인간이 하던 업무를 그대로 대체하는 것처럼 전제하고 논의를 전개해 왔는데, 이는 본래 인간이 하던 업무 상당수의 내용이 명확히 정의되어 있지 않을 뿐만 아니라 새로운 AI 기술에 통용되는 사용 방법이 무엇인지조차 정의되어 있지 않다는 중대한 논리적 허점을 조용히 건너뛰게끔 했다.
－09_“상용화, 안전기준, 그리고 사용 방법” 중에서