AI와 보험

AI, 위험을 만드나, 책임지나?
AI 기술이 생활 속에 깊이 들어온 지금, 그로 인한 새로운 위험에 어떻게 대비할 수 있을까. 인공지능 시대의 도래와 함께 필연적으로 증가할 수밖에 없는 위험을 보험이라는 사회적 장치로 어떻게 감당할 수 있을지 체계적으로 설명한다. 자율주행차, 의료 로봇 등 AI가 야기할 수 있는 사고 위험을 짚고 기존 과학기술 발전에 맞춰 등장했던 보험 사례들을 바탕으로 AI 보험의 필요성을 제시한다. AI 사고는 기존 사고와 성격이 다르며, 예방만큼이나 신속한 사후 보상도 중요하다.
이 책은 AI 관련 사고에 대한 책임 소재 문제와 그에 따른 보험 제도의 설계를 다룬다. 자율주행차 보험, 실외 로봇 보험, 의료 AI 보험 등의 실제 사례를 분석하며, 인공지능 시대에 맞는 보험 체계를 제안한다.
AI 시대의 위험을 어떻게 담보할 것인가라는 물음 앞에서, 이 책은 과학기술과 법, 경제, 그리고 보험의 교차점에서 균형 잡힌 해답을 찾고자 한다.

AI 시대의 새로운 위험에 보험이 어떤 역할을 할 수 있는지를 다룬다. 자율주행차, 의료 로봇 등 AI 활용이 늘며 사고 위험도 증가하는 지금, 보험이 예방과 보상의 핵심 수단이 될 수 있음을 설명한다.

황현아
보험연구원 보험법연구실 실장이다. 46회 사법시험 합격 후 법무법인 화우 금융팀에서 근무했다(2007~2016). 인디애나주립대학교(블루밍턴)에서 LLM 과정을 마치고(2013), 뉴욕주 변호사 자격을 취득했으며(2014), 고려대학교 법학과(상법전공)에서 박사과정을 수료했다(2014). 2016년부터 보험연구원에서 보험 관련 법제도를 연구하고 있다. 자율주행차, 모빌리티, 인공지능 보험 제도 연구에 주력하고 있으며, 국토교통부 ‘자율주행차 융복합 미래포럼’과 지능정보사회진흥원 ‘인공지능 법제도 포럼’에 참여하고 있다. 주요 저서로 『자율주행차 사고 책임법제 및 보험제도: 레벨4 주요국 제도 비교를 중심으로』(2023), 『보험약관 해석 기준 연구: 작성자 불이익 원칙을 중심으로』(2022), 『주요국의 자동차보험제도: 배상책임법제 및 의무보험제도를 중심으로』(2020), 『의료배상책임의 현황과 과제: 보상체계 중심으로』(2020) 등이 있다.

AI 시대의 위험과 보험

01 위험과 보험
02 책임과 보험
03 인공지능 사고와 위험
04 인공지능 사고와 책임
05 인공지능 책임보험
06 인공지능 의무보험
07 자율주행차 보험
08 실외 이동 로봇과 보험
09 의료 인공지능과 보험
10 보험 산업과 인공지능

위험에 대한 사후 구제 수단으로서 보험의 역할을 이해하려면 먼저 보험의 개념부터 알아볼 필요가 있다. 국어사전에서는 보험(保險)을 ‘손해를 물어 준다거나 일이 확실하게 이루어진다는 보증’이라고 정의한다. ‘손해를 물어 주는 것’ 또는 ‘어떤 일을 확실하게 해 주는 것’이 보험의 본질이다. 이는 앞에서 본 ‘위험’ 개념과 연결된다. 위험은 ‘해로움이나 손실을 발생시키는 것’ 또는 ‘어떤 일이 불확실한 상태에 놓이는 것’인데, 보험은 이러한 해로움, 손실, 불확실성을 해소해 주는 것이기 때문이다. 한자어의 뜻을 보면 의미가 더욱 명확해진다. ‘보(保)’는 ‘지키다’, ‘보호하다’, ‘보증하다’, ‘책임지다’라는 의미이고, ‘험(險)’은 위험을 의미한다. 위험으로부터 무언가를 지키고, 보호하고, 위험이 현실화하더라도 손실 회복을 보증하고 책임지는 것이 바로 보험이다.
－01_“위험과 보험” 중에서

보험을 이용한 인공지능 사고 위험 대응 방안은 크게 두 가지 접근이 가능하다. 첫째, 인공지능 사고에 대한 책임법제를 전제로 책임보험을 마련하는 방안이다. 인공지능 사고가 발생했을 때 누가, 어떠한 요건에 따라, 어느 정도 범위의 책임을 부담해야 하는지를 법에서 정하고, 그 책임법제에서 정한 책임 주체가 사고에 대한 손해배상책임을 부담하되, 실제 보상은 보험을 통해 이루어지도록 하는 방법이다. 이때의 보험은 자동차보험의 대인·대물 배상 담보 및 전문직 배상책임보험과 유사한 형태가 된다. 둘째, 책임법제와 관계없이 피해를 보상할 수 있는 보험 제도를 마련하는 것이다. 이때 보험은 타인의 손해에 대한 배상책임을 담보하는 배상책임보험이 아니라, 자기 자신이 입게 될 손해를 담보하는 손해보험으로, 자동차보험 중 자기신체사고와 자차보험, 건강보험과 유사한 형태다.
－03_“인공지능 사고와 위험” 중에서

인공지능 사고의 형태와 위험성은 인공지능 활용 분야와 목적에 따라 달라질 수 있다. 교통이나 의료같이 인간의 생명·신체에 직접적인 위해를 야기할 수 있는 분야에서 인공지능을 활용할 경우 사고의 위험성도 크다. 금융의 경우 교통이나 의료에 비해서는 인공지능 사고 위험이 상대적으로 낮지만, 고객을 평가하여 금융 서비스 제공 여부를 결정하는 데 인공지능이 쓰인다면 이야기가 달라진다. 한편 인공지능 활용으로 새롭게 위험이 창출되는 경우도 있다. 인공지능을 이용하여 고객의 생체 정보를 실시간으로 식별하거나, 인공지능이 고객의 신용 등급을 평가하는 경우 등이다.
－06_“인공지능 의무보험” 중에서

의료 인공지능을 활용하여 의료 행위를 수행하는 과정에서 의료 인공지능이 오작동하였더라도 그 의료 행위의 책임은 원칙적으로 의료인에게 귀속된다. 의료인은 인공지능의 인지와 판단을 전적으로 신뢰해서는 안 되고 스스로 판단해야 하며, 인공지능의 제어에 전적으로 의존해서는 안 되고 직접 통제해야 하기 때문이다. 따라서 의료 행위 과정에서 발생한 사고에 의료 인공지능의 오작동이 개입되었다 하더라도 환자에 대한 의료인의 책임은 없어지거나 줄어들지 않는다. 물론 의료인과 의료기기 회사 간의 책임 공방은 남게 되지만, 이는 계약법이나 제조물책임법으로 해결되어야 할 것이며, 환자에 대한 의료인의 책임에는 영향을 미치지 않는다.
－09_“의료 인공지능과 보험” 중에서