AI 자율주행차의 리걸 이슈

AI가 운전하는 시대, 법은 어디까지 준비됐는가
샌프란시스코의 로보 택시가 상용화되고, 서울에서도 자율주행차 시험 운행이 시작된 지금, AI 운전자를 위한 법은 충분한가? 자율주행 레벨 4 이상 기술의 급속한 발전과 그에 따른 법적 공백을 통찰한다. 인간 운전자가 없는 도로에서 발생할 수 있는 사고의 책임, 형사 처벌, 보험 제도, 사이버 보안 등 법의 역할은 어디까지 가능한가?
이 책은 자율주행차와 관련한 국내외 법제, 인공지능 규제, 윤리 문제, 민형사 책임과 보험까지 포괄적으로 다룬다. 자율주행 시대에 적합한 규제 원칙은 무엇이어야 하는지, 기술의 혁신과 법의 안정을 어떻게 조율할 것인지, 균형 있는 시각을 제공한다. 기술은 빠르게, 규제는 신중하게. 그 사이 경계에서 법이 해야 할 고민을 정리한다.

자율주행차는 이미 현실이지만, 법은 여전히 인간 운전자 중심이다. AI 운전자 시대를 대비해 형사책임, 보험, 윤리, 데이터 등 주요 리걸 이슈를 총망라하며, 기술과 법의 균형점을 모색한다. 인공지능총서. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

황창근
홍익대학교 법과대학 교수. 연세대학교에서 행정법으로 법학 박사 학위를 받았다. 행정법과 정보법을 연구하고 있다. 군법무관(제9기)과 변호사를 거쳐 2007년 9월부터 홍익대학교에서 재직하고 있다. 한국정보법학회 공동회장, 국가행정법제위원회 위원, 중앙토지수용위원회 위원, 법제처 법령해석심의위원회 위원, 중앙행정심판위원회 위원 등으로 활동하고 있다. 주요 저서로 《자율주행차의 법과 윤리》(공저, 2020), 《이론&실무 정보통신망법》(공저, 2021), 《법정에서 영화보기》(2021) 등이 있다. 논문으로는 “방송통신위원회의 이중적 성격”(2024), “방송심의체계의 권한과 책임의 재조정”(2024), “행정형 직권조정결정의 쟁점과 입법과제”(2024), “이의신청에 대한 행정청의 결정과 그에 대한 불복”(2024) 등이 있다.

운전자 없는 자동차, 법은 어디까지 준비됐는가

01 AI 규제와 자율주행차
02 자율주행차의 윤리
03 자율주행차 규제 체계의 국내외 비교
04 자율주행차의 자동차 법규
05 자율주행차의 운전자
06 자율주행차와 개인정보 보호
07 자율주행차와 사이버 안전
08 자율주행차 운행과 민사책임
09 자율주행차 운행과 형사책임
10 자율주행차 시대의 책임보험제도

미국자동차공학회(SAE International)는 2014년 1월, 자율주행 기술을 레벨 0부터 레벨 5까지 총 6단계로 구분한 ‘SAE J3016 기준’을 발표했는데, 이는 오늘날 자율주행 기술의 국제 표준으로 자리 잡고 있다.
레벨 0(수동 운전)은 운전의 전 과정을 인간 운전자가 직접 수행하는 단계다.
레벨 1(운전자 보조)은 운전 보조 기능이 일부 제공되지만, 운전자가 대부분의 주행을 통제한다는 점에서 자율주행 단계로 보기는 어렵다.
레벨 2(부분 자동화)는 자동화 시스템이 차량의 조향 및 가속·감속 등을 제어하지만, 운전자가 시스템을 상시 감독해야 한다.
레벨 3(조건부 자동화)부터는 자율주행 시스템이 역동적 운전 작업(DDT, Dynamic Driving Task) 전부를 수행하며, 운전자는 시스템의 개입 요청에 대비해 대기한 후 비상 상황에 대응한다.
레벨 4(고도 자동화)는 자율주행 시스템이 운전 작업 및 비상 상황 대응까지 모두 수행하며, 사용자는 시스템 개입 요청에 응답할 필요가 없다. 단 주행 가능 조건이 사전에 정의된 작동 설계 영역(ODD) 내에서만 작동한다.
레벨 5(완전 자동화)는 환경 조건과 무관하게 모든 도로 및 상황에서 자율주행이 가능한 상태로, ODD의 제한이 없다.
－01_“AI 규제와 자율주행차” 중에서

일본의 자율주행차 입법은 ｢자동차법｣과 ｢도로교통법｣으로 구분해 살펴볼 수 있다. 먼저 ｢자동차법｣과 관련해 보면, 2019년 5월 자율주행차의 안전성 확보를 위한 제도 정비를 위해 ｢도로운송차량법｣을 개정해 자율 운행 장치의 개념을 정의하고, 안전 및 환경 기준을 포함한 기술 기준을 규정했으며, 2020년에는 자율주행 기능의 작동 시간 기록 장치 탑재를 의무화해 사고 시 책임 소재를 명확히 하도록 했다. ｢도로교통법｣에서는 2019년 12월 레벨 3 단계 자율주행차의 운행을 운전 행위에 포함시키고, 운행 기록 보존 의무 등을 규정했다. 2022년에는 레벨 4 단계에 해당하는 특정자동운행 허가 제도를 도입했다(제75조의2 이하). ‘특정자동운행’이란 무인 자율주행을 의미하며, 유사시 자율주행 시스템이 안전한 방법으로 차량을 정차시킬 수 있을 것을 조건으로 한다. 특정자동운행에 해당할 경우에는 ｢도로교통법｣상의 운전의 개념에서 제외된다는 점을 분명히 했다. 특정자동운행을 위해서는 허가를 받아야 하고, 허가를 받은 자를 ‘특정자동운행 실시자’로 하고, ‘특정자동운행 주임자’, ‘현장 조치 업무 실시자’ 등의 특정자동 업무 종사자를 지정하고 특정자동운행 전반에 대한 관리 책임을 부여하고 있다. 특정자동운행 실시자 등이 의무를 위반한 때에는 처벌 조항을 신설했다.
－03_“자율주행차 규제 체계의 국내외 비교” 중에서

적법성 근거 중 가장 큰 이슈는 정보 주체의 사전 동의 문제다. ｢개인정보보호법｣상 개인정보의 수집, 이용, 제3자 제공 등 처리에는 정보 주체의 개인정보 자기 결정권에 따라 사전 동의를 요구하고 있는데, 이는 여러 적법성 근거 중의 하나다. 수집의 적법성 근거는 동의 외에도 법률 규정, 공공기관 소관 업무, 계약 이행, 긴급한 필요, 정당한 이익, 공공의 안전 등이 규정되어 있다(제15조). 자율주행차는 운행 시 부지불식간에 탑승자나 타 차량의 운전자 및 승객, 보행자의 개인정보를 수집하는데, 그때마다 사전 동의를 요구토록 하는 것은 현실적으로 가능하지 않다. 특히 카메라 등을 이용한 영상 정보의 수집 등의 처리는 촬영 대상 및 범위를 확정할 수 없어서 사전적 권리 보장이 곤란하고, 정보 주체가 촬영 사실을 알기 어려워 사후적인 권리 행사도 제한되는 특성이 있다.
－06_“자율주행차와 개인정보 보호” 중에서

그러나 운전자의 운전 행위를 직접 대상으로 한 과실치사상죄의 처벌 논리가 자율주행차 시대에서도 그대로 유지할 수 있을까 의문이다. 레벨 4 이후에는 법률로 정한 책임 주체라고 하더라도, 인간 운전자가 구체적인 사고에 관해 가지는 주의 의무 위반에 상응하는 것이라고 하기 어려워, 법상 책임 주체가 형사책임을 지는 경우에도 그 책임의 본질은 결국 법률상 의무 위반인 행정형벌 정도라고 할 것이라고 본다. 따라서 레밸 4 이후의 교통사고에서는 피해자 구제나 범죄 억제의 효과는 형사책임과 더불어 충분한 민사책임을 병행하는 방향으로 설정하는 것이 바람직하다고 할 것이다.
－09_“자율주행차 운행과 형사책임” 중에서