AI 위험과 인간의 대응

미래를 준비하는 인간의 자세
AI는 편리함을 제공하지만 그에 따른 위험 관리 역시 매우 중요하다. 이 책은 AI가 가져올 다양한 위험을 이해하고 이를 어떻게 관리할 수 있는지에 대해 다룬다. AI의 부작용은 프라이버시 침해, 자율주행 사고 등 다양하며, 이는 신기술의 도입과 함께 발생하는 위험 중 일부다. AI에 수반되는 위험은 인간이 어떻게 대응하느냐에 따라 큰 차이로 다가올 수 있다. 여기서 위험 관리란 단순히 기술적 해결책을 제시하는 것에 그치는 것이 아니라 법적, 윤리적 문제를 포괄하는 접근을 의미한다.
AI 기술이 발전하면서 인간의 결정에 미치는 영향이 커지고 있다. AI의 고도화는 새로운 위험을 초래할 가능성이 크다. 이 책은 AI 위험을 자율 규제와 강제 규제의 두 가지 관점에서 설명하며, 각국의 규제 정책과 이에 대한 인간의 대응 방안을 심도 있게 다룬다. 10개 키워드로 구성된 이 책은 AI 규제의 역사적 흐름을 정리하며 해외와 국내 규제의 양식 변화를 살피고 AI 발전이 가져올 미래 사회의 방향성을 논의한다.

AI의 발전은 편리함과 함께 다양한 위험을 초래한다. AI로 인한 프라이버시 침해, 자율주행 사고 등 위험을 분석하고 이를 어떻게 관리할지 논의한다. 자율 규제와 강제 규제의 관점에서 AI 위험 관리 방안을 제시하며 법적, 윤리적 측면까지 포괄한 대응 전략을 제안한다.

박도현
GIST(광주과학기술원) AI대학원 조교수다. 서울대학교에서 경제학 학사, 법학 전문석사, 법학 박사학위를 받았다. 제5회 변호사시험을 합격했다. 박사학위 논문(“인공지능과 해악: 창발적 해악론을 중심으로”)으로 제6회 홍진기법률연구상 대상을 수상했다(2021). 서울대학교 컴퓨터공학부에서 ‘AI와 법’ 과목을 강의했다(2021∼2023). 과학기술정보통신부 인공지능 법제정비단 및 적극행정위원회, 전라남도자치경찰위원회 위원을 역임했거나 하고 있다. 주요 저서로 『포스트 챗GPT』(공저, 2023), 『인공지능 시대의 개인정보 보호법』(공저, 2022), 『인공지능 원론』(공저, 2021)이 있다. 주요 논문으로 “Automated decision-making in South Korea”(교신, 2024), “인간 편향성과 인공지능의 교차”(단독, 2022) 등이 있고, 약 20편의 논문을 KCI, SCIE, SSCI 등 등재학술지에 게재했다.

AI와 위험 관리

01 AI 위험의 정체
02 AI 원칙의 수립
03 신뢰성과 안전성
04 원칙에서 실천으로
05 기술 규제의 부상
06 위험 기반 AI 규제
07 한국의 AI 규제
08 AI 혁신과 규제
09 AI 전략과 규범
10 AI 위험의 미래

예컨대 자율주행 자동차의 도입으로 운수업에 종사하던 A가 직장을 잃고 자율주행 운수업체를 운영하는 B는 편익을 누렸다면, A의 임금을 보전할 수 있는 제도가 도입되어야 한다는 것이다. 요컨대 이러한 입장에 선 이들은 결국 인공지능의 도입이 모든 인간이 누리는 순편익의 기댓값을 증가시키거나 최소한 유지하기 위한 규제가 필요하다고 본다.
－01_“AI 위험의 정체” 중에서

초기 인공지능 거버넌스 논의는 주로 개발자가 실무에서 활용할 수 있는 일종의 체크리스트를 제공하는 형식으로 이루어졌다. 유럽연합의 자가점검 리스트가 대표적 사례였다. 유럽연합은 2019년 윤리 가이드라인을 발표하면서 이것을 실무에서 활용할 수 있으려면 개발자가 현장에서 맞닥뜨릴 만한 구체적 물음과 그 답변을 체크리스트 형태로 제공할 필요가 있다고 보았다. 그러면서 당시 제시한 신뢰성이라는 대원칙, 이를 뒷받침하는 네 개의 하부 원칙, 이를 실현하기 위한 일곱 개의 핵심 요구 사항별 체크리스트의 예시를 제시했다.
－04_“원칙에서 실천으로” 중에서

위험 기반 규제는 인공지능의 구체적 활용 맥락을 무시하고 위험이라는 단일한 차원의 개념으로 규제 실무를 단순화한 점에서 한계가 있다. 공정성, 책임성, 투명성을 필두로 한 다양한 거버넌스 논의가 수년 동안 진행되었으나 결국 모든 문제가 위험 규제로 환원되면서 의미가 퇴색된 셈이다. 나아가 고용, 교통을 비롯한 인공지능의 구체적 활용 영역별 위험의 양상을 고려하기 어렵기도 하다. 이러한 문제를 방지하려면 구체적 맥락을 고려하면서 법적 강제 규제에 자율 규제를 적절히 혼합하는 방식의 거버넌스를 도입할 필요가 있다.
－06_“위험 기반 AI 규제” 중에서

어떤 국가의 규제 당국은 이와 정반대로 강력한 규제를 통해 이익을 추구할 여지도 있다. 일각에서는 유럽연합이 개인정보보호법(GDPR)과 인공지능법(AI Act)을 통해 실제로 그러한 움직임을 보이고 있다고 지적하기도 한다. 이 두 법은 모두 해당 법을 위반한 주체에 대해 전 세계 연간 매출액의 일정 비율을 과징금으로 부과할 수 있도록 규정하고 있기 때문이다. 유럽의 막대한 인구와 경제력을 고려한다면 그 시장을 포기하기 어려운 상황에서, 규제 당국은 이를 기회로 삼아 글로벌 기업에 대해 일종의 ‘과징금 사업’을 진행할 여지가 있다.
－09_“AI 전략과 규범” 중에서