인공지능 거버넌스

새로운 지능을 맞이하는 시대의 도전
2023년, AI 전문가들은 인공지능의 위험을 경고하며 인류의 생존과 관련된 글로벌 우선 과제를 지정해야 한다고 주장했다. AI는 인간의 지적 능력을 컴퓨터 환경에 구현하는 기술로 생성형 AI의 등장과 함께 더욱 빠르게 발전하고 있다. AI 기술의 비약적 발전은 인류에게 새로운 지능과 공존할 준비가 되어 있는지 질문을 던지며 AI 거버넌스의 중요성을 부각시킨다. AI 거버넌스는 AI의 개발, 사용, 배포와 관련된 정책, 규범, 법률을 아우르며 인류의 이익을 위해 AI를 통제하고 활용하는 체제를 구축하는 데 중점을 둔다. AI 거버넌스는 기술적 안전성뿐만 아니라 정치경제적 역학 관계와 바람직한 거버넌스 체계를 탐색하는 연구로 나눌 수 있다. 기술적 변화 연구, AI 정치경제 연구, 이상적 거버넌스 연구는 AI 거버넌스의 핵심 요소다.
AI 거버넌스의 구체적 내용은 윤리적 규범, 위험 관리 규제, 기술 안보 조치 등으로 구성된다. 이들은 AI 기술의 상용화와 함께 정부와 민간에서 활발히 논의되고 있다. 예를 들어, 빅테크 기업들의 플랫폼 비즈니스, 자율주행 시스템, 자율제조 혁신 등 다양한 비즈니스 영역에서 AI 거버넌스가 중요한 역할을 한다. 이 책은 AI 기술 발전과 글로벌 지정학이 거버넌스에 미치는 영향을 조망하고, 이상적 거버넌스를 위한 원칙을 제시한다. AI 윤리 규범, 위험 관리 규제, 기술 안보 규율 등 실천적 양태를 분석한다. 또한 플랫폼 비즈니스, 자율주행, 자율제조 혁신 등 비즈니스 현실에서 AI 거버넌스와 관련된 쟁점을 다룬다.

AI 기술의 발전과 함께 나타나는 윤리적, 사회적, 안보적 문제를 다루며, AI 거버넌스의 중요성을 조명한다. AI 거버넌스는 AI의 개발, 사용, 배포와 관련된 정책, 규범, 법률을 포함하며, 이를 통해 AI 기술의 안전성과 인간 중심의 통제를 보장하려는 노력을 다룬다.

김호철
산업통상자원부 부이사관이다. 현재 통상법무기획과장을 맡고 있으며 KDI 국제정책대학원 겸임교원이다. 서울대학교 법학전문대학원에서 법학전문박사학위를 받았다. 미국 조지타운 로스쿨에서 공부했고 버지니아주 변호사 자격을 취득했다. 저서로 『기후변화와 WTO: 탄소배출권 국경조정』(2011)이 있고, “인공지능 거버넌스와 통상규범의 과제”(2023), “산업의 디지털 전환, 글로벌 지정학과 통상협상 新 의제 검토”(2023) 등 20편 이상의 논문을 KCI, SSCI 등 국내외 등재학술지에 게재했다.

새로운 지능과 거버넌스

01 AI는 안전한가
02 기술 개발 중단 논란
03 글로벌 지정학
04 몇 가지 핵심 원칙
05 AI 윤리 규범
06 위험 관리 규제
07 기술 안보 조치
08 플랫폼 비즈니스
09 자율주행 시스템
10 자율제조 혁신

훈련된 데이터에 편향성이 있다면 부당하고 차별적인 결과물이 나올 수 있고, 이를 학습한 AI 시스템이 사회적 차별을 심화하는 부작용을 가져올 수 있다. 일례로 2014년부터 아마존은 AI 채용 시스템을 도입하려는 야심찬 프로젝트를 준비했으나, 남성 중심의 데이터셋으로 인해 여성에 대한 편견과 차별이 나타났고, 결국 프로젝트를 폐기했다. 2021년 한국에서 출시된 챗봇 ‘이루다’는 여성과 성소수자를 혐오하는 발언으로 서비스가 중단되기도 했다.

－01_“AI는 안전한가” 중에서

투명성은 그 맥락에 따라 다소 차이가 있다. 정책적 측면에서 투명성은 주로 의사 결정이 어떻게 이루어지는지, 누가 그 과정에 참여하는지, 어떤 요소를 사용하는지 등 내부를 공개하는 것이다. 반면 기술적 측면에서는 AI 시스템이 어떻게 개발되고 훈련되며 배치되는지를 일반인이 이해하도록 하는 것을 의미하며, 영업 비밀에 속하는 특정 소스코드나 데이터셋의 공개를 요구하지는 않는다. 어느 수준의 투명성을 요구할지 많은 논란이 있지만, AI 시스템의 투명성 원칙은 설명 가능성에 초점을 두어 그 결정과 행위에 대해 알아듣기 쉽게 설명할 것을 요구한다.

－04_“몇 가지 핵심 원칙” 중에서

규제 방식에서 상향식 접근과 하향식 접근이 구분된다. 상향식은 AI 행위자의 자율적 문제 해결과 능동적 참여를 강조하는 반면, 하향식은 AI 개발·사용에 대한 선험적 규칙과 제재 부과에 초점을 둔다. 전자에는 미국의 위험 관리 체제, 후자에는 EU 인공지능법이 해당된다.

－06_“위험 관리 규제” 중에서

자율주행차가 실제 도로를 주행하려면 그에 맞는 법적 체계가 갖추어져야 한다. 정부는 자율주행차의 안전성과 신뢰성을 확보하기 위해 다양한 분야에서 적절한 기준을 설정하고, 이해관계자와 협의를 거쳐 각종 제도적 장치를 마련해야 한다.

－09_“자율주행 시스템” 중에서