AI에 대한 지구촌 행동

AI 시대, 지구적 협력의 필요성
AI의 기술적 발전과 그 사회적, 윤리적 영향을 다각도로 탐구한다. AI가 인간 사회에 미치는 광범위한 영향을 진지하게 조망하며 국제적 협력과 글로벌 거버넌스의 중요성을 강조한다. AI는 단순히 기술의 발전을 넘어서, 인류의 가치와 민주주의, 윤리적 질문에 깊은 영향을 미치고 있다. 의료, 환경, 교육 등 다양한 분야에서 AI는 혁신적인 변화를 이끌어가고 있으며, 이러한 기술의 발전은 사회적, 경제적 불평등 문제와도 연결된다. 이 책은 AI의 발전과 그에 따른 위험을 국제적인 시각에서 분석하며 AI의 윤리적 사용과 데이터 공유, 그리고 AI 기술의 표준화와 규제를 위한 글로벌 협력의 필요성을 제시한다. AI의 잠재력과 이를 사회적 이익으로 전환하기 위한 방안을 모색하며 AI가 인류 공동체의 번영을 위해 어떻게 활용될 수 있을지를 탐구한다. AI 시대의 민주주의와 거버넌스를 새로운 시각으로 제시하며, 각국의 협력과 정책을 통해 AI 기술의 혜택을 공정하게 나누고 위험을 최소화할 수 있음을 강조한다.
이 책은 AI 기술의 발전뿐 아니라 그에 따른 윤리적, 법적, 철학적 문제를 종합적으로 다룬다. AI의 창의적 활용과 그로 인한 사회적 변화, 그리고 국제적 AI 규제와 표준 수립의 중요성을 상세히 설명하며 이를 통해 독자들이 AI 기술을 책임감 있게 활용하고 미래를 준비할 수 있는 구체적인 지침을 제공한다.

AI 기술의 발전과 그 사회적, 윤리적 영향을 다룬다. AI의 글로벌 협력과 거버넌스 필요성을 강조하며, AI가 의료, 교육 등 분야에서 혁신을 이끌어가지만 그로 인한 사회적 불평등과 윤리적 문제를 해결해야 한다고 본다. AI의 책임감 있는 활용을 위한 국제적 규제와 표준 수립의 중요성을 강조하며, 민주주의와 거버넌스를 새롭게 정의하는 방안을 제시한다.

오성탁
한국지능정보사회진흥원(NIA)의 연구 위원이자 영남대학교 경영학과 겸임 교수다. AI, 빅데이터, 통신 네트워크, 국가 정보화 전략 계획, 정보화 사업 평가, 스마트워크 등 정보 통신 기술(ICT)의 다양한 분야에서 중요한 역할을 수행해 왔다. 성균관대학교에서 경영학 박사 학위를 취득했으며, 서울대학교에서 경영학 석사 학위를, 한국외국어대학교에서 영어학 학사 학위를 받았다. 2018년부터 한국지능정보사회진흥원의 지능데이터본부장을 맡아 우리나라의 AI와 빅데이터 발전에 견인차 역할을 했으며 다양한 데이터 구축 사업과 실증 사업들을 주도했다. 국제적으로는 2010년 남아프리카공화국 통신부의 기술 고문으로 파견되었으며, 2019년에는 OECD의 AI 전문가 그룹(AIGO)으로 활동하며 OECD AI 원칙(AI Principles) 수립에 직접 참여했다. 2020년부터 2022년까지 AI 국제협의체인 GPAI(Global Partnership on AI)의 한국 전문가로 활동했으며 2021년에는 OECD에 파견근무를 하며 글로벌 파트너와 협력 관계를 구축하는 전문가로 자리매김했다. 주요 발간물로는 “Enabling data sharing for social benefit through data trusts(GPAI, 2021)”을 포함해 다수의 연구 결과가 있으며, 향후 글로벌 디지털 정책과 관련된 연구를 지속할 계획이다.

인간의 인간적 기계 활용 : 인류 공동체의 미래를 향하여

01 AI는 기회이자 위기
02 AI 거버넌스에 대한 이해
03 국제기구의 AI 행동
04 국가별 AI 행동
05 협업을 위한 글로벌 행동
06 AI 윤리와 가치 체계 구축
07 AI 기술 융합과 사회적 영향 공동 대응
08 AI 글로벌 공동체를 위한 실천 방안 선언
09 AI 글로벌 거버넌스의 핵심 방향
10 AI의 미래와 인류의 과제

구글의 자율주행 차량 프로젝트는 2019년 기준으로 자율주행 차량이 약 20만 마일을 주행하며 단 한 건의 사고만 발생했다고 보고되었다. 또한, IBM의 왓슨(Watson)은 암 진단에서 90% 이상의 정확도를 보이며 의료 분야에서 큰 혁신을 이루고 있다. 하지만 사이버 범죄, 기술의 전쟁에 이용, 해킹, 사이버 왕따 등과 같은 기술의 역기능 또한 발생해 왔다. 최근 사회적으로 문제가 되고 있는 AI 기반 가짜 이미지 합성 기술인 딥페이크 기술을 악용하여 허위 정보를 퍼뜨리거나 지인의 사진으로 성행위를 묘사하는 이미지를 만들어 내는 등 개인의 명예를 훼손하는 사례가 급격하게 증가하고 있다. 그리고 해킹과 피싱을 통한 개인정보의 무단 유출, 개인 재산의 불법 편취 등과 같은 범죄 또한 심각한 사회적 문제다.
－01_“AI는 기회이자 위기” 중에서

2021년 UN 사무총장은 ‘국제 인공지능 감시기구’ 설립의 필요성을 제안하고, 이를 지원하기 위해 AI 고위급 자문기구(AI Advisory Body)를 출범시켰다. 그리고 유네스코를 통해 AI 윤리 권고안(Recommendation on the Ethics of Artificial Intelligence)을 채택하였다. 이는 최초의 글로벌 AI 윤리 가이드라인으로, 193개 유네스코 회원국이 만장일치로 채택했다. 이 권고는 데이터 보호, AI 시스템을 사용한 사회 평가 및 대중 감시 금지, 모니터링 및 평가 지원, 환경 보고 등 AI 기술의 개발과 사용에서 윤리적 기준을 준수할 수 있도록 가이드라인을 제시하였다.
－03_“국제기구의 AI 행동” 중에서

AI 기술이 생명과 관련된 의사 결정에 깊이 관여하게 됨에 따라, 이에 대한 윤리적 가이드라인 수립이 시급하다. 특히 의료 AI 시스템의 사용에는 더욱 신중한 접근이 필요하다. 예를 들어, AI가 환자의 치료 우선순위를 결정하거나 장기 이식 대상자를 선정하는 경우, 어떤 기준과 가치를 바탕으로 판단해야 하는지에 대한 국제적 합의가 필요하다. 또 AI가 의료 진단에서 오진을 일으킬 경우 그 책임은 누구에게 있는지, 그리고 AI의 판단을 어디까지 신뢰할 수 있는지도 중요한 윤리적 질문으로 대두되고 있다. 이를 위해 세계보건기구(WHO)를 중심으로 ‘의료 AI 윤리 위원회’를 구성하여, 의료 AI 시스템의 개발과 사용에 관한 국제 가이드라인을 수립하고 정기적으로 보완할 것을 제안한다.
－06_“AI 윤리와 가치 체계 구축” 중에서

특정 국가 또는 특정 지역이 아닌 국제조약의 형태로 AI 시스템의 설계, 개발, 배포, 사용에 관한 국제적 기준을 설정하고, 각국이 이를 준수하도록 법적 구속력을 부여할 수 있다. 이를 통해 국제 질서 유지 및 분쟁 해결, 국제 협력 증진 및 국가 간 신뢰 구축이 가능하다. 일례로, 국제 사법 재판소와 유사하게, AI 기술 관련 분쟁을 해결하고 규제 위반 사례를 다루는 국제법적 기관을 설립할 수 있다. 이 기관은 AI 기술의 국제적 규제 준수 여부를 관리·감시하고, 위반에 대한 처벌 같은 제재를 부과할 수도 있다.
－09_“AI 글로벌 거버넌스의 핵심 방향” 중에서