AI와 민주주의

AI 시대, 민주주의는 살아남을 수 있을까
인공지능이 정보 유통, 여론 형성, 시민 참여, 정치 제도 전반에 걸쳐 민주주의를 어떻게 바꾸고 있는지 심층 분석한다. 알고리즘이 만든 허위 정보, 감정 조작형 콘텐츠, 자동화된 로비 활동이 민주적 공론장을 왜곡하고 있다. 딥페이크 선거운동, AI 감시 사회, 데이터 기반 정책 결정의 함정 등 민주주의가 직면한 위기를 짚고, 인공지능과 공존하는 민주주의의 새로운 길을 모색한다.
민주주의적 가치와 시민권을 지키기 위한 제도적 대안과 사회적 합의를 제시하며, AI 시대에도 민주주의가 지속 가능하도록 성찰과 실천을 촉구한다. 단순한 기술 비판을 넘어 민주주의 회복을 위한 실질적 해법을 제안한다.

인공지능이 정치, 여론, 시민권을 어떻게 흔드는지를 분석하고, 허위 정보, 감시 사회, 극단주의 확산 등 위기에 맞설 민주주의적 대안을 모색한다. AI와 공존하는 민주주의의 미래를 제시한다.

김유향
북한대학원대학교 경제 · IT전공 겸임교수이자 전 국회 입법조사처 국장이다. 이화여자대학교 정치외교학과와 일본 히토쓰바시대학교, 미국의 버클리대학교에서 수학했다. 과학기술정보통신부의 인공지능 · 소프트웨어자문위원회 자문위원을 지냈고, 서울시 개인 정보심의위원회 심의위원으로 활동하고 있다. 디지털 민주주의, 인공지능 법 제도, 개인 정보, 북한 정보 통신, 입법 영향 분석 등에 대한 연구와 강의를 했다. 주요 저서로 『개인정보 판례 백선』(2022), 『4차산업혁명 시대와 외교』(2019), 『4차산업혁명과 남북관계』(2018) 등의 공저가 있으며, 그 외 가짜 뉴스와 딥페이크, 디지털 민주주의, 인터넷 정책에 대한 다수의 연구가 있다.

김보라미
법률사무소 디케 변호사다. 고려대학교 법학과 졸업 후 연세대학교 정보대학원에서 석사학위를 받았다. 언론인이 아닌데도 최초로 안종필 자유언론상을 수상하고, 언론 자유, 개인 정보, 정보 인권 분야에서 다수의 주요 법률 사건 및 자문을 수행하고 있다. 공공데이터제공분쟁조정위원회 조정위원, 개인정보분쟁조정위원회 조정위원, 국가인권위원회 정보인권전문위원회 전문위원 등을 역임하고, 서울특별시장 표창장(2021), 대통령표창(2023)을 수상한 바 있다.

인공지능 시대, 기로에 선 민주주의

01 현대 민주주의의 이상과 현실
02 인공지능의 도전
03 정보와 여론 형성
04 알고리즘 편향과 양극화
05 감시 사회와 시민 자유
06 정책 결정과 민주적 딜레마
07 정치 과정의 위기와 기회
08 빅테크와 투명성
09 윤리와 책임
10 인공지능과 민주주의 회복의 길

2016년 이후 트럼프의 등장, 영국의 브렉시트(Brexit), 유럽의 극우 발흥은 이러한 대의제 민주주의의 제도적 취약성이 절정에 이르렀음을 보여준다. 2013년 창당한 독일의 극우 정당 ‘독일을 위한 대안(Alternative für Deutschland, AfD)’은 2021년 연방의회 선거에서 중도 정당에 대한 불만을 이용해 12.6%의 의석을 확보했으며, 2025년 선거에서는 단번에 제2당으로 부상했다. 이러한 현상들은 민주주의의 규범적 기반을 서서히 침식한다.
－01_“현대 민주주의의 이상과 현실” 중에서

최근 시도되고 있는 탐사 보도와 시청자 참여 강화 움직임이 대표적이다. 2019년 로이터의 탐사 보도는 자연어 처리(NLP)를 사용해 관련 내용을 인간 기자보다 빠르게 분석한 사례다. 로이터는 “숨겨진 불의(Hidden Injustice)”라는 획기적인 조사 보고서에서 자연어 처리를 사용해 오피오이드 전염병에서 제약 회사의 역할을 밝혀냈다. 이 조사에서는 머신 러닝과 자연어 처리 기술을 사용해 320만 건의 연방 민사 소송과 9천만 건 이상의 법원 소송으로 구성된 방대한 데이터세트를 분석했다. ≪가디언≫은 생성형 인공지능을 지역 뉴스 초안에 활용하고 있는데, 편집 표준을 손상하지 않고 지역 독자층을 늘린 사례다.
－03_“정보와 여론 형성” 중에서

정부 공공 기관의 정책 결정과 서비스 제공에 인공지능을 활용할 때는 디지털 플랫폼과 온라인 포럼, 모바일 애플리케이션 등을 활용해 시민들이 정책 결정 과정에 직접 참여할 수 있도록 하고, 인공지능이 분석한 데이터를 시민들이 쉽게 열람하고 의견을 제시할 수 있는 체계를 구축해야 한다. 나아가 인공지능 학습용 데이터 등에서 개인 데이터에 대한 주체적 통제 권한 강화 노력도 필요하다. 이러한 노력은 정책 집행 후에도 지속적인 평가와 개선을 위한 피드백 루프로 작용해, 민주주의의 기본 가치인 ‘참여’와 ‘통제’를 강화할 수 있다.
－06_“정책 결정과 민주적 딜레마” 중에서

마이크로소프트의 무료 텍스트ᐨ이미지 생성 인공지능 프로그램을 통해 유명 여가수의 딥페이크 포르노가 유통된 사례는, 기업이 자사 도구의 오용 또는 해로운 영향을 예상하고 이를 완화하기 위한 충분한 조치를 취하고 있는지에 대한 의문을 던졌다. 기업은 인공지능의 문제점으로 인식되는 딥페이크 생성, 환각 정보 전파, 개인 정보 침해 등에 대해 해로운 영향을 예상하고 그에 상응하는 조치를 취함으로써 책임성을 실현할 수 있다.
－09_“윤리와 책임” 중에서