정치와 AI

독재와 민주 사이, AI 시대의 정치
AI는 현대 정치에 큰 변화를 일으키고 있다. AI는 독재와 민주주의 모두에 영향을 미치지만 그 양상은 상이하다. 독재 국가에서는 AI가 감시와 통제의 도구로 사용된다. 중국은 AI를 통해 전방위적 감시 체제를 구축, 주민의 행동과 통신을 모니터링하고 통제하는 데 활용하고 있다. 이러한 감시 사회는 오웰의 소설 『1984』에서 묘사된 디스토피아적 상황을 연상시킨다. 반면, 민주 국가에서는 AI가 여론 조작과 허위 정보 유포의 수단으로 악용될 수 있다. 미국에서는 AI로 제작된 딥페이크 영상이 선거 기간 중 유포되어 유권자들을 혼란에 빠뜨리고 있다. 이는 AI가 정보 왜곡의 도구로 사용될 수 있음을 보여준다. 우리나라에서도 QR코드를 이용한 선거 조작 의혹이 제기되었고, 이는 AI와 정보통신 기술의 오용 가능성을 경고한다.
이 책은 이러한 사례들을 통해 AI가 독재적 도구와 민주적 도구로 어떻게 사용되는지를 분석한다. AI의 기술적 특성은 정치적 중립적이지만, 이를 활용하는 주체에 따라 독재적 도구가 될 수도, 민주적 도구가 될 수도 있다. 독재 국가에서는 AI가 감시와 통제를 강화하는 반면, 민주 국가에서는 여론 형성과 선거 과정에서의 조작 위험이 커지고 있다. 또한 AI가 정치적 표현의 자유를 보호하는 데 어떻게 기여할 수 있는지도 다룬다. 파놉티콘 사회에서 시놉티콘 사회로의 전환, 즉 감시에 대한 역감시를 통해 독재자의 감시 체제를 역으로 감시하는 것이 가능하다. 어나니머스 그룹과 같은 해커들은 이미 이러한 역감시를 통해 자유를 수호하려 하고 있다. AI는 민주 사회에서 허위 정보를 찾아내고 제거하는 데 중요한 역할을 할 수 있다. 허위 정보의 유포로 인한 민주적 선거 과정의 왜곡을 방지하기 위해 AI는 효율적으로 허위 정보를 찾아내어 진압하는 데 사용될 수 있다. 이 책은 AI와 정치의 융합이 가져올 미래를 준비하는 데 필요한 통찰과 전략을 제공하며, AI 기술이 우리 사회에 미치는 영향을 깊이 있게 이해할 수 있도록 돕는다.

AI가 독재와 민주주의에 미치는 영향을 탐구한다. 독재 국가에서는 AI가 감시와 통제 도구로 사용되며, 민주 국가에서는 여론 조작과 허위 정보 유포에 활용된다. 이 책은 AI의 기술적 중립성을 강조하며, 이를 어떻게 활용하는지에 따라 정치적 도구로 변할 수 있음을 설명한다. AI가 정치적 표현의 자유를 보호하고 허위 정보를 진압하는 데 기여할 가능성과 AI 시대 정치적 자유와 민주주의를 수호하기 위한 방안을 제시한다.

김성천
중앙대학교 법학전문대학원에서 형법을 강의하고 있다. 원적은 황해도이고, 태어난 곳은 서울이다. 중앙대 법학과를 거쳐 대학원 석사과정을 마치고 독일로 건너가 빌레펠트(Bielefeld)대학에서 박사학위를 받고 돌아왔다. 교수 생활을 시작한 곳은 경주에 있는 진각종단 설립 위덕대학교다. 그곳에서 1년 반을 근무하다가 모교로 자리를 옮겼다.
박사학위 논문은 ‘정당방위와 법문화’에 대한 연구다. 귀국 후 형법의 시간적 효력과 관련해서 일제 강점기 친일파들의 범죄행위를 죄형법정주의의 틀 내에서 사후에 어떻게 처리할 것인가에 대한 연구를 하다가, 5·18 이후 그 사법 처리에 대한 논문을 몇 차례 작성했다. 그러던 중 ‘통신법’으로 연구 방향이 바뀌었다가, 이제는 AI와 법적 문제에 천착하고 있다.

AI는 과연 독재 친화적인가, 민주 친화적인가?

01 파놉티콘의 진화: 중국
02 파놉티콘의 진화: 러시아
03 파놉티콘의 진화: 북한
04 독재 정권의 해킹 공격
05 독재 정권의 스파이 칩 확산
06 세상 모두를 감시하는 NSA
07 여론 조작 AI
08 투표 조작 AI
09 가짜 뉴스 AI
10 민주화를 위한 AI

17억 개의 CCTV를 통해서 관찰되는 영상 정보를 사람들이 앉아서 일일이 다 검증하는 일은 가능해 보이지 않는다. 수많은 정보를 실시간으로 처리하기 위해서는 AI를 이용할 수밖에 없다. 중국이 AI 부문에서 미국의 선두 자리에 도전하고 있는 상황인데 안면 인식 기술 측면에서는 이미 앞선 것으로 보인다.
－01_“파놉티콘의 진화: 중국” 중에서

세계 대부분의 국가들이 정도의 차이는 있어도 디지털 전환 상황으로 들어가고 있다. 각 국가의 발전 속도와 디지털 전환의 속도는 대략 비례 관계에 있는 것으로 보인다. 대체로 선진국일수록 국가 기반 시설들이 점점 더 긴밀하게 인터넷 통신망으로 연결되고 있다. 매우 효과적인 사이버 공격을 한다면 국가 기반 시설을 마비시키거나 파괴하는 일도 가능한 세상이 됐다.
－04_“독재 정권의 해킹 공격” 중에서

실시간 감청 작업을 수행하는 인공지능 프로그램인 프리즘은 ‘폭탄’, ‘테러’, ‘자폭’, ‘공격’ 등 의심스러운 단어가 일정 빈도 이상 사용되면 해당 감시 대상자의 통신 내용 전체를 기록·수집해서 분석한다. 2024년 3월에 있었던 모스크바 공연장 테러를 미국이 미리 알고 러시아 당국에 통지한 바 있다.
이는 프리즘이 세계 구석구석 모두 감시하고 있었기에 가능한 일이었을 것이다. 또한 테러범들이 타지키스탄 사람들이었기 때문에 해당 언어를 할 수 있어야 감청이 가능했던 일이기도 하다. 인공지능 프리즘은 전 세계 모든 언어를 이해하는 수준인 것으로 보인다. 이미 챗(Chat)GPT와 같은 민간 개발 인공지능의 능력을 훨씬 뛰어넘는 수준이라고 보는 것이 맞다.
－06_“세상 모두를 감시하는 NSA” 중에서

그래서인지 미국에서는 유명한 정치인에 대한 딥페이크 가짜 뉴스 영상들이 제법 잘 돌아다닌다. 도널드 트럼프 전 대통령의 ‘성추문 입막음’ 의혹에 대한 공판이 예정되어 있는 상황에서 경찰이 그를 체포하는 영상이 인터넷에서 확산됐다. 영상이 그럴듯해서 사실인가 확인해 봐야 할 정도였다.
－09_“가짜 뉴스 AI” 중에서