인공지능과 감시

감시 사회의 그림자, 인공지능
인공지능 기술이 어떻게 감시와 사회 통제의 도구로 활용되고 있는지를 다양한 이론과 사례를 통해 비판적으로 고찰한다. 감시는 더 이상 단순한 시선의 문제가 아니라, 알고리즘과 데이터 흐름으로 이루어진 복잡한 권력 체계 속에서 작동하고 있다. 푸코의 패놉티콘, 들뢰즈의 통제 사회, 주보프의 감시 자본주의 등 고전 이론을 바탕으로 디지털 시대의 감시 메커니즘을 분석하며, 예측 치안·안면 인식·소셜 미디어 감시 등 현실 속 AI 감시 기술이 민주주의와 시민권에 미치는 영향을 다룬다.
감시는 국가와 기업의 통제 수단일 뿐 아니라, 시민들 스스로도 자발적으로 자신을 감시하고 노출하는 감시 문화로 확장되고 있다. AI는 프라이버시 침해, 데이터 편향, 정보 불균형 등 윤리적 문제를 야기하며, 감시 기술의 발전은 사회 전반의 불평등과 권력 집중을 심화시킨다. 이 책은 이러한 현실을 성찰하며, 감시와 통제의 사회에서 인간의 권리와 자유를 지키기 위한 제도적·사회적 대응을 제안한다.

AI는 감시를 자동화·정밀화하며 사회 통제의 핵심 도구로 부상하고 있다. 패놉티콘, 감시 자본주의 등 이론을 바탕으로 AI 감시 기술의 작동 방식과 윤리적 문제를 비판적으로 조명한다.

문상현
광운대학교 미디어커뮤니케이션학부 교수다. 서울대학교 언론정보학과를 졸업하고 미국 인디애나대학교 텔레커뮤니케이션학과에서 석사, 오하이오주립대학교 커뮤니케이션학과에서 박사 학위를 받았다. ≪방송통신연구≫ 편집위원장과 한국언론학회 부회장을 역임했다. 저서로 『플랫폼 사회』(2022), 『글로벌 문화생산과 자본주의』(2017), 『저널리즘 모포시스』(공저, 2020), 『디지털시대의 미디어와 사회』(공저, 2017), 『스마트미디어』(공저, 2015), 『소셜미디어 시대를 읽다』(공저, 2014) 등이 있고, 논문으로 “자동추천서비스 이용자의 데이터화에 대한 인식”(2022), “사물 인터넷과 미디어 기업의 혁신”(2019), “미디어생태계의 변화와 글로벌 미디어기업의 대응전략”(2015), “문화산업전문회사제도가 지상파방송의 드라마제작시스템에 미친 영향에 대한 연구”(2014) 외 다수가 있다. 미디어 엔터테인먼트산업, 비판적 데이터 연구, 커뮤니케이션의 정치경제학이 주요 연구 분야다.

사회 통제 기술로서 인공지능

01 감시의 개념과 유형
02 인공지능과 감시 기술의 고도화
03 국가에 의한 감시와 인공지능
04 민간 부문의 감시와 인공지능
05 디지털 플랫폼과 데이터 감시
06 소셜 미디어와 감시 문화
07 인공지능과 자기 감시
08 감시와 프라이버시
09 감시와 개인 데이터 보호
10 인공지능과 데이터 주체 권리의 미래

한편, 디지털 기술의 확산과 민주주의 제도화 등의 정치 경제적 변화로 인해 최근 플랫폼 기업 등 민간 부문에 의한 감시에 학술적·정책적 관심이 모아지고 있다. 쇼샤나 주보프(Shoshana Zuboff)가 제안한 감시 자본주의 개념은 민간 부문에 의한 감시의 고도화와 일상화에 주목한다(Zuboff, 2019). 소셜 미디어나 디지털 플랫폼을 통해 개인들이 자발적으로 자신의 데이터를 공여·공유하는 한편, 소셜 미디어상에서 타인의 정보와 행동을 감시하고 추적하는 감시 행위가 일종의 삶의 양식(ways of life), 즉 문화가 되었다. 이제 감시는 “단순히 외부에서 우리의 삶을 침해하는 외적인 어떤 것만이 아니라 일상의 삶을 살아가는 시민들이 기꺼이 혹은 마지못해 순응하고, 타협하며, 저항하고, 관여하고, 심지어 스스로 수행하고 열망하는 일이 되었다”.
－01_“감시의 개념과 유형” 중에서

소위 유권자의 ‘미시 표적화(micro-targeting of the voter)’라 불리는 데이터 활용 전략은 버락 오바마 대통령이 선거 캠페인 과정에 도입해 많은 주목을 받았다. 더 큰 논란을 불러일으킨 것은 도널드 트럼프의 2016년 대통령 선거 캠페인에서 벌어진 ‘캠브리지 아날리티카(Cambridge Analytica) 스캔들’이다. 영국의 데이터 분석 업체인 캠브리지 아날리티카가 페이스북 이용자들의 개인 정보를 불법적으로 활용해 트럼프의 대선 캠페인을 도왔던 사건이다. 이처럼 지능 정보 기술을 활용한 정치적 감시는 가능성의 수준을 넘어서 실제 활용되는 수준에 이르렀고, 이는 민주주의에 큰 위협이 되고 있다.
－03_“국가에 의한 감시와 인공지능” 중에서

개인의 모든 삶이 온라인상에서 공개되면서 공적·사적 공간의 경계가 흐려지고 있다. 과거에는 사적인 영역으로 여겨졌던 공간이나 내밀한 표현과 행동이 공개적으로 노출되는 일이 빈번해지고 있다. 이에 따라 사회적 상호 작용과 프라이버시에 대한 인식에 중요한 변화가 나타나고 있다. 프라이버시 침해에 대한 우려가 커지는 한편, 다양한 형태의 감시에 익숙해지면서 프라이버시 보호에 대한 기대는 약화되고 감시 수용도가 증가하는 것이다. 이러한 변화는 소셜 미디어상의 가시성(visibility)이 개인의 표현과 정체성 형성에 얼마나 큰 영향을 미치는지 잘 보여 준다.
－06_“소셜 미디어와 감시 문화” 중에서

여덟 번째 권리는 프로파일링을 포함한 자동화된 의사 결정에 이의를 제기할 권리(Rights related to automated decision making including profiling)다. 효율성이라는 장점에도 불구하고 인공지능을 활용한 자동화된 의사 결정 시스템이 사회적 차별과 편견을 확대 재생산한다는 비판이 커지고 있다. 이 권리는 데이터 주체가 자신에게 법적 효력을 초래하거나 유사하게 중대한 영향을 미치는 결정이 자동화된 방식으로만 이루어지는 것에 반대할 수 있도록 한다.
－09_“감시와 개인 데이터 보호” 중에서