AI와 딥페이크 음란물

딥페이크, 음란물 그리고 AI의 그림자
AI 기술의 발전과 함께 발생하는 딥페이크 음란물 문제를 다룬다. 딥페이크는 딥러닝 기술을 이용해 얼굴이나 신체 등을 조작해 가짜 영상을 만들어내는 기술로, AI 발전과 더불어 누구나 쉽게 이를 활용할 수 있게 되었다. 과거 전문가들만이 할 수 있었던 영상 조작이 이제는 일반인도 간단히 접근할 수 있는 수준으로 발전한 것이다.
이 책은 특히 딥페이크 기술이 음란물 제작에 악용되는 현실에 초점을 맞춘다. AI 기반 딥페이크 음란물은 사실과 구분하기 어려운 정교함을 가지고 있어 피해자가 심각한 정신적 피해를 입을 수 있다. 최근 들어 딥페이크 음란물로 인한 성범죄 피해가 급증하고 있으며, 특히 10대 청소년들이 이러한 기술을 악용하는 사례가 늘고 있다. 청소년들 사이에서는 이를 범죄로 인식하기보다는 단순한 장난으로 여기는 경우가 많아 더욱 심각한 문제로 대두되고 있다. 실제로 2023년, 부산의 한 중학교에서는 학생들이 교사의 사진을 음란물과 합성해 돌려본 사건이 발생했으며, 경찰이 수사에 나섰으나 가해자를 특정하지 못해 사건은 ‘가해자 없는 교권 침해’로 마무리되었다. 이러한 사건은 단순한 장난이 아니라 범죄라는 인식을 사회 전반에 확산시키는 것이 필요하다. 딥페이크 음란물이 사회적으로 미치는 영향을 분석하고, 이에 대응하기 위한 법적·제도적 해결 방안을 모색한다. 딥페이크 기술의 발전이 가져오는 긍정적인 면뿐만 아니라 그에 따른 부작용도 깊이 살펴보며, AI 기술의 윤리적 사용에 대한 필요성을 강조한다.

인공지능 기술 발전에 따른 딥페이크 음란물 문제를 다룬다. 딥페이크는 누구나 쉽게 접근할 수 있고, 사실과 구별이 어려울 정도로 정교해져 성범죄 피해가 급증하고 있다. 특히 10대 청소년들의 장난으로 인식되는 문제를 지적하며, 법적·제도적 대응의 필요성을 강조한다.

김민호
1998년부터 성균관대학교 법학전문대학원 교수로 재직 중이다. 성균관대학교에서 학사, 석사, 박사학위를 받고, 미국 보스턴대학교(Boston University) 로스쿨에서 박사후연구과정(Post Doc.)을 수료했다. 개인정보보호법학회 회장, 국가인권위원회 인권위원, 대통령소속 규제개혁위원회 위원, 중앙행정심판위원회 위원 등을 역임했다. 지금은 공공데이터분쟁조정위원회 위원장, 국가기준데이터위원회 위원장, 한국인터넷자율정책기구(KISO) 이사회 의장으로 활동하고 있다. 주요 저서로 『행정법』(2023), 『별난 법학자의 그림이야기』(2010)가 있다. 방송, 통신, 인터넷 관련 100편 이상의 논문을 학술지에 게재했다.

AI와 딥페이크, 그리고 음란물

01 AI와 딥페이크
02 딥페이크 사기와 명예훼손 등
03 딥페이크와 초상권 침해
04 딥페이크 음란물과 인격권 침해
05 음란의 판단 기준
06 딥페이크 음란물 제작자의 책임
07 AI 개발 및 학습 관여자의 책임
08 딥페이크 음란물에 대응하는 현행법과 한계
09 딥페이크 워터마크와 신속 차단
10 디지털 리터러시

요즘은 전문 지식이 없는 사람도 자신의 스마트폰으로 쉽게 딥페이크를 제작할 수 있게 됐다. 그뿐만 아니라 일반인이 만든 딥페이크 사진이나 영상도 진짜와 가짜를 구분하기 어려울 정도로 정교해졌다. 앱스토어에 딥페이크 앱을 검색하면 무료로 쓸 수 있는 앱이 헤아릴 수 없을 정도로 많다. 아예 카메라 앱에 딥페이크 기술을 탑재한 것도 있고, 상대방과 통화 중에 자신의 얼굴을 딥페이크 기술로 바꿀 수 있는 앱도 쉽게 구할 수 있다.
－01_“AI와 딥페이크” 중에서

우리나라는 미국과 달리 재산권은 법률에 의해서만 창설될 수 있다. 이를 ‘물권법정주의’라 한다. 아직까지 이를 재산권으로 규정하고 있는 법률이 없기 때문에 우리나라에서는 재산권으로서 퍼블리시티권은 인정되지 않고 있다. 일부 하급심에서 ‘독립한 경제적 가치는 그 자체로 보호할 가치가 있다는 점에 비추어 해석상 이를 독립적인 권리로 인정할 수 있다’는 판결도 있지만 아직까지 대법원의 판결이 없고, 주류 판례는 이를 인정하지 않고 있다.
－03_“딥페이크와 초상권 침해” 중에서

최근 성폭력처벌법 제14조의2 제1항이 개정되기 전에는 ‘반포 등을 할 목적’이 있는 사람만 처벌할 수 있었다. 이럴 경우 반포 목적이 없었다고 주장하는 딥페이크 음란물 제작자를 처벌할 수 없다는 한계가 있었다. 이러한 비판이 제기되자 국회가 법을 개정해서 이제는 제3자에게 반포 목적이 있었는지와 관계없이 딥페이크 음란물 제작자를 처벌할 수 있게 된 것이다.
－06_“딥페이크 음란물 제작자의 책임” 중에서

우리나라 정부와 국회도 딥페이크 워터마크 제도를 도입하려는 법 제정을 추진하고 있다. 이러한 제도가 마련될 경우 AI로 만든 가짜 정보와 실제 사실을 효율적으로 구분할 수 있으며, 딥페이크를 이용한 범죄를 사전에 예방할 수 있다는 장점이 있는 반면, 가상 정보에 대한 표시를 기술적으로 회피·조작하거나 실제 사실을 가상정보로 거짓 표시할 경우 사회적 혼란을 야기할 수도 있다는 우려의 목소리도 있다.
－09_“딥페이크 워터마크와 신속 차단” 중에서