AI와 디지털 레플리카

딥페이크와 디지털 모사권의 법적 쟁점
AI가 실존 인물의 얼굴과 목소리, 몸짓을 정교하게 복제하는 기술 환경에서 디지털 레플리카는 더 이상 허구의 문제가 아니다. AI 생성 배우 틸리 노우드 논란과 성우 음성 복제 소송은 디지털 모사물이 실연자의 노동과 정체성을 어떻게 대체하고 침해하는지를 분명히 보여 준다. 현행 저작권법과 퍼블리시티권은 AI가 만들어 낸 고도로 사실적인 모사물을 충분히 규율하지 못한다. 실연을 직접 복제하지 않았다는 이유로 보호가 배제되는 구조는 기술 현실과 괴리를 드러낸다. 이 책은 디지털 모사물이 개인의 인격권과 재산권, 노동권에 미치는 영향을 법적으로 분석하고, 미국과 유럽의 입법 동향을 통해 디지털 모사권이라는 새로운 권리 구상의 필요성을 검토한다. 표현을 보호해 온 전통적 지식재산권 체계가 AI 환경에서 어떤 재설계를 요구받는지 차분히 짚어 나간다.

AI가 인간의 초상과 음성을 사실적으로 재현하는 상황에서 디지털 모사물은 실존 인물의 권리를 직접적으로 위협한다. 이 책은 디지털 모사권 논의를 중심으로 현행 법제의 한계를 분석하고, 인격 표지를 보호하기 위한 새로운 법적 대응 방향을 제시한다. AI문고. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

박유선
강원대학교 데이터·지식재산융합학과 교수로 재직 중이다. University of New Hampshire에서 J.D.를, 동국대학교에서 법학박사 학위를 취득하였다. 로스쿨 졸업 후 스위스 세계지식재산권기구(WIPO)에서 근무하였으며, 미국 뉴욕주와 메릴랜드주 로펌에서 변호사로 활동하였다. 지식재산 분야 아세안 및 중동 국가 대상 국제개발협력 사업을 수행하였으며, 현재는 AI 시대 지식재산권 체계 재정립 연구에 집중하고 있다. “인공지능 시대 디지털 모사권에 관한 연구”(2025)를 비롯하여 30여 편의 학술논문 및 연구보고서를 국내외에 발표하였다.

딥페이크 시대, 새로운 권리 구상

01 딥페이크 시대, 디지털 모사권
02 실연자의 그림자
03 나의 아바타, 아바타의 아바타
04 AI 산출물의 저작권 보호
05 스타일 모방의 보호 경계
06 AI 산출물의 침해 판단 기준
07 디지털 모사를 위한 AI 데이터 학습
08 디지털 모사권의 이론과 입법 방향
09 AI 산출물 표시와 AI 재학습의 음영
10 AI 시대, 아이디어와 표현의 경계에서

디지털 모사물은 “특정 인물을 사실적으로 묘사하되 허위로 표현하는 방식으로, AI를 포함한 모든 디지털 기술에 의해 생성되거나 조작된 영상, 이미지 또는 오디오 녹음”으로 정의된다. 디지털 모사권은 이러한 디지털 모사물의 생성 및 이용을 허락하고 통제할 수 있는 권리를 말한다. 디지털 모사권은 실존 인물의 외관, 음성, 동작 등을 사실적으로 모사하여 마치 본인인 것처럼 인식되도록 만든 디지털 콘텐츠로 인해 발생하는 경제적·인격적 이익의 무단 이용과 침해로부터 해당 인물을 보호하고자 하는 것이다.
－01_“딥페이크 시대, 디지털 모사권” 중에서

실존 인물을 기반으로 한 캐릭터화된 아바타가 온라인상에서 상품을 판매하거나 가상 인플루언서로 활동하는 등 상업적으로 이용되는 경우, 해당 아바타가 특정 자연인을 식별 가능하게 하고 그 이용이 해당 인격 표지의 권리자 동의 없이 이루어졌다면, 퍼블리시티권, 초상권, 헌법상 인격권 침해 및 부정경쟁 행위에 해당할 수 있다. 실존 인물을 사실적으로 디지털화한 디지털 모사물 또한 마찬가지다. 다만 디지털 모사권은 아직 국내에서 입법 논의 단계에 있는 개념으로, 실정법상 명문화되지 않은 이상 침해 여부를 직접적으로 판단하기 어렵다.
－03_“나의 아바타, 아바타의 아바타” 중에서

음악은 여러 음이 모여 만들어진 하나의 유기체로서 ‘음들의 합’이라 할 수 있다. 이 음들은 음계를 이루고 AI 시스템은 이용자가 해당 저작물에 대한 인식이 없는 경우에도 특정 저작물과 유사한 결과물을 생성할 수 있다. 이용자가 단순한 프롬프트를 입력하였으나 해당 저작물이 AI 학습 데이터에 포함되어 있었고 AI 산출물이 해당 저작물과 실질적으로 유사한 경우 저작권 침해가 발생할 수 있다. 이용자가 특정 저작물에 대한 접근을 구체적으로 지시하지 않았더라도 AI 모델이 해당 저작물에 접근하여 이를 기반으로 산출물을 생성할 수 있으며, 이로 인한 저작권 침해 책임이 발생할 수 있다는 의미다.
－06_“AI 산출물의 침해 판단 기준” 중에서

AI의 순환적 학습에서 발생하는 가장 심각한 기술적 문제는 모델 붕괴(model collapse) 현상이다. 모델 붕괴는 AI 산출물과 인간의 원저작물 간 경계가 모호해지고 학습 데이터의 품질이 점차 저하된다. 이러한 데이터의 품질 저하는 모델의 성능 저하와 편향(bias)의 증폭으로 연결된다. 원본 데이터에 내재된 편향이 AI 생성 과정에서 강화되고, 강화된 편향이 다시 학습 데이터로 활용되면서 편향이 누적·확대되는 악순환을 만들어 내는 것이다.
－09_“AI 산출물 표시와 AI 재학습의 음영” 중에서