AI 규제법

신뢰할 수 있는 AI 구현을 위한 규제법
AI 기술의 급격한 발전과 함께 발생하는 윤리적, 법적 쟁점을 다루며, AI 규제의 필요성을 제시한다. AI는 인간의 정신노동을 대체하며, 우리 사회 전반에 걸쳐 거대한 변화를 일으키고 있다. 특히 생성형 AI는 텍스트, 이미지, 음악 등 다양한 콘텐츠를 창출하면서도 허위 정보 생성, 저작권 침해, 개인정보 보호 문제를 야기할 수 있다. 이 책은 AI의 잠재적 부작용을 방지하기 위한 규제의 중요성을 다루며, AI 윤리, 저작권, 개인정보 보호, 알고리즘 투명성, 사이버 보안 등의 다양한 주제를 다룬다. 또한, AI가 법치주의와 민주주의에 미치는 영향에 대해서도 심도 있게 분석한다. AI 기술 발전을 촉진하면서도 이를 통제할 수 있는 적절한 규제를 통해 신뢰할 수 있는 AI를 개발하고 운용하는 방안을 모색하는 데 중점을 두고 있다. 이 책은 AI 규제법의 필요성과 원칙을 논의하며 한국을 비롯한 주요국의 AI 규제 동향을 살펴본다. AI가 인류에게 긍정적인 영향을 미치기 위해서는 적절한 규제와 신뢰 가능한 기술 개발이 필수적이다.

AI 기술 발전에 따른 윤리적, 법적 문제를 다루며, 신뢰할 수 있는 AI 구현을 위한 규제의 필요성을 제시한다. 생성형 AI의 허위 정보, 저작권 침해, 개인정보 보호 등 다양한 이슈를 분석하고 한국을 포함한 주요국의 규제 동향을 소개하며 AI 기술과 규제의 올바른 방향을 제시한다.

이성엽
고려대 법학과 학사(86학번), 서울대 행정대학원 행정학 석사, 미국 미네소타대학교 로스쿨 법학 석사, 서울대 법학 박사를 졸업했으며 하버드대학교 로스쿨 방문학자를 거쳤다. 1991년 제35회 행정고시에 합격 후 정보통신부, 국무조정실 서기관을 거쳐 2004년부터는 김·장 법률사무소에서 방송, 통신, 인터넷, 개인정보 분야 전문 변호사(미국 뉴욕주)로 활동하다가 2017년부터 고려대 기술경영전문대학원 교수로 재직 중이며, 고려대 기술법정책센터장, 고려대 법학연구원 데이터, AI법 연구센터 공동대표로 재직하고 있다.
행정규제법 및 ICT법과 정책을 주된 연구 분야로 하고 있으며, 저서에 『글로벌경쟁시대 적극행정실현을 위한 행정부 법해석권의 재조명』(2012), 『개인정보보호의 법과 정책』(공저, 2014), 『사이버안보와 법』(공저, 2021), 『데이터와 법』(편저, 2021), 『디지털트랜스포메이션과 법』(2021), 『플랫폼의 법과 정책』(편저, 2022), 『마이데이터와 법』(편저, 2022) 등이 있고, “공유경제에 대한 정부규제의 필요성”(2016), “한국의 데이터주도 혁신에 대한 법의 대응과 진화”(2018), “생성형AI에서 규제원칙에 관한 연구”(2023), “기술혁신에 따른 데이터법의 이슈와 과제”(2023) 등 25편의 논문이 있다.
한국데이터법정책학회회장, 한국공법학회 부회장, 대통령 소속 디지털플랫폼정부위원회 자문위원, 국무총리 소속 국가데이터정책위, 규제자유특구위, 미디어콘텐츠융합산업발전위 위원, 개인정보보호위원회 규제심사위원장, 한국저작권보호원 저작권 보호 미래포럼 위원장, 마이데이터 포럼 회장, AI윤리법제포럼 회장, Legal Tech & AI 포럼 회장을 맡고 있다. 행정 현장 경험과 법, 통신, 방송, 인터넷 등 정보통신기술(ICT), 데이터·AI 분야 지식을 두루 갖춘 국내 최고 전문가로, 2019년에는 정보통신 유공으로 대한민국 근정포장을 받은 바 있다.

신뢰할 수 있는 AI 구현을 위한 규제의 필요성

01 AI 윤리와 법
02 AI 규제의 원칙
03 AI와 저작권
04 AI와 개인정보
05 AI의 권리 주체성
06 AI 알고리즘 규제
07 EU의 AI 규제법 등 주요국의 AI 규제
08 AI와 사이버 보안
09 AI와 리걸테크
10 AI와 허위 정보

한국도 2007년부터 ‘지능형 로봇개발 및 보급 촉진법’을 근거로 산업자원부와 로봇산업진흥원 주관으로 로봇윤리헌장을 제정했다. 2017년에는 과학기술정보통신부와 한국정보화진흥원이 주관이 되어 지능정보사회 윤리가이드라인 및 지능정보사회 윤리헌장을 제정한 바 있다. 전자는 인간의 존엄성 보호, 공공선의 추구, 인간의 행복 추구를 기본 가치로 하고 실천 원칙으로 투명성, 제어 가능성, 책무성, 안전성, 정보 보호를 들고 있다. 후자는 공공성, 책무성, 통제성, 투명성의 원칙을 제시하고 있다.
－01_“AI 윤리와 법” 중에서

다만, 기업 알고리즘은 대부분 영업 비밀에 해당한다. 따라서 이를 공개하는 것은 영업 비밀을 법적으로 보호함으로써 기업의 연구·개발 활동을 촉진하는 것을 목적으로 하는 영업비밀보호제도와 충돌한다. 또한 알고리즘은 수시로 변경되기 때문에 특정한 시점의 알고리즘을 공개하거나 검증하는 것의 실효성도 의문이다.
－06_“AI와 알고리즘 규제” 중에서

미국 스탠포드대학교 인간중심인공지능연구소도 생성 AI는 개인의 사법 접근성 문제, 법률 대리인의 업무 처리, 판사의 판결 등을 보조할 잠재력을 보유하고 있으며, 개인은 생성형 AI를 통해 필요한 법률 문서를 준비하고, 변호사는 법률 연구와 문서 작업, 판사는 판결의 정확성과 효율성을 개선할 수 있다고 보았다.
－09_“AI와 리걸테크” 중에서