데이터 윤리

데이터 시대, 신뢰를 위한 윤리
인공지능과 빅데이터 시대에 반드시 직면해야 할 과제를 짚는다. 데이터는 이제 토지·노동·자본과 함께 생산의 4요소로 자리매김했지만, 그 수집과 활용 과정에서 편향과 차별, 저작권 침해, 프라이버시 침해 같은 문제가 끊임없이 발생한다. 이 책은 데이터 생애 주기 전반에서 발생할 수 있는 윤리적 쟁점을 분석하며, 개인정보 보호, 알고리즘 공정성과 투명성, 설명 가능한 AI, 공정 이용과 저작권의 긴장 관계까지 폭넓게 다룬다. 합성 데이터와 딥페이크, 프로파일링, 데이터 포이즈닝처럼 새롭게 떠오르는 이슈도 심도 있게 탐구한다. 특히 데이터의 편향성과 독점이 사회 불평등을 심화시킬 수 있다고 경고하며 이를 극복하기 위한 제도적·법적 장치의 필요성을 제시한다. 더 나아가 데이터 윤리를 단순한 기술적 규범이 아니라 사회적 신뢰와 민주적 가치의 토대라는 점을 강조하며, AI 시대를 살아가는 모든 개인과 기업, 정책 담당자가 반드시 고려해야 할 윤리적 기준을 제시한다.

AI 시대 데이터 활용의 편향, 프라이버시, 저작권, 딥페이크 등 주요 쟁점을 다룬다. 기술 발전을 넘어 사회적 신뢰와 공정성을 지키기 위한 윤리적 기준을 제시한다. 인공지능총서. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

김윤명
디지털정책연구소(DPI) 소장이다. 남도의 끝자락, 해남에서 태어났다. 경희대학교에서 지식 재산법을 전공해 박사 학위를 받았다. 네이버 정책수석으로 일했고, 소프트웨어정책연구소(SPRi)에서 소프트웨어와 인공지능의 법제 연구를 맡았으며, 국회에서는 보좌관으로 입법과 정책을 다루었다. 2018년 이재명 경기도지사 캠프와 새로운경기위원회, 이재명 대통령후보(20대, 21대) 캠프에서 활동했다. 대통령 소속 국가지식재산위원회 보호위원 및 AI-IP 특별위원으로서 변화하는 지식 재산의 지형을 함께 그렸다. 디지털과 법의 경계에서 사유를 이어 가고 있다. 경희대학교 법무대학원에서 ‘인공지능법’, 전남대학교 데이터사이언스대학원에서 ‘데이터사이언스 법과 윤리’ 등을 강의하며 다음 세대를 준비하고 있다.
사유하고 질문하고 기록하는 일이 일상이다. 《블랙박스를 열기 위한 인공지능법》은 교육부 우수학술도서로, 《게임법》, 《게임서비스와 법》, 《인터넷서비스와 저작권법》은 문화체육관광부 세종도서(우수학술도서)로 선정되었다. 시를 짓고 사진을 찍는다. 아이들이 강하중학교에서 발간한 시집 《나에겐 비도 맛있다》에 몇 편의 시를 담았다. 아내와 아이들, 그리고 시고르자브종 리카와 벤, 동네 골목, 바람과 하늘, 꽃과 나무, 세상의 모든 숨결이 렌즈에 깃든다. 사람들의 짠하고도 아심찬한 풍경을 기록한다.
집 안에 ‘도서관N’을 세웠다. 정사서 1급 자격증을 가지고 있지만 도서관장은 아내다. ‘N’은 네이버와 한게임의 합병법인 ‘NHN(Next Human Network)’에서 따온 ‘Next’를 의미한다. ‘도서관엔(N) 뭐가 있을까?’, ‘도서관엔(N) 길이 있지!’, ‘도서관 다음엔(N) 뭘 만들지?’, 장난스러운 물음 속에 세상을 향한 다음 걸음을 품는다. 언젠가 모두를 위한 더 큰 도서관N을 짓겠다는 꿈을 품고 있다.
2023년, 다시 길을 내었다. AI를 비롯한 디지털 법제와 정책을 연구하기 위해 양평에 ‘디지털정책연구소(Digital Policy Institute)’를 세웠다. 연락은 digitallaw@naver.com으로 해 주시길 바란다.

왜, 데이터 윤리인가?

01 데이터 윤리
02 데이터 수집과 윤리
03 데이터 편향
04 딥페이크
05 합성 데이터와 우생학적 문제
06 프로파일링과 투명성
07 데이터 포이즈닝
08 데이터 공정 이용
09 알고리즘과 결합된 데이터 윤리
10 시사점

데이터는 지구상에 존재하는 모든 것이다. 그것이 기록된 문자나 이미지, 또는 음성이나 영상이라고 하더라도 데이터로서 존재한다. 데이터화하는 순간 누구든, 어떤 용도로든 쉽게 이용이 가능하다. 데이터의 속성은 저작물성, 개인정보성, 영업비밀성, 사실 정보(fact)와 같은 퍼블릭 도메인(public domain) 등 다양하다. 이처럼 속성이 다양한 만큼, 이해관계는 복잡하며, 관련된 법률이나 보호 체계가 상이하기도 하다. 대표적인 관련 법률로는 저작물로서 저작권법, 개인정보로서 개인정보보호법, 영업비밀인 경우는 영업비밀보호법 등이 있다. 또한 데이터 산업 전반적으로는 ‘데이터 산업진흥 및 이용촉진에 관한 기본법(이하, 데이터산업법)’, 공공 영역의 데이터와 관련해서는 공공데이터법 등 다양한 법률이 관련된다. 다양한 법률이 존재함에도 데이터 수집, 가공, 이용 등 일련의 과정을 제대로 확인할 수 없다는 점에서 데이터의 윤리적인 체계를 고려하지 않을 수 없다. 그러한 고려 없이 데이터를 이용할 경우, 향후 관련 분쟁은 자명할 것이기 때문이다. 데이터 윤리는 데이터를 사용함으로써 발생할 수 있는 여러 가지 문제를 포함하여 데이터 수집, 가공, 이용 등의 처리 과정에서 윤리적인 문제에 대응하기 위한 체계로 볼 수 있다.
－01_“데이터 윤리” 중에서

플랫폼 사업자나 자본력을 가진 경우가 아니라면 데이터 확보가 쉽지 않기 때문에 데이터 독점에 대한 문제를 해결하기 위해서는 인류의 공통된 노력이 필요하다. 무엇보다, 플랫폼 사업자의 독점화에 따라 이용자의 데이터를 기반으로 한 데이터를 이용하는 사업자들이 데이터 주권이 아닌 데이터 독점을 꾀하고 있기 때문이다. 따라서 안정적이고 예측 가능한 제도 설계를 위해 입법론에 대한 고민이 필요하다. 알고리즘의 문제가 발생하고 있고, 지속적이고 반복적으로 일어날 것임을 예측할 수 있는 상황이기 때문에 이에 대한 규제가 필요하다.
－03_“데이터 편향” 중에서

인공지능은 블랙박스(black box)로 불린다. 그 누구도 그 처리 과정을 이해할 수 없으며, 단순하게 결과로서 추론만 가능하기 때문이다. 인공지능의 투명성이 강조되는 주된 이유다. 알고리즘을 왜곡하거나 또는 편견(bias)이 들어갈 경우에는 그 결과의 공정성(fairness)을 담보하기 어렵다. 이 때문에 인공지능을 견제하기 위한 정책이나 법 제도 이외에도 다양한 기술적 기법들이 제시된다. 알고리즘 소스를 공개하거나 감사(auditing) 기법을 도입하는 것도 하나의 방안으로 논의되고 있다. 블랙박스로서 인공지능은 그 과정을 설명하지 못하기 때문에 설명 가능한 인공지능(XAI, eXplainable AI)이 새로운 방안으로 제시되기도 한다.
－06_“프로파일링과 투명성” 중에서

데이터 왜곡이라는 문제 때문에 대두된 데이터 윤리는, 데이터를 활용하는 과정에서 이를 의도적으로 왜곡하는 행위를 막고자 하는 취지에서 비롯되었다. 기계 학습 과정에서 데이터를 활용하는 것은 당연한 것이지만, 의도성이 반영될 경우 그 결과 사회적인 편익과 차별이 기계에 반영될 것이고 그러한 기계가 활용된 서비스의 이용자는 무의식적으로 차별을 체화하거나 차별의 당사자 내지는 주체가 되어 버리는 상황에 직면하게 된다. 예를 들면, 해당 서비스의 성격에 따라 경제적인 차별, 사회 문화적인 차별, 교육 차별, 집단적 계층화 등 의도성이 반영된 차별이 보편화되는 사태에 이르게 될 것이다. 이러한 편향을 극복하기 위한 방안이 인공지능 윤리에 대한 논의이며, 데이터의 수집, 분석, 가공, 이용에서 공정성을 확보하기 위한 노력이다. 그리고 이들을 이용한 학습 과정이나 학습된 데이터를 활용하는 과정에서 알고리즘의 공정성을 확보하기 위한 논의 역시 필요하다.
－09_“알고리즘과 결합된 데이터 윤리” 중에서