AI, 혁신과 규제

혁신과 위험 사이에 선 인공지능
인공지능은 사회 혁신의 주역이자 동시에 새로운 위험의 원천이 되고 있다. 딥러닝 이후 인공지능은 인간의 언어, 창작, 판단 영역까지 침투하며 급속히 발전하고 있다. 하지만 알고리즘 편향, 환각, 딥페이크 등 다양한 문제도 함께 나타나고 있다. AI를 둘러싼 기대와 불안을 함께 다루며, 기술 발전의 명암을 입체적으로 조망한다.

인공지능 낙관론: 공리주의와 고객주의
AI는 인간의 한계를 보완하며 사회 전반의 효율과 행복을 증진시킬 수 있고, 맞춤형 서비스는 실질적 평등 구현에도 기여할 수 있다. 이는 AI를 사회 발전의 동력으로 보는 철학적 낙관론을 뒷받침한다.

인공지능 비관론: 현실이 된 위험
AI는 이미 일상에서 오작동, 정보 침해, 일자리 대체 등의 위험을 드러내고 있으며 인간의 통제력을 넘어설 수 있다는 우려도 커지고 있다. 기술이 인간을 돕기보다 지배할 가능성까지 염두에 둬야 한다.

인공지능 규제의 방향
인공지능 규제에 있어 윤리는 법적 규제의 한계를 보완하는 수단으로 주목받는다. 법은 외부 결과 중심의 강제 규범이지만, AI는 내면적 정당성이나 설계 단계에서의 윤리 검토가 요구되는 특성이 있다. 법적 규제는 빠른 기술 변화에 유연하게 대응하기 어렵고, 과도한 강제성은 혁신을 저해할 우려가 있다. 이에 따라 윤리는 자율성과 유연성을 바탕으로 규제의 역설을 피하며, AI의 창의성과 위험 관리를 동시에 가능하게 한다. 인공지능 윤리는 기술 발전과 규범적 통제를 조화하는 실효적 대안으로 기능한다.

이 책은 인공지능 기술이 가져온 사회적 변화의 이면을 조명하며, 혁신과 위험 사이에서 균형 잡힌 법적 규제 방안을 모색한다. 인공지능의 발전과 그에 따른 위험을 함께 살피고 법과 윤리, 철학이 조화롭게 작동하는 지속 가능한 규제 방향을 제안한다. AI 시대를 살아가는 우리에게 깊은 통찰을 전하며, 기술이 인간을 위한 도구가 되기 위해 우리가 무엇을 고민해야 하는지 묻는다.

양천수
고려대학교 법과대학을 졸업하고 동 대학교 대학원에서 이상돈 교수의 지도로 법학 석사 학위를 받았다. 태광그룹 일주학술문화재단의 장학금을 받고 독일로 유학을 떠났다(11기). 독일 프랑크푸르트대학교 법과대학에서 사회철학자 하버마스의 제자 클라우스 귄터 교수의 지도로 법학 박사 학위를 받았다. 2006년 9월 1일부터 영남대학교 법학전문대학원에서 기초법 전임교수로 학생들을 가르친다. 인공지능 기술을 비롯한 현대 과학 기술이 우리 사회와 법에 어떤 영향을 미치는지, 이에 사회와 법이 어떻게 대응하는지에 관심이 많다. 저서로는 『빅데이터와 인권』(2016), 『법과 진화론』(2016)(공저), 『제4차 산업혁명과 법』(2017), 『인공지능과 법』(2019)(공저), 『디지털 트랜스포메이션과 정보보호』(2019)(공저), 『공학법제』(2020)(공저), 『인공지능과 포스트휴머니즘』(2020)(공저), 『인공지능 혁명과 법』(2021), 『코로나 시대의 법과 철학』(2021)(공저), 『데이터와 법』(2021, 2023)(공저), 『디지털 전환 시대의 법이론』(2023)(공저), 『인공지능법』(2024)(공저), 『생성형 AI와 법』(2024)(공저), 『인공지능법학』(2025)이 있다.

혁신과 위험 사이에 선 인공지능

01 인공지능 혁명
02 새로운 소통 매체로서 인공지능
03 인공지능의 혁신적 활용
04 탈인간중심주의 사회의 가능성
05 인공지능의 위험
06 인공지능 규제 설계
07 윤리를 통한 인공지능 규제
08 유럽 연합 인공지능법
09 우리나라의 인공지능 규제 논의
10 혁신을 위한 규제를 위하여

기반 모델로 기능하는 범용 인공지능이 출현했다는 것은 인공지능이 새로운 의미 또는 지위를 획득했음을 의미한다. 오늘날 인공지능이 단순한 이용 수단 또는 시스템으로만 머무는 게 아니라 언어, 인쇄물, 통신, 방송, 인터넷처럼 새로운 소통 매체(communication media)로서 자리매김하게 되었다는 것이다. 여기서 소통 매체란 소통과 소통을 지속적으로 연결하는 매체를 뜻한다. 소통 매체를 통해 우리는 안정적인 소통을 이어 갈 수 있다. 그 점에서 소통 매체는 소통을 가능케 하는 기반이 된다.
－02_“새로운 소통 매체로서 인공지능” 중에서

그동안 극복하기 어렵게 보였던 자연어 처리마저 인공지능이 해결하고 상당한 정도의 자율적 판단까지 할 수 있게 되면서 인공지능은 소통 매체의 의미뿐만 아니라 이를 넘어 독자적인 행위자(agent)의 지위까지 획득할 가능성이 열렸다. 이에 따라 인공지능을 독자적인 인격, 특히 법적 인격(legal person)으로 볼 수 있는지가 논의된다. 지금까지는 인격의 확장 논의가 주로 동물권과 관련하여 진행되었는데 이에 인공지능이 추가된 것이다. 이는 우리 사회가 인간중심주의 사회에서 본격적인 탈인간중심주의 사회로 나아갈 계기가 마련되었음을 보여 준다
－04_“탈인간중심주의 사회의 가능성” 중에서

인공지능 법률안은 유럽 연합의 인공지능 법안처럼 위험 기반 접근법을 활용해 인공지능을 유형화했다. 특히 고위험 인공지능에 관해 다음과 같은 규제 방안을 마련했다. 사전 고지 의무 부과, 신뢰성 확보 조치, 위험 관리방안 수립, 최종 결과 도출 과정 설명, 이용자 보호 방안이 그것이다. 다만 유럽 연합 인공지능 법안이 도입하여 논란의 대상이 된 ‘금지되는 인공지능 실행’은 당시 인공지능 법률안에서는 고려하지 않았다. 그 점에서 당시 인공지능 법률안은 유럽 연합 인공지능 법안에 비해 인공지능 혁신 지원을 좀 더 지향했다고 평가할 수 있다.
－09_“우리나라의 인공지능 규제 논의” 중에서