헌법과 인공지능

AI가 여는 새로운 헌법 패러다임
AI의 발전이 불러올 사회적 변화와 이에 따라 새롭게 요구되는 헌법의 역할을 탐구한다. AI 기술은 개인정보 침해, 자율성과 인권, 민주주의 원칙의 적용 등 기존 헌법의 틀을 변화시키는 주요 요인이다. 따라서 헌법에 대한 새로운 해석과 대안 마련이 절실하다.
이 책은 AI의 자동화된 결정에 대한 법적 책임 소재 문제, 민주주의 실현 방식의 변화 가능성, AI 판사 도입이 초래할 법적 논쟁 등 다양한 헌법적 과제를 심도 있게 다룬다. AI와 헌법의 관계를 구체적인 사례로 설명하면서 독자들이 쉽게 이해할 수 있도록 하는 데 초점을 맞췄다. 자동화 시스템이 내리는 결정에 대한 법적 책임이 누구에게 있는지 등 다양한 사례와 논의를 소개하며 구체적인 생각거리를 던진다. 미래의 AI 시대에서 인간의 기본권과 주권이 어떻게 보장될 수 있을지를 탐구해 본다.

AI 시대의 도래와 함께 요구되는 헌법적 변화와 대응을 탐구한다. AI의 발전이 개인정보 보호, 민주주의 원칙, 자동화된 법적 책임 등에 미치는 영향을 다루며 헌법이 인권과 주권을 어떻게 보호할지에 대한 새로운 해석을 제시한다.

손형섭
경성대학교 사회과학대학 법학과 헌법 교수. 동국대학교 국제정보대학원 인공지능보안 외래교수.
중앙대학교 법과대학 졸업 후 동대학교 대학원 석사학위를 취득했다. 석사학위 논문으로 권력분립과 수사기관의 균형과 통제를 위하여 ‘특별검사제의 합헌성과 입법방향’이라는 주제의 논문을 제출했다. 관정교육재단 국외장학생 2기로 선발된 후, 일본 도쿄대학 법학정치학연구과에 입학하여 “사생활 보호와 개인정보의 헌법적 보장을 위하여 프라이버시권과 개인정보 보호의 헌법이론”(2008)을 연구하여 법학 박사학위를 취득했다.
이후 서울대학교 법과대학 학문후속세대 연구원, 헌법재판소 헌법연구원을 역임했다. 미국 UC 버클리 로스쿨 방문학자로 연구하면서 『4차산업혁명기의 IT·미디어법』(2019)을 쓰고, 『디지털 전환 시대의 법이론』(2023)을 공동 출간하는 등 다수의 저서를 집필했다.
대한민국 해군장교로 근무하면서 군사법경찰관으로서 구치소장, 헌법대 군기과장(헌병중대장)을 역임하고 중위로 복무를 마쳤다. 경찰대학, 고려대학교, 서울시립대학교, 중앙대학교, 단국대학교에서 헌법과 헌법소송법을 강의했다. 현재 경성대학교 법학과의 헌법학 교수로 재직하면서, 일본 국립 히토츠바시대학(一橋大)으로부터 객원연구원으로 초빙되었다. 2023년부터 동국대학교 국제정보대학원의 요청으로 인공지능·보완에 관한 법과 이론을 대학원에서 강의하고 있다.
국내 학회에 다수의 논문을 발표하였고 한국공법학회에서 신진학술상(2017)을 수상했다. 현재 한국공법학회, 비교공법학회의 부회장이며, 한국헌법학회, 4차산업융합법학회 등의 이사를 맡고 있으며, 2024년 10월 인공지능산업법학회 회장으로 취임했다.
국가를 대표하여 세계헌법학회(IACL), 세계공법학회법학회(ISPL)의 회원으로 국제학술대회에서 연구 성과를 발표하고 있다.
주로 헌법의 기본권과 통치 구조에 관한 연구, 나아가 프라이버시·개인정보 보호를 위한 연구를 기반으로 4차 산업혁명 기술과 법, 인공지능과 인권의 연구로 그 연구 영역을 확장하면서 국민의 인권 보장을 위해 새로운 기술과 헌법적 쟁점을 연구하고 있다.

AI와 헌법의 만남

01 헌법과 AI
02 인간 존엄과 AI
03 AI와 개인정보 보호
04 AI 의사 결정에 설명 요구권
05 AI와 민주주의
06 AI의 거버넌스
07 AI와 사법 시스템
08 AI를 통한 입법 시스템
09 AI를 활용한 행정 시스템
10 AI에 관한 남은 과제

한편, 한국에서는 2024년 5월 현재 인공지능 법이 만들어지지는 않았다. 이미 21대 국회(입법기)에 몇 건의 의원 입법이 제출된 바 있다. 이 중 2023년 8월에 안철수 의원이 대표 발의한 ‘인공지능 책임 및 규제 법안’에서는 제2조 정의에서 ““인공지능”이란 학습, 지각, 판단, 자연언어의 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현하기 위한 소프트웨어를 말한다”라고 정의했다.
－01_“헌법과 AI” 중에서

AI 알고리즘에 의한 자동화 평가 방식에 대한 법적 통제 제도가 유럽연합의 일반데이터보호법 제22조(프로파일링을 포함한 자동화된 개별 의사결정)의 영향으로, 국내에서도 인공지능에 관한 자동 의사결정에 대한 설명 요구권에 대한 법률 규정으로 구체화하고 있다. 이 규정이 실효성을 가지고 효과적으로 행사될 수 있도록 하는 검토도 계속되어야 한다. 또 다른 대응책으로 인공지능 시스템에 대해 모니터링을 해야 한다는 견해와 인공지능 알고리즘에 대한 투명성(Transparency) 원칙이 도입되어야 한다는 주장이 구체화되고 있다.
－04_“AI에 관한 설명 요구권” 중에서

디지털 트랜스포메이션, 즉 디지털 전환에 의해 지식정보사회의 거버넌스도 변화되고 있다. 디지털 전환은 공적 영역에서 정부와 국회를 중심으로 변화를 유도하고, 사적 영역에서는 산업 구조의 변화와 비즈니스의 변화를 견인하고 있다. 대한민국에서는 공사 영역의 디지털 전환에 따른 지식정보화 사회에 적합한 효율적인 거버넌스 체계가 필요하다.
－06_“AI 거버넌스” 중에서

개인을 대상으로 한 AI 예측도, 각국의 행정 분야에서 추진되고 있다. 예를 들어, 미국의 국세청(IRS)은 2009년부터 신용카드와 은행 거래 등에 관한 데이터를 AI에 학습시켜 탈세 등을 예측하는 프로그램을 만들어 막대한 예산 배분을 받았다. 또 증권거래위원회(SEC)도 금융 시장에서 돌아다니는 무수한 데이터를 분석하고 인사이더 거래(보험 거래) 등의 위법 행위를 예측하는 AI 개발에 힘을 기울이기 시작했다.
－09_“AI를 활용한 행정 시스템” 중에서