AI와 인간 자유

AI, 자유의 새로운 정의를 요구하다
AI의 발전과 인간 자유 간의 복잡한 관계를 탐구한다. 인간 자유의 역사적 개념에 AI가 어떻게 영향을 미치는지 분석한다. AI는 효율성과 편리함을 제공하며 일부 자유를 증진시키기도 하지만 동시에 개인의 선택을 제약하고 사회적 위험을 초래하는 부정적인 면도 있다.
이 책은 AI가 인간의 자유의지와 자율성에 미치는 영향을 살피고 AI가 인간과 같은 종류의 자유를 가질 수 있는지, 그리고 AI가 직면한 윤리적 책임 문제는 무엇인지 논의한다. 또한 AI가 미칠 사회적, 경제적, 환경적 영향을 분석하고 AI 시대에 새로운 권리와 자유의 문제를 제기한다. 인간과 AI의 관계가 심화할수록 우려되는 사회적 자유의 축소와 디지털 감시 사회의 강화, 그리고 AI가 가진 잠재적인 자율성과 그에 따른 책임 문제를 심도 깊게 탐구한다. AI와 인간 자유에 관한 새로운 이해를 통해 기술의 진보가 인간의 자유와 권리에 미치는 영향을 고민하게 된다.

AI의 발전과 인간 자유 간의 관계를 탐구한다. AI는 자유를 증진시키기도 하지만 동시에 개인 선택을 제한하고 사회적 위험을 초래한다. AI의 자율성, 책임 문제, 디지털 감시 사회와 관련된 자유의 축소를 논의하며 AI 시대에 새롭게 등장한 권리와 자유의 문제를 다룬다. AI와 인간 자유의 교차점에서 기술이 미치는 영향을 깊이 탐색한다.

방은찬
의정부부용초등학교 교사다. 서울교육대학교에서 인공지능인문융합 전공으로 교육학 석사학위를 받았고, 현재 서울교육대학교에서 초등윤리·인성교육 전공 박사과정에 재학 중이다. 경기도교육청과 서울특별시교육청의 인공지능 윤리교육 장학자료를 집필했다. 지금은 2022 개정 교육과정에 따른 초등 도덕과 국정도서를 집필하고 있다. 주요 논문으로 “메타버스 시대에 디지털 휴먼의 민주적 활용 가능성에 대한 윤리적 논의”(2022), “포스트휴먼 시대에 윤리적 대응을 위한 초등 도덕과교육의 방향”(2023), “인공지능 시대에 디지털휴머니즘의 인간학적 의미: 디지털 휴먼을 중심으로”(2024) 등이 있다.

AI와 인간 자유 간 상관관계

01 AI 추천 알고리듬과 선택의 자유
02 AI 시대의 표현의 자유
03 AI의 자율성과 책임
04 AI 시대의 새로운 권리
05 군사 분야 AI의 자율성과 제한
06 AI 개발의 자유와 윤리적 규제
07 AI 개발의 자유와 환경 위기
08 AI와 인간 향상의 자유
09 인간과 AI의 관계적 자유
10 AI 기반 디지털 감시 사회

인간은 선택의 자유를 실현할 때 자신이 보유하고 있는 정보를 분석하고 종합하여 선택의 결정적인 근거로 삼는다. 따라서 인간이 어떠한 정보를 수용하는지에 따라 어떠한 선택을 할지도 달라질 수 있다. 그렇다면 AI 기반 디지털 사회에서 인간이 정보를 수용하는 방식은 어떻게 달라졌을까? 기존 디지털 사회와의 가장 큰 차이는 인간에게 수용되기 전에 이미 AI에 의하여 정보가 1차 선별 과정을 거친다는 점이다. 따라서 많은 경우 우리의 선택은 AI가 선별한 정보에 기반하여 이루어지게 된다. 그런데 이러한 선택을 진정 자유롭다고 할 수 있을지는 단언하기 어렵다.
－01_“AI 추천 알고리듬과 선택의 자유” 중에서

자율 주행 자동차에 탑재된 AI가 인간 의사 결정자가 개입하기 전에 결정을 내려 중대한 사고가 났다면 누가 책임을 져야 할까? AI는 행위자이자 의사 결정자이기는 하지만 인식하고 한 행위와 결정은 아니었을 것이다. 그러나 인간은 행위자도 의사 결정자도 아니다. 따라서 그같이 시간 등의 이유로 인간보다 AI가 행위자이자 의사 결정자로서 역할을 하게 될 수밖에 없다면 책임 귀속의 주체를 인간에게 한정하기는 무리가 될 수도 있다.
－03_“AI의 자율성과 책임” 중에서

이러한 한계를 뛰어넘기 위한 시도로 2024년에 유럽연합(European-Union, EU)은 AI를 구심점으로 둔 세계 최초의 규제 법안인 ｢AI법(AI Act)｣을 가결했다. ｢AI법｣은 AI 개발의 자유를 강력하게 제한하는 법으로 알려져 있다. 이 법의 주된 골자는 위험 기반 접근법(risk-based approach)이다. 즉, AI 개발의 자유를 제한하지 않는다면 위험하다는 인식을 가정하고 있다.
－06_“AI 개발의 자유와 윤리적 규제” 중에서

이렇게 발전된 AI 기반의 소셜 로봇은 인간과의 관계적 효과성을 입증받고 있다. 한 연구는 소프트뱅크(Softbank)의 휴머노이드 로봇 ‘페퍼(Pepper)’를 활용하여 소셜 로봇이 사람의 정서적 건강을 지속적으로 지원하는지 실증하는 경험적 연구를 수행했다(Laban et al., 2024). 연구에서 참가자들은 페퍼와 5주 동안 10번 정도의 대화를 나누었다. 그 결과 참가자의 자기 노출(self-disclosure)이 증가했고, 소셜 로봇에 대한 인식이 긍정적으로 변했으며, 참가자의 정서적 안정에 도움이 되었다.
－09_“인간과 AI의 관계적 자유” 중에서