인공지능 개발자 윤리

인공지능 개발자 윤리, 지속 가능한 번영을 위한 첫 걸음
AI의 급속한 발전은 우리의 일상과 사회에 깊이 스며들며 엄청난 변화를 일으키고 있다. AI가 의료, 예술, 경제 등 다양한 분야에서 발전을 촉진하며 인류의 번영을 약속하는 한편, 그로 인한 윤리적 우려도 함께 증가하고 있다. 특히 AI 기술은 동적 특성과 재귀적 성격을 가지고 있어, 기존 과학기술과는 다른 윤리적 대응이 필요하다. AI는 스스로 학습하고 확장되는 능력을 지닌 만큼, AI 개발자는 단순한 기술자가 아닌 전문직으로서 사회적 책임을 지녀야 한다.
이 책은 AI 윤리의 필요성과 AI 개발자의 역할을 심도 있게 다루며, 덕성 중심의 AI 개발자 윤리 모델을 제안한다. AI 개발자는 자신이 설계하고 개발한 기술이 인간의 삶에 미치는 영향력을 깊이 인식하고, 공정성과 책임감을 바탕으로 기술을 발전시킬 윤리적 기준을 갖춰야 한다. AI가 가져올 풍요와 위험 사이에서 균형을 잡고, 지속 가능한 인류의 번영을 위해 개발자들이 어떠한 윤리적 덕성을 지녀야 하는지 구체적으로 탐구해 본다.

AI 개발자가 단순 기술자가 아닌 사회적 책임을 지는 전문직임을 강조하며, 공정성과 책임을 갖춘 덕성 중심의 윤리 모델을 제안한다. AI와 함께 지속 가능한 발전을 이루기 위한 윤리적 기준을 탐구한다.

목광수
서울시립대학교 철학과 교수다. 서울대학교 철학과를 졸업하고, 동 대학원에서 석사 학위를, 미시간주립대학교에서 박사 학위를 받았다. 한국윤리학회와 한국생명윤리학회 부회장으로 활동하고 있다. 윤리학과 정치철학 관련 연구를 해 오고 있으며, 최근에는 인공지능과 빅데이터의 윤리와 생명 의료 윤리를 연구하고 있다. 저서로는 『루치아노 플로리디, 정보 윤리학』(2023), 『정의론과 대화하기』(2021), 『인공지능 시대의 인간학』(공저, 2021), 『인공지능의 윤리학』(공저, 2019), 『인공지능의 존재론』(공저, 2018) 등이 있다. 주요 논문으로는 “경제적 불평등 시대의 정의론”(2024), “롤즈의 재산소유 민주주의와 기업”(2023), “생명 의료 영역에서의 넛지 전략과 관계적 자율성”(2022), “롤즈의 넓은 반성적 평형과 자존감”(2021), “프라이버시의 의미와 가치, 그리고 리스크 모델”(2021), “아마티아 센의 전지구적 정의관”(2018), “인공지능 시대의 정보 윤리학: 플로리디의 ‘새로운’ 윤리학”(2017), “인공지능 시대에 적합한 인격 개념”(2017), “역량 중심 접근법에 입각한 의료 정의론 연구”(2014), “장애(인)와 정의의 철학적 기초”(2012) 등이 있다.

지속 가능한 번영을 위한 첫걸음: AI 개발자 윤리

01 AI 시대의 도래와 AI 윤리의 필요성
02 AI 윤리의 형식적 구조와 윤리 층위 구분
03 제도 층위의 AI 윤리
04 이론 층위의 AI 윤리
05 개인 층위의 AI 윤리
06 윤리 층위 사이의 올바른 관계
07 개인 윤리 층위에서의 AI 윤리 모색 방안
08 전문직 윤리로서의 AI 개발자 윤리
09 벤치마킹할 과학적 덕성 모델
10 덕성 중심의 AI 개발자 윤리 모델

AI와 관련해 제기되는 전통적인 윤리 문제들 가운데 첫 번째는 AI 로봇의 의인화(擬人化) 문제다. 이 문제는 AI가 인간의 능력을 모방하기 위해 모색된 과학 기술이라는 점에서 불가피한 결과다. 예를 들어, 보스턴 다이내믹스사(社)가 2015년 자신들이 개발한 개 모양의 사족 보행 로봇 ‘스팟(Spot)’의 뛰어난 균형 능력을 보이기 위해 개발자가 발로 차도 넘어지지 않는 홍보 동영상을 공개했을 때, 이에 대해 시청자들이 보인 엄청난 도덕적 분노와 비난 사례가 의인화의 대표적인 사례다.
－01_“AI 시대의 도래와 AI 윤리의 필요성” 중에서

예를 들어, 자율 주행 자동차 관련 AI 윤리 지침이 학문적으로 논란이 많은 트롤리 문제 해결책을 제시하기보다는, 상식적인 수준의 내용들만 담고 있는 것이 이러한 제도 층위의 윤리 성격을 잘 보여 준다. 2018년 독일이 전 세계에서 최초로 자율 주행 자동차와 관련된 윤리 지침을 발표하였고, 한국은 2019년 12월 초안을 발표한 후 각계의 의견을 수렴하여 2020년 12월 최종안을 발표하였다(국토교통부, 2020). 국토교통부가 발표한 ‘자율 주행 자동차 윤리 가이드라인’은 자율 주행 차량의 설계·제작·관리 등의 과정에서 고려해야 할 기본 가치로 인간의 존엄성, 인간의 행복, 피해 최소화, 지속 가능한 발전 등을 제시하고, 행위 원칙으로 투명성, 제어 가능성, 책임, 안전성, 보안성을 제시하였다.
－03_“제도 층위의 AI 윤리” 중에서

개인 윤리 층위, 제도 윤리 층위, 이론 윤리 층위가 적절한 관계 속에서 선순환적으로 작동할 때, 해당 과학 기술에 대한 윤리적 실천이 효력을 나타낼 수 있다. 제도 층위에서 제시한 윤리 지침이 개인 층위에서 자신의 윤리로서 동기 부여 하는 규범성을 가져 윤리 실현을 도모할 수 있다.
－06_“윤리 층위 사이의 올바른 관계” 중에서

원칙과 규칙을 제시하는 방식인 지침으로서의 과학 윤리는 내면화된 동기 부여와 거리가 멀어 구체적인 사안에 대해 행위 지침을 제시하기에 취약하다. 이에 대안으로 제시된 것이 과학적 덕성 모델이다. 덕성 모델은 덕성의 연습과 훈련을 통한 내면화를 본질로 하고 있어서 실천을 위한 동기 부여에 효과적이기 때문이다. 더욱이, 덕성 모델은 비록 사안이 다양하더라도 과학자의 성품이 덕성을 갖추고 있으면 구체적 사안에 적절한 맞춤형 대응이 가능하다는 강점이 있다. 과학적 덕성 모델은 과학적 덕성 목록 구성, 과학적 덕성 교육 모델 계발, 과학적 덕성 교육 워크숍 실행의 3단계의 순차적 과정으로 이루어진다.
－09_“벤치마킹할 과학적 덕성 모델” 중에서