인공지능과 윤리

인공지능 시대입니다. 기계가 인간의 인지를 대신하고, 사물이 인간을 통하지 않고 다른 사물과 직접 커뮤니케이션합니다. 이에 따른 인간 삶과 문명 변화를 정확히 이해 · 예측 · 대응하는 것은 이 시대 우리 모두의 과제입니다. <인공지능총서>는 인공지능과 인지과학의 여러 주제를 10가지 키워드로 정리합니다. 관련 개념과 이론, 학계와 산업계의 쟁점, 우리 일상의 변화를 다룹니다. 인간과 기술의 현재, 미래를 세심히 분석합니다.
이 책은 인공지늩 총서의 첫책으로, 곧 다가올 인공지능의 시대를 대비해 우리가 함께 고민해야 할 윤리 문제를 제기합니다.

인공지능 윤리의 문제들은 그 사안들의 파급속도가 직접적이고 빠르다. 인공지능의 응용, 그리고 인공지능과 뇌의 연결 기술 등은 비교적 파급력이 크고 즉각적으로 효용을 제공하기 때문에 충분한 윤리적 숙고의 기회 없이 사회에 수용되는 경향이 있다. 이와 관련된 윤리적 문제들을 미리 예측하고 논의해 방향을 설정해 두어야 하는 이유가 여기에 있다. 그렇지 않으면 사회적 문제가 발생할 수 있다.

김효은
한밭대학교 인문교양학부 조교수이며, 과학철학자, 실험철학자다. 국제전기전자기술자협회(IEEE) 인공지능윤리 이니셔티브 Extended Reality 분과위원으로 AI윤리 지침 작성 작업에 참여하고 있다. 국내에서 최초로 인공지능윤리 교과를 개설하여 운영 중이다. 세인트루이스 소재 워싱턴대학교의 철학ᐨ신경과학ᐨ심리학 프로그램(PNP, PhilosophyᐨNeuroscienceᐨPsychology program) 과정에서 인지과학 석사, 이화여자대학교에서 의식 연구로 박사를 마치고, 뉴욕대학교 철학과와 듀크대학교 MadLab에서 객원학자, 고등과학원 초학제연구단 주니어펠로를 지냈다. 의식, 신경상관자, 지각에 대한 이론을 기반으로 도덕 판단의 본성에 대해 실험철학 방법으로 연구하고 있다. 한국인지과학회 편집위원, 한국과학철학회 연구위원, 아시아 태평양 과학철학연합회(APPSA, AsiaᐨPacific Philosophy of Science Association) 운영위원을 지내고 있다.

서문 로봇윤리, 인공지능윤리
01 왜 인공지능윤리인가
02 로봇은 전자인격체인가
03 알고리즘 편향과 디지털 공평성
04 투명성과 설명가능성
05 책임과 책무성
06 뇌ᐨ컴퓨터 인터페이스와 정신의 경계
07 설계자, 제작자, 사용자 윤리
08 하향식 인공 도덕성 구현
09 상향식 인공 도덕성 구현
10 인공 도덕성과 인간 도덕성

‘인공지능의 윤리’는 인공지능 로봇의 발전에 따라 등장하는 쟁점들, 곧 인공지능 기술의 설계·생산·사용 등과 관련해 발생하는 윤리적 문제를 다룬다. 따라서 설계자·제작자·사용자 모두가 주체가 된다.
인공지능의 급격한 발전, 인공지능과 두뇌 간의 무유선 신호를 통한 연결은 기계와 인간, 물질과 정신의 경계를 흐린다. 전기 신호를 통한 뇌 자극은 물리적 개입을 통해 직접적으로 마음 상태를 바꾸는 기술이다. 이 기술은 정신과 물질의 구분을 모호하게 한다. 전기 신호로 뇌를 변화시켜 정신 상태도 변화시킬 수 있다면, 우리 인간의 정신은 결국 물질이라고 해야 하는 것인가? 자유의지나 인격 동일성은 더 이상 존재하지 않게 되는 것일까? 이러한 질문은 인공지능이나 뇌과학뿐만 아니라 인지과학, 심리학, 철학적 접근을 필요로 한다.
인공지능의 응용, 그리고 인공지능과 뇌의 연결 기술 등은 비교적 파급력이 크고 즉각적으로 효용을 제공하기 때문에 충분한 윤리적 숙고 과정 없이 사회에 수용되는 경향이 있다. 이와 관련된 윤리적 문제들을 미리 예측하고 논의해 방향을 설정해 두어야 하는 이유가 여기 있다. 그렇지 않으면 사회적 문제가 발생할 수 있다.
-로봇윤리, 인공지능윤리” 중에서

인공지능에 적용되는 윤리는 ‘착하게 살아야 한다’는 좁은 의미의 윤리를 넘어선다. 여기서 윤리는 복잡한 상황에 적합한 의사 결정으로 관련 의사 결정 주체나 대상의 지속가능성을 확보한다는 넓은 의미를 띤다.
이렇게 윤리적 고려가 산업, 경영, 과학기술 등 거의 모든 분야를 이끄는 주요한 요소가 되는 것은 윤리 패러다임의 변화라고 할 수 있다.
인공지능 시대 이전에는 윤리적 사항들을 도외시해도 기술 발전이나 생산으로 얻는 이익에 큰 타격을 받지 않았다. 과학기술과 윤리는 서로 영향을 미쳤지만, 실제 영향력은 크지 않았다. 과거에는 기술 발전과 비즈니스가 윤리와 갈등 관계에 있었던 반면, 인공지능의 발전은 도리어 윤리를 고려해야만 기술 발전과 비즈니스가 가능한 사회로 우리를 이끌고 있는 것이다.
-왜 인공지능윤리인가” 중에서

무인자동차의 운행 방향에는 다수의 행인이 지나가고 있고 행인들에게 상해를 입히지 않기 위해 방향을 바꾸면 벽에 부딪쳐 운전자가 상해를 입게 된다. 이때 무인자동차는 어떤 결정을 내리도록 설계되어야 할까?
76퍼센트의 답변자들이 보행자 열 명 대신 탑승자 한 명을 희생하는 쪽이 더 도덕적이라고 판단했다.
그런데 “자기희생 모드의 무인자동차와 자기 보호 모드의 무인자동차가 판매될 경우 어느 차를 구입하겠는가”에 대한 질문에는 다수의 사람들이 자기 보호 모드의 차를 선택했다.
소수보다는 다수의 생명을 구하는 것을 더 좋은 도덕 판단으로 선택하면서도 정작 본인은 그렇게 프로그래밍된 무인자동차를 선택하지 않는다.
-인공 도덕성과 인간 도덕성” 중에서