인공지능과 윤리

AI, 윤리 세워야 기술과 비즈니스 가능하다

인공지능은 인간에게 유용한 조력자로 태어났다. 하지만 인공 신경망 개발과 신경 네트워크 알고리즘의 발전 등 성장과정을 거치면서 인간을 지배하는 결과로 이어질지 모른다. 자율 시스템으로서 인공지능에는 정보 보안을 넘어선 윤리적 문제들이 있기 때문에 윤리적 문제들을 미리 예측하고 논의해 방향을 설정하지 않으면 사회적 문제가 발생할 수 있다. AI 시스템을 사용하는 로봇은 규칙에 따라 작동하는 단순 기계가 아니다. ‘의사 결정’을 하는 ‘자율 시스템’이다. 자율 시스템은 데이터에서 규칙이나 패턴을 파악해 낸다. 데이터를 스스로 학습해 패턴을 인식하고 결정을 내린다. 그래서 바둑도 두고 그림을 그리고 작곡도 하고 시나 소설도 멋있게 쓰는 것이다. 문제는 AI가 고상한 영역을 넘어 위험한 시도를 하는 데 있다. 자율주행 자동차에서부터 군사용까지 확대되면 로봇의 의사 결정이 인간 생명의 존엄성을 위협할 수 있다.

김효은 저자는 “인공지능 시대 이전에는 윤리를 도외시해도 기술 발전이나 생산으로 얻는 이익에 큰 타격을 받지 않았”으나 “인공지능 시대는 윤리 문제를 해결해야만 기술 발전과 이익 확보가 가능하다”고 했다. 한 예로 “인공지능 무인자동차는 특정 교통 상황과 관련된 윤리적 문제를 해결해야만 최종 목표, 곧 완전한 자율 주행이 가능한 자동차로 완성된다”는 것이다. 결국 “윤리적 상황의 해결이 기술의 완성을 이끌고 이것이 다시 비즈니스의 지속가능성을 보장한다”. 과거에는 기술 발전과 비즈니스가 윤리와 갈등 관계에 있었던 반면, 인공지능의 발전은 윤리를 고려해야만 기술 발전과 비즈니스가 가능한 사회로 우리를 이끌고 있는 것이다.

머신러닝 디프러닝 덕택으로 AI는 인간이 생산한 방대한 자료를 순식간에 분석해 학이시습 한다. 머지않아 인간과 똑같은 수준의 지능과 감정을 가진 기계나 컴퓨터의 출현도 가능할지 모른다. 인간 세계의 흔들리는 윤리의식이 AI 윤리를 어떻게 바로 세울지 걱정스럽다.

자율 시스템으로서 인공지능에는 정보 보안을 넘어선 윤리적 문제들이 있다. 인공지능과 뇌의 연결 기술 등은 비교적 파급력이 크고 즉각적으로 효용을 제공하기 때문에 충분한 윤리적 숙고 과정 없이 사회에 수용되는 경향이 있다. 때문에 윤리적 문제들을 미리 예측하고 논의해 방향을 설정하지 않으면 사회적 문제가 발생할 수 있다. 인공지능 시대 이전에는 윤리를 도외시해도 기술 발전이나 생산으로 얻는 이익에 큰 타격을 받지 않았으나 인공지능 시대는 윤리 문제를 해결해야만 기술 발전과 이익 확보가 가능하다.

김효은
한밭대학교 인문교양학부 조교수이며, 과학철학자, 실험철학자다. 국제전기전자기술자협회(IEEE) 인공지능윤리 이니셔티브 Extended Reality 분과위원으로 AI윤리 지침 작성 작업에 참여하고 있다. 국내에서 최초로 인공지능윤리 교과를 개설하여 운영 중이다. 세인트루이스 소재 워싱턴대학교의 철학ᐨ신경과학ᐨ심리학 프로그램(PNP, PhilosophyᐨNeuroscienceᐨPsychology program) 과정에서 인지과학 석사, 이화여자대학교에서 의식 연구로 박사를 마치고, 뉴욕대학교 철학과와 듀크대학교 MadLab에서 객원학자, 고등과학원 초학제연구단 주니어펠로를 지냈다. 의식, 신경상관자, 지각에 대한 이론을 기반으로 도덕 판단의 본성에 대해 실험철학 방법으로 연구하고 있다. 한국인지과학회 편집위원, 한국과학철학회 연구위원, 아시아 태평양 과학철학연합회(APPSA, AsiaᐨPacific Philosophy of Science Association) 운영위원을 지내고 있다.

01 왜 인공지능윤리인가
02 로봇은 전자인격체인가
03 알고리즘 편향과 디지털 공평성
04 투명성과 설명가능성
05 책임과 책무성
06 뇌ᐨ컴퓨터 인터페이스와 정신의 경계
07 설계자, 제작자, 사용자 윤리
08 하향식 인공 도덕성 구현
09 상향식 인공 도덕성 구현
10 인공 도덕성과 인간 도덕성

‘인공지능의 윤리’는 인공지능 로봇의 발전에 따라 등장하는 쟁점들, 곧 인공지능 기술의 설계·생산·사용 등과 관련해 발생하는 윤리적 문제를 다룬다. 따라서 설계자·제작자·사용자 모두가 주체가 된다. 인공지능의 급격한 발전, 인공지능과 두뇌 간의 무유선 신호를 통한 연결은 기계와 인간, 물질과 정신의 경계를 흐린다. 전기 신호를 통한 뇌 자극은 물리적 개입을 통해 직접적으로 마음 상태를 바꾸는 기술이다. 이 기술은 정신과 물질의 구분을 모호하게 한다. 전기 신호로 뇌를 변화시켜 정신 상태도 변화시킬 수 있다면, 우리 인간의 정신은 결국 물질이라고 해야 하는 것인가? 자유의지나 인격 동일성은 더 이상 존재하지 않게 되는 것일까? 이러한 질문은 인공지능이나 뇌과학뿐만 아니라 인지과학, 심리학, 철학적 접근을 필요로 한다.
_“로봇윤리, 인공지능윤리” 중에서

인공지능에 적용되는 윤리는 ‘착하게 살아야 한다’는 좁은 의미의 윤리를 넘어선다. 여기서 윤리는 복잡한 상황에 적합한 의사 결정으로 관련 의사 결정 주체나 대상의 지속가능성을 확보한다는 넓은 의미를 띤다. 이렇게 윤리적 고려가 산업, 경영, 과학기술 등 거의 모든 분야를 이끄는 주요한 요소가 되는 것은 윤리 패러다임의 변화라고 할 수 있다. 인공지능 시대 이전에는 윤리적 사항들을 도외시해도 기술 발전이나 생산으로 얻는 이익에 큰 타격을 받지 않았다. 과학기술과 윤리는 서로 영향을 미쳤지만, 실제 영향력은 크지 않았다. 과거에는 기술 발전과 비즈니스가 윤리와 갈등 관계에 있었던 반면, 인공지능의 발전은 도리어 윤리를 고려해야만 기술 발전과 비즈니스가 가능한 사회로 우리를 이끌고 있는 것이다.
_“왜 인공지능윤리인가” 중에서

무인자동차의 운행 방향에는 다수의 행인이 지나가고 있고 행인들에게 상해를 입히지 않기 위해 방향을 바꾸면 벽에 부딪쳐 운전자가 상해를 입게 된다. 이때 무인자동차는 어떤 결정을 내리도록 설계되어야 할까? 76퍼센트의 답변자들이 보행자 열 명 대신 탑승자 한 명을 희생하는 쪽이 더 도덕적이라고 판단했다. 그런데 “자기희생 모드의 무인자동차와 자기 보호 모드의 무인자동차가 판매될 경우 어느 차를 구입하겠는가”에 대한 질문에는 다수의 사람들이 자기 보호 모드의 차를 선택했다. 소수보다는 다수의 생명을 구하는 것을 더 좋은 도덕 판단으로 선택하면서도 정작 본인은 그렇게 프로그래밍된 무인자동차를 선택하지 않는다.
_“인공 도덕성과 인간 도덕성” 중에서