인공지능 윤리 개론

사이보그를 치료하는 사람은 의사인가 공학자인가?

빅데이터, 의료, 교육, 스마트팩토리, 스마트 건축 등 인공지능 윤리 전문가 11명이 만든 교양서

AI 기술 발달에 따른 새로운 AI 윤리 문제 연구 … ‘인공지능 윤리 헌장’ 눈길

AI(인공지능) 시대가 열리고 있다. 보이지 않는 바둑천재 알파고는 옛말이 되었다. 김주하, 이지애를 본 딴 AI 아나운서가 뉴스를 진행하고 AI 스피커는 ‘돌봄 서비스’까지 해준다. 미국 위스콘신 주에서는 세계 최초의 인공지능 판사 ‘컴퍼스’가 법원 판결에 의견을 제출했다. 호주의 세인트피터스 유치원에서는 인공지능 교사 ‘아이다’가 아이들에게 알파벳, 숫자 교육은 물론 노래, 그림, 요가, 체조 같은 예술 교육과 체육 교육까지 하고 있다. 인공지능 의사, 인공지능 반려동물이 우리의 건강과 정서를 챙기고 있으며 머지않아 인공지능 아이돌(Idol)이 세계의 문화를 바꿀지도 모른다.

인공지능 기술의 발전으로 미래에는 모든 가정에 1인 1로봇 시대가 열릴 것이다. 인간이나 생명체와 매우 유사한 외모를 갖고 행동을 하는 로봇들이 인간을 도와주고 위로해주며 인간과 함께 살게 될 것이다. 그러나 인공지능 기술이 인간에게 늘 긍정적인 영향을 주는 것은 아니다. AI의 편향과 차별의 문제, AI의 오류로 사람이 위협받는 문제, AI를 악용한 범죄 발생, AI의 학습과정에서 개인의 프라이버시권을 침해하는 문제, 킬러로봇 개발 문제 등 인공지능이 일으킬 수 있는 부정적 영향이 사회적으로 더 큰 문제를 일으킬 수 있다.

자율주행 자동차의 사고가 발생했을 때 책임 문제를 따지는 것은 어느새 인공지능 윤리의 낡은 주제가 되었다. 이제는 디지털 인간이 사회의 리더가 되어 인간의 삶을 좌우하는 문제부터 킬러 로봇으로부터 인간의 생명을 지키는 문제까지 보다 심각한 문제들에 대해 고민해야 하는 상황을 맞고 있다. 나아가 AI로부터 인간이 피해를 입는 문제만이 아니라 인간이 AI에게 가하는 폭력과 학대 행위까지 걱정해야 하는 상황이다.

인간이 휴머노이드 로봇에 가하는 폭력은 어떻게 보아야 할까? 휴머노이드 로봇을 단순한 기계나 전자제품처럼 간주해 별 문제가 아닌 것으로 보아야 할까? 안드로이드, 휴머노이드 로봇에게도 보호받을 권리를 인정해야 할까?

인공지능 기술이 적용된 로봇 팔이 신체 일부에 속한다고 할 수 있을까? 누군가가 로봇 팔에 해를 가한다면 상해죄일까, 절도죄일까? 반대로 로봇 팔이 오작동해 다른 사람을 다치게 했을 때, 그 책임은 누구에게 있을까?

인간의 몸이 사이보그가 된다면, 그 몸을 치료하는 사람은 의사인가 공학자인가? 과연 그 의료행위를 치료라고 할 수 있을까? 수리나 정비라고 규정해야 하는 것 아닌가? 사이보그의 몸을 의사가 치료할 수 있을까? 미래사회에서 의사의 자격은 의공학자에게까지 확대되어야 하지 않을까?

인공지능은 인간의 행복과 편익을 위한 수단일 뿐이며 유일한 목적은 인간이어야 한다. 하지만 산업 발전과 시장 경제의 논리 속에서 인공지능의 기술만이 우선시되며 강조되고 있는 상황이다. 우리는 인공지능 기술 개발에만 몰두할 것이 아니라, 더 늦기 전에 인공지능이 인간에게 미치는 영향들을 생각해보고, 인공지능을 어떻게 하면 윤리적으로 개발하고 사용할 수 있을 지에 대해 함께 고민해 보아야 한다. AI기술이 앞서 나가려 하면 인공지능의 위험성과 부작용 문제가 커지게 된다. 그렇다고 AI윤리가 앞서 나가려 하면 인공지능에 대한 두려움이 커져 좋은 AI기술들의 개발이 늦어지게 된다. 따라서 AI기술과 AI윤리는 반드시 함께 나아가야 하며 서로 조화롭게 발전해야 한다.

인공지능 윤리는 인공지능 영역에서 사람이 지켜야할 윤리를 의미한다. AI의 편향과 차별 문제 등 인공지능이 일으킬 수 있는 여러 문제점들을 미리 파악하고 대비하여, 인공지능에게 안전장치를 넣는 것이 바로 인공지능 윤리다. 따라서 인공지능 윤리의 영역에는, 인공지능이 일으킬 수 있는 부작용, 위험성 문제를 파악하고, 그에 따른 해결 방안을 모색하고, 차후에 이러한 문제들이 일어나지 않게 예방하는 활동까지가 모두 포함된다.

AI기업과 개발자뿐만 아니라 청소년과 대학생을 포함한 일반 시민들까지 모든 주체가 인공지능 기술과 반드시 함께 가야하는 인공지능 윤리의 중요성과 당위성을 알아야 한다. 또한 인공지능 기술의 안전장치인 인공지능 윤리가 무엇이고, 왜 필요하고, 어떤 문제들이 있으며, 해결하려면 어떤 노력들을 해야 하는지를 알아야 한다. 이러한 인식 속에서 우리는 인공지능 윤리 문제의 해결 방안을 찾게 되고 실천해 나갈 수 있게 된다.

이 책은 이러한 목적으로 한국인공지능윤리협회 전문가 11인이 모여 만든 교양서다. 인공지능 윤리의 기본 개념과 핵심 내용, 빅데이터 윤리와 의료 인공지능 윤리, 인공지능 교육과 윤리, 스마트팩토리와 윤리, 스마트 건축의 윤리적 문제 등 AI 기술의 발달 과정에서 발생하는 새로운 AI 윤리 문제에 대해 관심 있는 사람들에게 훌륭한 교재가 될 것이다. 인공지능 개발자와 소비자의 윤리 등 서문과 40개조로 제정한 ‘인공지능 윤리 헌장’도 눈여겨 볼만하다.

AI(인공지능) 시대가 열리고 있다. 인공지능이 인간의 행복과 편익을 증진시키려면 AI기술과 AI윤리가 조화롭게 발전해야 한다. 윤리를 도외시하고 기술만 앞세우면 위험해 진다. AI의 편향과 차별의 문제, AI의 오류로 사람이 위협받는 문제, AI를 악용한 범죄와 프라이버시권 침해 문제, 킬러로봇 개발 문제 등 인공지능이 일으킬 수 있는 문제를 미리 파악하고 대비해 안전장치를 마련해야 한다. 이 책은 이러한 목적으로 한국인공지능윤리협회 전문가 11인이 모여 만든 교양서다. 인공지능 윤리의 기본 개념과 핵심 내용, 빅데이터 윤리와 의료 인공지능 윤리, 인공지능 교육과 윤리, 스마트팩토리와 윤리, 스마트 건축의 윤리적 문제 등 AI 기술의 발달 과정에서 발생하는 AI 윤리 문제에 대해 알기 쉽게 정리했다.

고영상

인터파크 검색개발팀 팀장, 한국인공지능윤리협회 이사다. 고려대학교 컴퓨터정보통신대학원에서 빅데이터융합 석사 학위를 취득하였다. 삼성SDS, 야후코리아, SK커뮤니케이션즈 등에서 검색, 미디어, 커뮤니티 서비스 등의 개발을 담당하였다. 정상JLS(정상어학원)에서 IT개발팀 수석팀장을 역임하면서 국내 및 해외 온라인 교육 플랫폼을 구축하였으며, 인터파크에서는 상품과 고객 프로파일 데이터 연동을 통해 개인화 티켓 검색 서비스를 개발하여 론칭하였다.

김태성

MBC플러스 제작센터장, 한국인공지능윤리협회 부회장이다. 연세대학교 언론홍보대학원에서 석사학위를 취득하였다. 1996년부터 KMTV, NTV, CJ ENM을 거치면서 제작 · 편성PD, 채널전략 및 콘텐츠 기획자로 근무하였다. IDOL 콘서트 연출, 방송용 음악 및 예능 콘텐츠 기획 · 제작을 주로 담당했다. 지금은 뉴미디어와 새로운 IT 환경 하에서, 콘텐츠가 디지털 기술과 융합했을 때의 상호 시너지 효과, 디지털 콘텐츠의 글로벌 마케팅 전략, 메타버스와 같은 콘텐츠가 AI에 기반한 디지털 플랫폼에 적용되는 사례에 대해 관심이 많다.

송석진

한국석유관리원에서 재직 중이며, 한국인공지능윤리협회 자문위원이다. 경희대학교에서 경영학을 전공하였다. 현재 ICT 융합 의료산업, 인공지능 기반의 스마트팩토리에 관심을 갖고 연구 중이며, “인공지능 기반의 스마트 의료기기 및 ICT 융합 의료산업 최근 연구 동향”(2018), “인공지능 기반의 스마트팩토리 구현과 전망”(2020) 등의 보고서를 발표했다.

신한수

서울경제신문 전략기획실 부장이며, 한국인공지능윤리협회 이사다. 대학전문지 한국대학신문 기자로 미디어 업계에 발을 들여놓았고, 국내에 인터넷 신문이 처음 등장한 시기부터 새로운 플랫폼과 디바이스를 통한 뉴미디어 뉴스 및 서비스를 기획하고 운영하는 일을 맡아 왔다. 이어 전자신문인터넷, 이데일리에서 근무하면서 디지털 기반의 뉴미디어 기업이 케이블TV, 모바일 등 새로운 미디어 환경에서 영위하는 신규 사업 기획과 실행을 수행해 왔다. 최근에는 인공지능, 블록체인 등 새로운 기술과 미디어와의 만남에 많은 관심을 기울이고 있다.

심지원

동국대학교 철학과 교수, 한국인공지능윤리협회 자문위원이다. 동국대학교 윤리문화학과에서 학사와 석사학위를 취득하고, 독일 뮌스터 대학 철학과에서 ‘인간향상(Human Enhancement): 건강한 인간 몸에 대한 개입의 정당화’를 주제로 박사 학위를 받았다. 인제대학교 인간환경미래연구원 전임연구원, 동아대학교 철학생명의료윤리학과 초빙교수, 중앙대학교 HK+인공지능인문학 사업단 연구교수 등을 거치는 동안 인간향상 문제를 중심으로 생명윤리, 의료윤리, 인공지능윤리에 대해 연구하였다. 기술이 여성, 장애인, 트랜스젠더에 미치는 영향에 대해 관심을 갖고 연구 중이다.

이성국

인헌고등학교 윤리 교사, 한국인공지능윤리협회 이사다. 서울대학교 사범대학 윤리교육과를 졸업하고, 동대학원 석사과정을 수료하였다. 2015 개정 교육과정 <통합사회 지학사 교과서> 공동 저자이며, 집필위원으로도 활동 중이다. 인공지능의 급속한 발달로 인해 발생하는 새로운 윤리 문제들과 인공지능 윤리 교육이 나아가야 할 방향에 대해 관심이 많다. 인공지능 시대에 학생들이 인공지능을 선하게 사용할 줄 아는 윤리적 태도를 갖춘 사람으로 성장할 수 있도록 인공지능 윤리 교육 방법론에 대해 연구 중이다.

이청호

상명대학교 계당교양교육원 교수, 한국인공지능윤리협회 회장이다. 서울대학교 사범대학 윤리교육과에서 학사, 석사, 박사 학위를 취득한 후 유학하여, 미국 서던일리노이대학에서 철학 박사 학위를 취득하였다. “퍼스의 관점에서 본 의미 있는 인식 결정의 윤리적 함의”(2021), “Interpretation of Nature: Peirce’s Theory of Interpretation”(2018) 등의 논문을 발표했고, 저서로 『지속가능발전 교육을 위한 이론적 기초』(공저)가 있다.

이희대

옴니더이앤엠 OTT전략 이사, 한국인공지능윤리협회 이사다. 광운대학교에서 커뮤니케이션학 박사 학위를 취득하였다. 경희대학교 미디어커뮤니케이션 대학원, 광운대학교 미디어커뮤니케이션학부, 명지대 만화애니콘텐츠학과에서 교수로 재직 중이다. 지상파와 뉴미디어의 25년차 PD이자 미디어 현장과 강단을 잇는 가교 역할을 펼치고 있다. 언론사 기명 칼럼 <희대의 NOW 구독중>과 동명의 유튜브 채널을 운영하며 미디어 변화의 중심에 서 있는 다양한 주인공들과의 만남을 연재 중이다. 저서로 『AI 시대의 미디어』(공저), 『4차 산업혁명과 미디어의 미래』(공저) 등이 있다.

전창배

아이오냅 주식회사 대표이사, 한국인공지능윤리협회 이사장이다. 서울대학교 사범대학 윤리교육과를 졸업했다. 인터파크, 야후코리아 등 인터넷, 포털기업에서 마케터와 웹서비스 기획자로 근무하였고, SK텔레콤 자회사 TU미디어에서 콘텐츠 사업을 기획하였다. 예당미디어 케이블 방송에서 편성팀장으로 재직하면서 편성기획과 신사업을 담당하였다. 인터넷, 방송, 통신 산업을 모두 경험한 ICT 전문가로서 4차 산업혁명, 인공지능, 인공지능 윤리 분야에 집중해 연구하고 있다. 현재 서울시 교육청 자문관, 한국지능정보사회진흥원(NIA) 디지털포용포럼 위원으로 활동하고 있다.

한정택

영화 전문 미디어 <씨네21> 대표이사, 한국인공지능윤리협회 부회장이다. CBS 기자 출신으로 국내 인터넷 초창기에 LG인터넷, 인터넷 한겨레 등을 거쳐 엠파스 포털 사업 본부장으로 재직하면서 포털 기획 총괄 업무를 담당했다. 이후 CBSi / 노컷뉴스 대표이사를 역임하였고, 현재 동국대학교 언론정보대학원 겸임교수로 4차 산업혁명과 디지털 컨버전스를 주제로 강의하고 있다. 특히 인공지능 분야에서 일자리 문제와 미디어의 편향성 문제 등을 중심으로 서울대학교를 비롯한 여러 대학 및 고등학교, 공공 도서관에서 특강도 진행하고 있다.

황준호

어스빌파트너스(주)의 대표 건축가다. 한국인공지능윤리협회 이사, 한국건축가협회 스마트융합디자인위원장을 역임하고 있다. 인하대학교에서 건축학사, 석사를 거쳐 서울벤처대학원대학교 ‘U-City 융합기술 경영학’을 전공으로 박사 학위를 받았다. 공간건축 이사를 역임하면서 다분야 협력을 통한 융합 건축가로 활약했다. 동덕여대예술관 및 자연관, 청도코미디창작촌 설계 등을 주도했다. 현재 어스빌파트너스(주)에서 마을 발전을 주제로 연구 중이며, 공간융합연구원 산하 스마트위빙랩에서 건축에 스마트, 예술, 교육, 나눔과 봉사를 직조하고 있다.

서문 기술만 앞세우면 위험해 진다

01 인공지능 윤리 개념과 5대 핵심

AI의 편향성 문제

AI의 오류와 안전성 문제

AI의 악용 문제

개인정보 보호 문제

킬러 로봇 문제

장차 일어날 수 있는 인공지능 윤리 문제

인공지능 윤리 문제의 해결 방안

AI기술과 AI윤리는 동반자 관계

02 인공지능과 디지털 휴먼

‘디지털 인간’의 기술적 진보

디지털 인간이 사회적 리더가 된다면?

디지털 인간 윤리

03 인공지능 시대 일자리의 미래

상상 속의 미래 일자리

늘어나는 일자리 vs 줄어드는 일자리

일자리 감소 대책

공생공존의 길

04 빅데이터 윤리

기술 진화의 사이클

몽상가들의 인공지능 청사진

인공지능 기술의 양면성

데이터 3법의 핵심, 가명정보의 활용

개인정보 처리 기술

데이터 편향성과 유형

인공지능의 실수, 누가 책임질까?

인공지능의 실생활 접목과 그에 따른 이슈

05 의료 인공지능과 윤리

두부가 단백질로 불리는 사회

‘내 몸을 DIY 할 수 있다’는 것의 의미

인간 향상은 좋은 것인가

인공지능을 환대할 수만 없는 이유

의료 분야에서 인공지능 담론의 허세

‘치료’받는 ‘인간’과 ‘수리’받는 ‘포스트 휴먼’

‘4차 산업혁명’에서 ‘4차 혁명’으로

06 교육과 인공지능 윤리

인공지능과 교육의 미래

인공지능 시대, 교육은 어떻게 이루어져야 할까?

인공지능 윤리 교육이 나아가야 할 길

07 스마트팩토리와 윤리

스마트팩토리의 개념과 최신 기술

스마트팩토리 환경에서 필요한 윤리

스마트팩토리 윤리 문제를 위한 협력

08 감정을 갖는 인공지능

음성인식 기술로 감정 파악

얼굴 표정 변화로 감정 분류

인공지능이 감정을 갖는 것은 필요할까?

로봇의 인간화와 인간의 로봇화

09 스마트건축의 윤리적 문제

도시건축이 지닌 캔버스환경

인간과 건축의 거리

스마트한 도시건축

인공지능과 건축의 만남

휴먼인공지능과 스마트 휴먼홈의 미래

10 AI 융합 뉴미디어와 윤리

초거대 AI의 등장

현존하는 초거대 AI 언어 모델 GPTᐨ3

그림 못 그려도 웹툰 작가 될 수 있다

AI가 글 쓰고, 뉴스 만들고, 광고하는 시대

뉴미디어 영역에서의 AI의 역할과 윤리

인간을 닮지만 인간이 될 수 없는 AI

11 킬러로봇 문제와 해결 방안

킬러로봇은 제2의 핵문제

킬러로봇에 대한 규제 노력과 AI윤리 가이드라인

킬러로봇 문제의 해결 방안

<부록> 인공지능 윤리 헌장

선한 인공지능을 만드는 일은 단순한 문제가 아니다. 인공지능에게 ‘인간을 행복하게 해 주어라’라는 명령어를 입력한다고 끝나는 문제가 아니다. 오히려 이러한 단순 명령어는 인공지능으로 하여금 ‘아, 지구상에 존재하는 온라인 데이터들을 모두 학습해보니, 인간을 가장 불행하게 하는 존재는 바로 인간이로군. 따라서 인간을 행복하게 하려면 인간을 멸종시켜야 해’라는 맹목적 판단을 내리게 할 수도 있다.

01_“인공지능 윤리 개념과 5대 핵심” 중에서

디지털 인간이 실제 인간과 쉽게 구별되지 않는 수준까지 완성도가 높아지면, 우리 삶은 예측하지 못한 다양한 상황과 마주하게 될 것이다. … 우리 사회에 중요한 역할을 하는 리더가 지금까지는 모두 사람이었다. 하지만, 그 자리에 ‘디지털 인간’이 포함될 미래를 상상해 본 적이 있는가?

02_“인공지능과 디지털 휴먼” 중에서

인간은 데이터 덩어리다. 사람의 심장 박동, 혈압의 변화, 호흡 횟수와 호흡량, 체온, 혈액 산소 농도, 혈당, 뇌파, 활동량, 심지어 기분까지, 삶의 유지와 관련된 인간의 거의 모든 데이터를 원격으로 지속적으로 모니터하는 기술이 곧 출현할 것이다. 인간의 데이터화는 실제로 여러 질병 치료에 도움이 될 것이다.

05_“의료 인공지능과 윤리” 중에서

온라인 대학에서 시도한 인공지능을 실제 교육현장에 활용하기 위해서는 다음과 같은 과제가 제기되고 있다. 첫째, 언제 어디서나 모든 학생에게 도움을 줄 수 있는 인공지능 과외교사를 만들기 위해 사용자 모델링, 사회적 시뮬레이션, 지식재현 기술 등을 통합할 필요가 있다.

06_“교육과 인공지능 윤리” 중에서

차가 집이 되고 집이 차가 되는 ‘트렌스포머 자율지향적 하우스 건축’이 나올 것으로 기대된다. 캠핑을 좋아하는 트렌드에 발맞추어 이동형 주택 등 정주인구보다 유동인구 모빌리티시대에 대응하는 제품들도 나오고 있다. 이제는 DIY를 넘어 3D프린팅 자율생산주택이나 맞춤형 집을 홈쇼핑에서 주문하는 시대가 왔다.

09_“스마트건축의 윤리적 문제” 중에서