인공 지능 기술 비평(2020년 한국언론학회 희관언론상 수상)

생각하는 기계, 인공 지능(AI)은 이제 현실이 되었다. 우리는 방대한 데이터 처리와 고도의 알고리듬으로 구성된 AI 체계를 어떻게 이해할 것인가?
이 책은 AI라는 기술적 대상에 대한 기술 비평을 다룬다. ‘기술 비평’이란 매체 비평과는 다르다. 기술 비평은 내용이 아닌 매체 또는 기술을 다룬다. 기기 비평은 아니다. 기기를 포함하는 기술적 시스템을 다루기 때문이다. 기술 철학이나 미디어 이론에 토대를 두되 그것을 지향하는 것은 아니며 기술 보도를 의미하는 것은 더더욱 아니다. 이론적 작업이라기보다는 주관적 평가를 지향하기 때문이다. 철학적 질문을 던진다는 점에서 이 책에 ‘AI 기술과 철학의 만남’이라는 제목이 붙어도 좋을 것이다.
이 책은 홍수처럼 출간되는 최근의 AI 관련 서적들과는 다르다. AI 로봇이 등장하면 인간의 일자리가 없어질 것인가? AI가 인간을 지배하게 될 것인가? 최근의 대중적 담론은 이 두 질문으로 대표된다. 전자가 노동중심주의적 담론이라면 후자는 주인-노예 변증법의 담론이다. 이 책은 이 두 가지 지배적인 담론에서 벗어나 AI에 대한 보다 넓은 시각을 제공한다.
각 장은 세 부분으로 구성되었다. AI 응용 체계의 기술적 원리 소개, 응용 체계와 연관된 철학적, 이론적 논의, 그리고 양자 사이의 연계 내지 공명이나 추가적 이슈다. 기술과 철학이 별도로 제시되어 있는데, 이는 기술과 철학, 특히 AI 기술 자체에 대한 세세한 이해가 필요하기 때문이다. 이를 통해 전문적인 기술 문헌을 읽지 않더라도 해당 응용 체계의 기본 원리를 파악할 수 있을 것이다.
기술과 철학의 만남은 한편에서 보면 기술에 대한 철학적 해석이지만 다른 편에서 보면 철학적 통찰의 대상이 현대 사회에서 어떻게 구현되고 있는지를 확인하는 계기가 된다. 산업 시대의 기술적 대상을 다룬 철학을 현대적으로 이해하려 한다는 것은 그 이론을 현대 사회의 기술적 대상에 적용할 때에도 타당한가를 질문하는 것이 될 것이다. 이런 점에서 이 책은 철학을 보다 현실적으로 이해하는 계기를 제공할 것이다.

한국언론학회는 2020년 저술상(희관언론상)에 이 책을 선정했다.

인공지능이란 무엇인가? 기술적 원리와 기제에 대한 이해만으로는 이 질문에 충분히 답을 할 수 없다. 인간과 기계의 동이점에서 출발하는 형이상학적 기계론은 공허하다. 기술 비평은 인공지능의 기술적 원리에 주목하면서도 그것에 철학적 질문을 제기한다. 기술과 철학의 공명을 모색하는 기술 비평은 인간대체론과 기술낙관론으로 대표되는 테크놀로지 혁명 담론을 극복하며 인공지능의 실체를 통찰한다.

이재현
서울대학교 언론정보학과 교수로, 연구 분야는 미디어 이론 및 기술 철학, 디지털 미디어와 문화, 소프트웨어 연구, 미디어 수용자 조사 분석, 기술 비평 등이다. 저서로 『공명: 미디어 기술 비평』』(2019), 『모바일 문화를 읽는 인문사회과학의 고전적 개념들』(2013), 『SNS의 열 가지 얼굴』(2013), 『뉴미디어 이론』(2013), 『인터넷과 사이버사회』(1999), 『멀티미디어와 디지털 세계』(2004), 『모바일 미디어와 모바일 사회』(2004) 등이 있고, 역서로 『소프트웨어가 명령한다』(2014), 『재매개』(2006), 『뉴미디어 백과사전』(2005), 『디지털 모자이크』(2002), 『인터넷 연구방법』(2000)이 있다. 편저로 『트위터란 무엇인가』(2012), 『컨버전스와 다중 미디어 이용』(2011), 『인터넷과 온라인 게임』(2001)이 있다.

머리말

프롤로그: AI 기술 비평
신화적 상상에서 기계 지능으로
AI에 대한 기술 비평
AI와 철학의 만남
책의 범위와 구성

01 알고리듬과 과타리: 비의미화 기호체
알고리듬
과타리의 “비의미화 기호체”
알고리듬과 과타리의 비의미화 기호체

02 기계번역과 베냐민: 순수 언어
구글의 신경망 기계번역
베냐민의 “순수 언어”
GNMT의 중간언어와 베냐민의 순수 언어

03 객체 인식과 바르트: 푼크툼의 죽음
객체 인식
바르트의 “스투디움”과 “푼크툼”
객체 인식과 바르트: 푼크툼의 죽음

04 GAN과 들뢰즈: 시뮬라크럼
GAN
들뢰즈의 “시뮬라크럼”
GAN의 가짜 이미지와 들뢰즈의 시뮬라크럼

05 딥드림과 프로이트: 꿈-작업
구글의 딥드림
프로이트: “꿈-작업”
구글의 딥드림과 프로이트의 꿈-작업: 창의성의 경계

06 지능형 개인 비서와 메칭거: 탈주체
지능형 개인 비서
메칭거: “탈주체”
IPA와 메칭거: 탈주체

07 예기 추천 시스템과 마수미: 선제
AI: 선제의 서비스
마수미: “선제”의 정치
마수미와 AI: 선제

08 XAI와 베버: 설명가능성
XAI
베버: “설명가능성”
베버의 설명가능성과 XAI의 사변적 세계

09 생각하는 기계와 스티글레르: 생각하는 법
튜링: 생각하는 기계
스티글레르: “생각하는 법”
튜링의 생각하는 기계와 스티글레르의 생각하는 법

에필로그: 기계, 지능, 인간
중국어 방: 지능과 의식
아프리오리, 아포스테리오리: 인간과 기계
알파고와 이세돌: 소통 없는 대화

부록: AI 연표
참고문헌
찾아보기

번역은 각기 다른 언어 속에서 감추어져 있는 “순수 언어”를 모색하는 작업이다. 그러나 의미하는 바와 의미하는 방식 사이의 관계를 한 언어 안에서만 모색해서는 순수 언어가 드러날 수 없다. 이를 베냐민은 “내용과 언어가 원작에서 과일과 껍질처럼 봉합되어 있다”고 표현한다. 내용과 언어, 즉 의미하는 바와 의미하는 방식 사이의 이런 “이접” 때문에 번역이 어렵고 피상적으로 그치는 경우가 많다는 것이다. 순수 언어는 관계적 맥락, 즉 언어들 사이의 보충 관계에서 출현하는 것이다. 이런 점에서 전적으로 특정한 언어적 맥락만을 지향하는 시인의 과제는 언어 일반을 총체성의 관점에서 접근하는 번역자의 과제와 다르다. 요컨대 번역은 언어들이 가지고 있는 관계의 총체성을 고려해 개별 언어 속에 감춰져 있는 순수 언어를 모색하는 작업이다. “순수 언어”, 바로 이것이 GNMT로 대표되는 기계번역과 베냐민의 번역 이론이 공명하는 지점이다. GNMT는 순수 언어를 발견한 것일까? 이 문제는 뒤에서 자세히 논의하기로 하고, 번역은 구체적으로 어떻게 수행되어야 하는가?.
_ “02 기계번역과 베냐민: 순수 언어” 중에서

현 시점에서 보면, 기계 지능의 구현은 튜링의 전망대로 실현되는 것처럼 보인다. 즉 그의 모방 게임을 성취한 듯한 1960년대 초반의 엘리사와 같은 대화 시스템, 의료나 법률 등의 분야에서 개발되고 있는 전문가 시스템, 컴퓨터 시각으로도 불리는 이미지 인식 기술, 현재 상용화되어 있는 기계번역, 체스나 바둑을 두는 인공 지능 등에서 보듯, 튜링이 확신했던 “생각하는 기계”가 한 단계씩 진전되어 왔음은 부인할 수 없을 것으로 보인다. 이른바 ‘기계 지능’의 출현은 매우 복잡한 문제들을 제기해 왔는데, 이는 다음 두 가지 질문으로 요약된다. 하나는 이런 인공 지능을 인간의 경우와 같은 지능이라 부를 수 있을 것인가 라는 문제이고, 다른 하나는 기계 지능 또는 인공 지능의 발달과 활용의 확대가 우리 인간에게 어떤 함의를 가지는가 라는 문제다. 전자가 기술을 규정하는 철학적 질문이라면, 후자는 보다 인간에 주목하는 사회과학적 질문이라 할 수 있다. 특히 후자와 관련하여, 다음과 같은 질문이 제기된다. 튜링의 말대로 기계가 사고할 수 있게 된다면, 이런 기계와 함께하는 인간의 사고 능력은 어떻게 될 것인가? 결국은 기계 지능이 인간의 지능을 대신하게 될 것인가? 즉 인간의 사고 능력을 기계에 넘겨주게 될 것인가? 그렇다면 인간의 지위는 어떻게 되는 것인가?
_ “09 생각하는 기계와 스티글레르: 생각하는 법” 중에서

http://www.etnews.com/20191008000111(전자신문 저자 인터뷰)

https://biz.chosun.com/site/data/html_dir/2019/10/10/2019101000097.html?utm_source=naver&utm_medium=original&utm_campaign=biz(조선일보)

http://www.readersnews.com/news/articleView.html?idxno=95086(독서신문)

http://www.veritas-a.com/news/articleView.html?idxno=167234(베리타스알파)

https://www.donga.com/news/article/all/20201019/103501856/1(동아일보)