인공지능과 알고리듬 사회

2024년 한국언론학회 희관언론상 수상,  2023년 세종도서 학술부문 추천도서

AI를 다루는 중심 학문은 미디어 커뮤니케이션학임을 증명하고 인공지능의 본질을 알기 위해 알고리듬 미디어를 이론적, 체계적으로 설명한 종합 개설서

미디어 커뮤니케이션 관점에서 알고리듬의 개념, 텍스트 생성의 특징, 커뮤니케이션 방법, 인간과 사회에 던지는 의미를 고대 철학에서부터 최신 사회과학 지식까지 총동원하여 정리

글로벌 미디어 기업의 추천 시스템, 그로 인한 개인의 종언과 분인의 탄생, 인간 주체의 사고 능력의 박탈과 빈곤화, AI가 만드는 규칙과 그 성격, 알고리듬의 대항 방법 등 알고리듬과 관련된 중요한 주제를 철학, 정치,사회 측면에서 정확하게 짚어주는 책

인공지능 기술은 크게 군사, 산업, 일상의 영역에서 실현된다. 앞의 두 가지는 논외로 할 때 일상적 영역에서 선보이는 AI는 모두 미디어와 커뮤니케이션 현상이다. 로봇 저널리즘, 넷플릭스나 유튜브의 추천 서비스, 신경망 기계 번역, 애플의 시리와 같은 대화 에이전트, 소셜 챗봇, 객체 인식, 스마트 장난감 등은 전형적인 보기다. 미디어 커뮤니케이션 현상이 아닌 것이 있다면 AI 예술 정도일 텐데, 예술 또한 넓은 의미에서 일상적 영역에 속한다고 보면, 예외를 찾기 어렵다. 많이 논의되는 AI 윤리나 법적 지위 문제 또한 실제로 미디어 커뮤니케이션 과정에서 드러나는 이슈다. 그래서 AI는 이제 국내외를 막론하고 커뮤니케이션 분야에서도 많이 연구되고 있지만 여전히 부족하고 아직 이론적으로 체계화되지도 않았다.

그러나 서울대 언론정보학과 이재현 교수가 이 흐름을 바꾸었다. 『인공지능과 알고리듬 사회』를 통해 AI 시대에 AI를 다루는 중심 학문은 미디어-커뮤니케이션 분야라고 주장하고 그것을 증명하기 위해 AI가 구현된 알고리듬 미디어를 이론적으로 체계화했다. 이를 위해 아래 다섯 가지 문제를 설정하고 답을 끌어냈다. 즉 알고리듬 미디어는 어떤 기계인가?(기계 문제), 알고리듬 미디어는 어떤 양식의 텍스트를 생성하는가?(텍스트 문제), 알고리듬 미디어는 커뮤니케이션을 어떻게 매개하는가?(커뮤니케이션 문제), 알고리듬 미디어와 상호작용하며 인간은 어떻게 변화하는가?(인간 문제), 알고리듬 미디어는 우리 사회를 어떻게 변화시키는가?(사회 문제)가 바로 그것이다.

저자가 AI의 이론과 실제에서 커뮤니케이션이 근본적이라는 주장은 초기 기계 지능 논의에서 그 근거를 찾고 있다. “기계 지능의 시발점인 튜링 테스트는 텍스트 매개 커뮤니케이션이라는 상황을 상정한 것이었다. 기계 지능의 또 다른 접근인 사이버네틱스의 창시자인 위너 또한 인간과 기계, 그리고 기계와 기계 사이의 메시지 교환, 즉 커뮤니케이션을 사이버네틱스의 핵심으로 간주한 바 있다.”고 소개한다. 이 책은 알고리듬이란 용어의 기원에서 시작해 유클리드의 알고리듬, 그리고 현대적인 컴퓨터 알고리듬의 시작으로 간주되는 앨런 튜링의 튜링 기계와 보편적 튜링을 거쳐 튜링의 기계 지능 구상까지 살펴본다. AI에 대한 몇 가지의 접근과 그 역사까지 포함하여 고대 그리스의 수학적 알고리듬부터 최첨단의 AI 알고리듬까지 알고리듬의 거의 모든 역사를 다루고 있다. 저자의 기본적인 주장은 알고리듬 체계는 항상 커뮤니케이션 미디어이며, 인간은 알고리듬과, 또는 알고리듬을 매개로 상호작용하며 존재 양식의 변화를 겪는다는 것이다. 즉 인간은 알고리듬 미디어와 커뮤니케이션 또는 상호작용하며 포스트-휴먼으로 변화한다.

알고리듬의 본질은 데이터를 처리하는 방식에서 드러난다. 알고리듬은 주어진 논리들의 집합, 즉 규칙에서 시작하지만 데이터를 처리하면서 데이터를 처리할 규칙과 논리를 스스로 변화시켜 나간다. 데이터라는 입력을 처리해 기계적으로 출력을 결정해내는 1단계 알고리듬과 달리 2단계 알고리듬은 자기조직화를 통해 창발적으로 규칙을 변화시켜 나가면서 새로운 결과를 생산해 낸다. 그래서 생기는 알고리듬의 불확정성은 유한한 규칙과 무한한 데이터라는 조건에서 야기되는 우발성이 아니라 알고리듬 자체의 창발성에 있다. 이런 점에서 알고리듬을 처리하는 기계, 즉 컴퓨터의 상태 공간은 잠재성을 내재한 가능태의 공간이 되는 것이다.

알고리듬이 만드는 텍스트와 미디어 서비스에 대한 저자의 분석과 해석은 우리가 의식하지 못하는 글로벌 미디어 힘을 깨닫게 한다. 아마존은 개인 고객의 구매 이력, 특정 웹 페이지의 페이지 뷰와 체류 시간, e-커머스 포털의 방문 시간, 탐색하거나 체류한 링크, 쇼핑 카트나 위시 리스트 활동, 전화 문의, 지리 같은 고객 데이터를 가지고 AI에 기반하는 구매 예측 모델을 사용한다. 이는 단순히 배송 시간의 단축을 통해 수익을 증대시키려는 마케팅 전략에 그치지 않는다. 유럽의 연구 집단인 언서튼 코먼스는 아마존의 예기적 배송을 “확정적 기투”의 대표적인 사례로 간주한다. 다양한 가능성을 열어 둔 채 바람직한 미래를 모색하는 이른바 “긍정적 기투”와 달리, “확정적 기투”는 “미래의 모든 것이 원칙적으로 표상 가능하고 인지 가능하며 계산 가능하다”고 본다. 이런 전제를 토대로 “잠재태를 생산하고 그것을 활용하는바, 그런 점에서 다른 가능성은 차단한다.” 다시 말하면 우리 자신도 알 수 없는 상품에 대한 욕망을 아마존이 미리 알고 결정해 준다는 것이다.

주목할 점은 이런 상업적인 선제적 서비스가 넷플릭스, 유튜브, 스포티파이, 아마존 등에서 보듯 몇몇 추천 시스템에 국한하지 않고 현대사회의 서비스 환경이 되고 있다는 것이다. 즉 기계 학습과 AI로 대표되는 새로운 기술의 발전으로 선제적 서비스가 보편화되고 있다는 것이다. 선제적 서비스는 군사정치적 선제 작전과 마찬가지로, 미결정의 잠재적인 취향과 욕망을 미리 자신의 이익에 부합하도록 포획하는 것을 말한다. 그래서 이 책의 후반부는 자연스럽게 주체의 사라짐과 사고의 빈곤으로 드러나는 현대 자본주의의 알고리듬 통치의 문제로 이어진다.

알고리즘 미디어가 야기한 여러 문제에 답하기 위해 저자는 다양한 분야의 학술적 자원을 동원했다. AI 기술을 개발한 공학은 물론 철학, 사회 이론, 문화 이론, 미디어 이론과 커뮤니케이션 연구 등을 포괄한다. 저자가 알고리듬의 이론화에 몰두한 이유는 분명하다. 알고리듬 미디어가 다양한 상호작용을 매개하고 있지만, 그것의 핵심은 인간-인간 상호작용성을 넘어 인간-기계 상호작용성을 본격적으로 구현하기에 이르렀기 때문이다. 인공지능 챗봇 chatGPT가 대표적인 사례다. 사람들은 새로운 인공지능의 모습이 소개될 때마다 큰 관심을 보이지만 정작 그것의 본질이 무엇인지는 제대로 파악하지 못한다. 개념도 어렵고 그것을 이해하지면 동원해야 하는 관련 지식이 만만치 않기 때문이다. 그러나 이 책은 인공지능의 원리와 그것의 의미를 사회과학도도 이해할 수 있는 수준으로 제대로 설명했다. 내용의 밀도는 높지만 확실한 근거와 설명력이 이 책을 끝까지 흥미진진하게 읽게 한다. 이 책의 독서는 시간이 지날수록 더 화려해질 인공지능의 본색을 두려움 없이 당당하게 대하는 힘을 제공할 것이다.

AI를 다루는 중심 학문은 미디어 커뮤니케이션학임을 증명하고 알고리듬 미디어를 이론적으로 체계화한 종합 개설서다. 미디어 커뮤니케이션 관점에서 알고리듬 미디어는 어떤 기계인지, 어떤 양식의 텍스트를 생성하는지, 커뮤니케이션을 어떻게 매개하는지, 알고리듬 미디어의 상호작용은 인간과 사회에 어떤 의미를 주는지 정리했다. 우리의 일상을 지배하는 많은 미디어 기업의 알고리듬 이용 방식과 그것이 야기하는 주체의 종언과 사고의 빈곤화, 알고리듬의 통치성과 그것의 저항 방안까지 접근했다. 이 책은 새로운 인공지능이 소개될 때마다 기술의 문제로 정작 그것의 본질이 무엇인지 제대로 파악하기 힘든 독자에게 복잡한 현상에 휘둘리지 않고 미디어의 영향과 자신을 성찰할 수 있는 힘을 제공한다.

서울대학교 언론정보학과 교수로 미디어 이론가이자 기술 철학자다. 연구 영역은 미디어 이론과 기술 철학, 디지털 미디어와 문화, 소프트웨어 연구, 기술 비평, 미디어 수용자 연구 등이다. 우리나라 1세대 인터넷 연구자로, 인터넷에 관한 최초의 사회과학 연구서인 『인터넷과 사이버사회』(1999)를 시작으로 역서 『인터넷 연구방법: 쟁점과 사례』(2000), 편저서 『인터넷과 온라인 게임』(2001) 등 ‘인터넷 3부작’을 출간했다. 급속히 발전하는 디지털 미디어에 주목해 『멀티미디어와 디지털 세계』(2004)와 『모바일 미디어와 모바일 사회』(2004)를 저술했는데, 이 책들은 『인터넷과 사이버사회와 더불어 저자의 ‘뉴미디어 3부작’으로 불린다. 스티븐 홀츠먼의 『디지털 모자이크』(2002), 제이 볼터와 리처드 그루신의 『재매개: 뉴미디어의 계보학』(2006), 스티브 존스 편저 『뉴미디어 백과사전』(2005)을 번역하여 외국의 디지털 미디어 이론과 연구를 국내에 소개했다.

새로운 디지털 미디어가 등장하는 상황에서 『컨버전스와 다중 미디어 이용』(2011), 『트위터란 무엇인가: 다학제적 접근』(2012)을 엮었고, 『모바일 문화를 읽는 인문사회과학의 고전적 개념들』(2013), 『SNS의 열 가지 얼굴』(2013), 『뉴미디어 이론』(2013) 등 다수의 컴북스이해총서를 출간했다. 소프트웨어 연구의 대표적 연구서인 레프 마노비치의 『소프트웨어가 명령한다』(2014)를 번역하여 소프트웨어 연구로 관심 영역을 확장한다. 베르나르 스티글레르, 마크 핸슨과 같은 유력한 기술 철학자들을 국내에 처음 소개하기도 했다. 다양한 철학적 조류와 기술 발전에 대한 탐색을 기반으로 『인공 지능 기술 비평』(2019), 『공명: 미디어 기술 비평』(2019), 『사물 인터넷과 사물 철학: 초연결 사회의 기술 비평』(2020)을 연속 출간하며 인공지능과 사물 인터넷 같은 최신 기술 지형 변화에 주목하면서 동시에 ‘미디어 기술 비평’이라는 새로운 영역을 개척하고 있다. 다수의 저서, 번역서, 그리고 논문이 희관언론상(저술과 번역), 대한민국학술원과 문화체육관광부 우수학술도서, 한국언론학회 우수논문에 선정되었다.

머리말

1부 AI, 커뮤니케이션, 미디어

1장 알고리듬 미디어: 개념과 이론 틀

1. AI와 커뮤니케이션
2. 알고리듬 미디어의 개념
3. 알고리듬 미디어의 사례들
4. 알고리듬 미디어의 범위와 유형
5. 알고리듬 미디어 이론

2장 AI에 대한 세 가지 접근

1. AI의 개념과 연구의 출발
2. 기호논리 AI
3. 연계주의 AI
4. 체화 AI

2부 AI 미디어

3장 알고리듬 체계

1. 알고리듬의 개념
2. 튜링 기계
3. 튜링의 생각하는 기계: 기계 지능
4. 비의미화 기호체로서의 알고리듬
5. 2단계 알고리듬 체계

4장 AI와 기계 의식

1. 인간과 기계
2. 튜링 테스트와 중국어 방
3. 토마스 메칭거: “탈주체”
4. 기계 의식
5. 지능과 의식: 『블라인드사이트』

3부 AI 텍스트

5장 포스트-텍스트

1. 포스트-미디어, 포스트-텍스트
2. 포스트-텍스트의 개념: 오레오 쿠키 구조
3. 일반 텍스트, 사이버텍스트, 포스트-텍스트
4. 포스트-텍스트의 특징
5. 포스트-텍스트 생성 시스템의 사례들
6. “심층적 리믹스”를 넘어

6장 동적 다중-텍스트

1. 동적 다중-텍스트의 보편화
2. 사례: 넷플릭스의 개인화 홈페이지
3. 동적 다중-텍스트
4. 동적 다중 실재

4부 AI 커뮤니케이션

7장 AI와의 커뮤니케이션

1. AI 매개 커뮤니케이션
2. AI와의 상호작용: 대화 에이전트와 소셜 챗봇
3. AI와의 커뮤니케이션: 이론적 이슈
4. 통역 불가능성과 메타커뮤니케이션
5. 증강 커뮤니케이션: 소시오미터
6. 자기-추적 기술

8장 선제 커뮤니케이션

1. 추천 시스템과 선제 커뮤니케이션
2. 넷플릭스의 추천 시스템
3. 유튜브의 추천 시스템
4. 스포티파이와 아마존의 추천 시스템
5. 선제와 추천 서비스
6. 선제의 미디어: 성향의 창출

5부 AI와 알고리듬 사회

9장 분인: AI와 개인의 종언

1. 통제 사회와 분인
2. 근대적 개인 개념의 등장과 발전
3. 분인 개념의 등장과 발전
4. 현대 기계적 자본주의와 분인
5. “제국”의 실재
6. 분인의 사회정치학

10장 AI와 알고리듬 통치

1. 통치 알고리듬 이야기 『스노 크래시』
2. 알고리듬 통치성의 개념과 기제
3. 알고리듬 통치성과 인간 주체
4. AI와 사고의 빈곤화
5. 알고리듬 통치성의 공백과 저항

참고 문헌

찾아보기

위너의 커뮤니케이션 개념은 커뮤니케이션 연구에서의 개념보다 넓다. 첫째, 커뮤니케이션 주체는 인간만이 아니라 동물, 나아가 기계까지도 포함한다. 기계가 커뮤니케이션 주체가 된다는 것은 인간 커뮤니케이션만을 다루는 커뮤니케이션 연구 전통과는 다른 것이지만, 새롭게 등장하는 AI와 커뮤니케이션 연구에서는 핵심적인 주제가 된다. 둘째로, 위너는 동물이든 기계든 위의 커뮤니케이션 주체들 사이의 커뮤니케이션뿐만 아니라 환경과의 정보 교환도 커뮤니케이션의 범주에 포함시킨다. 이는 사이버네틱스 전통의 고유한 개념이지만, 커뮤니케이션 상대자로서의 미디어와 삶의 환경을 구별할 수 없게 되는, 달리 말하면, 미디어가 환경이 되는 최근의 상황을 고려하면 이런 개념 확장 또한 충분히 받아들일 수 있을 것이다.

-“1장 알고리듬 미디어: 개념과 이론틀” 중에서

기계적 결정론을 따르는 1단계 알고리듬 체계와 달리, 2단계 알고리듬 체계는 RNN(recurrent neural network)으로 대표되는 연계주의나 유전 알고리듬에서 보듯, 알고리듬의 “창발성” 기제에 주목한다. 즉 알고리듬은 창발과 자기조직화, 두 가지 원리를 근간으로 하는 자기생산 체계로 규정된다. 이는 과타리가 기계의 개체발생이라고 부른 것이다. 예를 들어, 존 콘웨이의 생명의 게임에서 보듯, 셀룰라 오토마타 알고리듬은 단지 세 줄로 기술될 수 있는 단순한 규칙으로 시작하지만 몇 단계만 ‘진화’하면 글라이더와 같은 독특한 패턴을 생성한다. 그러나 자기생산적 알고리듬의 특징은 새로운 패턴의 생성에만 그치지 않고 자신의 생산 기제를 스스로 생산해 내는 자기조직화에 있다. 다시 말하면, 알고리듬은 주어진 논리들의 집합, 즉 규칙에서 시작하지만 데이터를 처리하면서 데이터를 처리할 규칙과 논리를 스스로 변화시켜 나간다는 것이다.

-“3장 알고리듬 체계” 중에서

그러나 그 앞에 앉아 있는 상대는 알파고가 아니라 컴퓨터 화면을 보고 바둑판에 알파고의 수를 대신 놓아만 주는 딥마인드의 아자황이었다. 그는 복기를 할 대국 당사자가 당연히 아니다. 이 상황은 인간 이세돌이 복기를 하려고 해도 그 상대가 없다는 점에서 소통 불가능성(ex-communication)을 드러낸다. 이세돌은 알파고로부터 배제된 것이다.

-“7장 AI와의 커뮤니케이션” 중에서

여기서 중요한 점은 기계가 나보다 나 자신을 더 잘 안다는 것이다. 이는 기계가 추출한 데이터의 진리값을 인정하는 것이다. 측정한 데이터로 구성된 또 다른 나의 존재 양식을 케빈 켈리는 “외재자아(exoself)”라 부른다. 셋째로, 이런 과정은 인지적, 의식적 수준이 아닌 전의식적, 비반성적 수준에서 이루어진다. 이렇게 될 때 자기-추적 기술은 인간 (의식)을 우회하는 초월적 기술이 된다. 여기서 ‘나’는 의식하고 판단하는 주체와 데이터로 구성되는 또 다른 자아로 분열된다. 이럴 때 문제는 후자, 즉 초월적 기술이 만들어 내는 “외재자아”가 전자, 즉 의식적 주체에 우선하고 그것을 압도한다는 것이다.

-“7장 AI와의 커뮤니케이션” 중에서

아마존의 예기적 배송이나 스포티파이의 추천 서비스는 인식론과 존재론의 측면에서 마수미가 규정한 군사정치적 선제와 공명한다. 먼저 인식론의 측면에서 정치군사적 선제는 잠재적인 위협이 야기하는 공포가 새로운 원인으로 생산된다면, 상업적 선제 서비스는 불확실한 경쟁 시장의 상황에도 불구하고 창출해야 할 이윤 욕망이 새로운 원인으로 생산된다. 양자 모두 미성숙과 비가시성이 불확실성의 원천이라는 점에서는 같으나, 소비자의 데이터 분석을 통한 예측에 의거하는 상업적인 선제 서비스는 컴퓨터 연산의 내재적 우발성이 개재한다는 점에서 특징적이다. 패리시는 이런 내재적 우발성을 “말랑탕튀(malentendues)”라 부르며, 이것이 현대사회의 포스트-사이버네틱 통제가 갖는 통치성의 원천적 한계라고 주장한다.

-“8장 선제 커뮤니케이션” 중에서　

이와 같은 이중성(혼종성)이 바로 핸슨이 말하는 피드-포워드 구조다. 한편으로는 원초적, 미시적 수준에서 직접 작용하면서 사고와 행동을 안내할 “성향”을 만들어 내고, 다른 한편으로 의식과 지각의 차원에서는 경험의 현시점에서 지각하거나 의식할 수 없도록 미래로 밀어내는, 즉 피드-포워드해 낸다는 것이다. 다시 강조하지만, 이 이중성은 분리되는 것이 아니라 동전의 양면과 같은 것으로, 21세기 미디어는 자신이 전달하는 세계 감성을 의식할 수 없도록 미시 수준에서 피드-포워드함으로써 전지각적 차원에서의 정동적 성향의 창출을 가능케 한다는 것이다.

-“8장 선제 커뮤니케이션” 중에서　

페이스북의 경우, 친구라 명명되는 사람들의 네트워크 층위를 기반으로 그 위에 콘텐트 층위가 있는 것이라면, 즉 사람들의 네트워크를 따라 콘텐트가 흘러 다니는 것이라면, 인스타그램의 경우는 해시태그로 규정되는 콘텐트 네트워크를 기반으로 사람의 네트워크가 확인되는 서비스다. 양자의 차이는 사람 네트워크와 콘텐트 네트워크 중에서 어떤 것이 기반이 되는가 하는 데에 있다. 즉 페이스북이 인간 중심적이라면, 인스타그램은 콘텐트 중심적이다. 페이스북과 달리 인스타그램에서 사람은 부차적이다. 이를 달리 표현하면, 페이스북 이용자는 주체적인 ‘개인(individual)’이라면, 인스타그램 이용자는 콘텐트의 해시태그가 횡단하며 엮어 내는 ‘분인(dividual)’이다.

-“9장 분인: AI와 개인의 종언” 중에서

루브루아에 따르면, 알고리듬 통치성은 “정치, 법률, 사회적 규범 등에 의거하지 않고 빅데이터에 대한 알고리듬 분석에 의거하는, 사회적 세계에 대한 통치 방식”으로 정의된다. 다시 말하면, 알고리듬을 활용해 사회적 세계를 계량화하고 디지털화하는 것, 흔히 말하는 빅데이터의 분석과 활용이 통치의 주요 수단과 기반이 된다. 여기서 중요한 점은 두 가지인데, 하나는 알고리듬에 의한 빅데이터의 분석과 활용이고, 다른 하나는 이것의 비규범성이다.

-“10장 AI와 알고리듬 통치” 중에서　

기계학습의 목적은 궁극적으로 데이터 자체에 기반하는 가설들의 생산에 있다. 이는 어떤 의미인가? 루브루아와 번스는 “실재 자체로부터 규준(norms)이 바로 부상한다”고 표현하는데, 이를 풀어 말하면, 실재는 상관관계들로 구성되어 있으며, 이런 상관관계가 바로 실재의 규준이라는 의미다. 참고로, 여기서 영어 norm이란 말은 우리말로 규준, 규범, 정상적인 것 등의 복합적 의미를 가지는데, 상관관계가 규준이 된다는 것은 상관관계라는 데이터 분석을 통해 정상적인 것으로 간주되는 것이 이제 정치, 법률, 도덕과 같은, 세상을 규정하는 규범과 규준을 대체하게 된다는 것이다.

-“10장 AI와 알고리듬 통치” 중에서