인공지능 알고리즘과 다양성 그리고 편향

편향으로 가는 인공지능 추천 버스
인공지능 알고리즘, 스토킹에 다양성 역행하기도

페이스북에서 우연히 광고 하나 열어봤다가 이용할 때마다 원하지 않는 광고가 따라다니며 괴롭힘을 당한 적이 있다. 사이버 스토킹에 버금가는 수준이다. 또 인공지능 알고리즘이 추천하는 영화나 도서, 유튜브 영상이 취향을 저격할 때도 있지만 쏠림 현상으로 선택을 제한하기도 한다.
이처럼 디지털 뉴미디어 시대를 맞아 미디어 이용 방식의 다양성이 증가하고 있는 한편에서 인공지능 알고리즘이 곳곳에서 다양성을 훼손시키는 편향을 일으키고 있다. 일정한 규칙에 의한 계산을 바탕으로 구성되는 일반적인 컴퓨터 알고리즘과 달리 인공지능 알고리즘은 학습에 의해 변화되며 어떤 자료를 통해 학습했는가에 따라 정보처리 방식이 달라진다. 인공지능의 학습에 사용된 자료가 특정 방향으로 편향되어 있다면 인공지능은 사회의 다양성 유지에 반하는 방식으로 정보를 처리하게 돼 결국 이용자의 편향으로 귀결된다.

인공지능은 미디어 이용 방식을 분석하여 사용자에게 최적화된 미디어 환경을 꾸며주고 좋아할만한 콘텐츠를 추천해 준다. 이러한 점에서 양방향적 환경의 디지털 뉴미디어와 인공지능의 등장은 미디어 이용의 다양성 증가에 긍정적인 역할을 할 것으로 기대됐다. 하지만 인공지능이 각 개인에게 맞춤화된 미디어 이용만을 유도한다면, 그리고 이를 통해 개인의 미디어 이용이 특정 방식으로 정형화된다면 다양성의 증가보다는 오히려 특정 방향으로 편향된 미디어 이용을 유도하게 된다.

이 책은 미디어 이용과 관련된 다양성의 관점에서 알고리즘에 대한 이야기를 제공한다. 또한 인공지능 알고리즘이 어떠한 점에서 미디어 이용의 다양성을 훼손시킬 수 있는가에 대해 살펴본다. 책의 전체적인 논의가 인공지능 알고리즘의 원리에 기반을 두고 있는 만큼, 독자들이 인공지능 알고리즘의 원리와 역할에 대한 이해의 폭을 넓히게 될 것이다.

디지털 뉴미디어로의 전환은 미디어 이용과 콘텐츠 소비 과정에 높은 다양성을 제공해 주었다. 이제는 나만의 방식으로 미디어를 이용하는 것이 가능해졌다. 인공지능은 개인화된 미디어 이용을 더욱 가속화하고 있다. 원하는 콘텐츠를 찾아 자동으로 추천해 주기 때문이다. 하지만 이는 사용자를 자신이 좋아하는 콘텐츠만 소비하는 선택적 노출로 이끌고 자신의 신념만이 옳다고 생각하는 확증 편향에까지 이르게 만든다. 이 책은 인공지능과 결합된 뉴미디어 이용이 다양성에 미치는 영향을 살펴본다. 특히 인공지능 알고리즘의 작동원리를 알아보고 알고리즘이 미디어 이용의 다양성에 미칠 수 있는 장기적 관점의 부작용에 대해 살펴본다.

이재신
중앙대학교 미디어커뮤니케이션학부와 문화예술경영학과 교수다. 서울대학교 공업화학과에서 학사와 석사학위를 받았고, 미시간주립대학교에서 텔레커뮤니케이션학 석사, 코넬대학교에서 커뮤니케이션학 박사학위를 받았다. R&I 멀티미디어 대표, 싱가포르 난양대학교 커뮤니케이션 스쿨 교수를 지냈다. 저서로는 『감정과 느낌으로서의 위험: 뇌 과학과 생물학적 접근』(2018), 『뇌과학과 커뮤니케이션』(2015) 등이 있으며 “유료 OTT 서비스 추천 콘텐츠 시청의도의 영향 요인 탐구” (2021), “국내 지상파 방송사 웹사이트 디자인의 시기별 변화에 대한 탐구”(2020) 등의 논문을 발표했다. 한국과학기술기획평가원(KISTEP) 기술영향평가위원회 위원장 등을 역임했으며 현재 한국인터넷자율규제기구(KISO)에서 정책위원, 검색어검증위원장, 인공지능 신기술위원장 등을 맡고 있다.

인공지능 시대의 도래
01 두 가지 정보처리 알고리즘
02 인공지능 알고리즘과 학습
03 인공지능과 편향
04 인공지능의 학습과 다양성
05 콘텐츠 추천 시스템
06 온라인 뉴스 서비스
07 SNS와 가짜 뉴스
08 선택적 노출과 편향
09 뉴미디어의 역설
10 다양화된 획일성

인간은 귀납법과 연역법을 통해 지식을 얻는데 귀납법은 풍부한 경험을 통해 올바른 원칙을 도출하는 방법이다. 인공지능 알고리즘은 귀납적 방식을 이용한다. 따라서 인공지능을 이용해 올바른 결정을 내리기 위해서는 먼저 인공지능에게 풍부한 경험을 제공해야 한다. 즉 다양한 자료를 확보해 미리 인공지능을 학습시켜야 하는 것이다.
_“02 인공지능 알고리즘과 학습” 중에서

인공지능은 학습한 대로 판단한다. 따라서 어떤 자료를 이용해 인공지능을 학습시키는가는 올바른 판단결과를 얻기 위한 선결조건이 된다. 학습에 사용하는 자료는 실제 현실의 자료를 이용하는 것이 일반적이다. 문제는 실제 현실이 편향되어 있거나 다양성이 유지되지 못할 때에 이러한 자료를 학습에 그대로 이용할 수 있는가다.
_“04 인공지능의 학습과 다양성” 중에서

뉴스 소비의 창구가 종이신문에서 온라인 포털로 이동하면서 다양한 관점의 뉴스들이 한데 모여 제공될 수 있었다. 하지만 인간이 아닌 인공지능이 뉴스 추천과 뉴스 편집까지 담당하게 되면서 예상치 못한 부작용이 나타나고 있다. 특정 정치적 성향의 뉴스를 선택적으로 소비하는 일이 증가하고 알고리즘을 악용하는 기사들이 양산되고 있다.
_“06 온라인 뉴스 서비스” 중에서

미디어 이용과정에서 추천 시스템에 대한 의존은 선택적 노출로 이어질 수 있다. 이는 개인을 필터 버블 안에 가두고 세상을 자신의 시각으로만 보며 자신의 의견만이 옳다고 생각하는 확증 편향에 빠지게 만들 수 있다. 이로 인해 타인에 대한 관용, 나와 다른 의견에 대한 존중은 약해지고 다양한 사회적 문제들이 야기될 수 있다.
_“08 선택적 노출과 편향” 중에서

인공지능 알고리즘과 결합된 뉴미디어는 사회구성원들이 저마다의 방법으로 미디어를 이용할 수 있게 해주었다. 이를 통해 미디어 이용의 다양성은 증가한 것처럼 보인다. 하지만 개인수준에서 살펴보면 각 사용자는 자신이 좋아하는 방식으로만 미디어를 이용하고 있다. 전체적으로 볼 때에는 다양화 된 듯이 보이지만 실제로는 미디어 이용이 획일화된 상황인 것이다.
_“10 다양화된 획일성” 중에서