AI와 사회적 상상

AI는 기술이 아니라 사회적 상상이다
“데이터는 현대의 석유”라는 구호가 시대를 지배한다. 그러나 데이터가 세계를 그대로 반영한다는 믿음은 착각에 가깝다. 유발 하라리(Yuval N. Harari)가 ‘데이터주의’라 비판했듯, 데이터 만능론은 현실의 복잡성과 인간 경험을 지워 버린다. 이 책은 AI를 기술적 성취로만 보지 않고, 사용자와 사회가 함께 구성하는 ‘공동-구성적’ 존재로 재해석한다. 몬테카를로 시뮬레이션, 퍼셉트론 논쟁, 전문가 문화의 윤리적 실패를 짚으며 기술결정론의 환상을 비판한다. 레이 커즈와일(Ray Kurzweil)식 특이점 서사를 넘어, 사용자 경험과 대중 지성이야말로 진짜 동력임을 강조한다. AI는 약이자 독인 ‘파르마콘’이며, 그것을 어떻게 사용할지는 사회적 상상과 제도에 달려 있다. AI의 미래는 데이터의 양이 아니라, 시민의 집단적 지혜와 새로운 사회 계약에 의해 결정된다.

유발 하라리(Yuval N. Harari)의 데이터주의 비판을 출발점으로, AI를 기술결정론이 아닌 사회적 상상과 사용자 경험의 관점에서 재해석한다. 레이 커즈와일(Ray Kurzweil)식 특이점 서사를 넘어, 대중 지성과 새로운 사회 계약이 AI의 방향을 좌우한다고 주장한다. AI문고. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

김지연
고려대학교 과학기술학 협동과정에서 과학사회학 박사학위(2010년)를 받았다. 현재 고려대학교 과학기술학 연구소 연구교수로 일하며, “과학과 민주주의” 및 “기술사회학” 등을 강의한다. 저서로는 2025년 세종도서에 선정된 《과학문화, 난쟁이와 거인의 노래》(2024) 등이 있다.

데이터가 ‘석유’라고?

01 데이터 너머 사용자 경험
02 기술이 ‘가속 성장’한다는 환상
03 파르마콘의 사용자
04 몬테카를로 시뮬레이션
05 퍼셉트론 논쟁
06 컴퓨터 사용자
07 전문가 문화, 윤리적 실패
08 디지털 주체
09 AI 용어 재정의하기
10 AI 사용자의 지위

종합하면 데이터는 세계에 대한 우리의 경험이 없다면 생산될 수 없다. 우리의 경험과 그로 인한 감정이 세계에 대한 직접적 원천이다. ‘사실적 진실’ 또는 ‘데이터’는 경험이라는 원천으로부터 나온 2차 구성물이다. 이런 연유로 우리는 오류와 결핍을 내장하고 있더라도 개인적이고 감정적인 진실을 폐기할 수 없다.
－01_“데이터 너머 사용자 경험” 중에서

‘파르마콘의 사용자’는 파르마콘에 대응하는 존재다. 이 명칭은 그 자체로 사용자와 파르마콘 사이의 관계성에 주목하게 만든다. 파르마콘은 그리스어에서 온 말로, ‘치료제’일 수도 있으면서 ‘독’이 될 수도 있는 모호한 힘을 총칭한다. 사용자는 파르마콘을 약으로 만들기도 하고 독으로 만들기도 한다.
－03_“파르마콘의 사용자” 중에서

컴퓨터는 특수한 도구다. 사용자가 자신의 컴퓨터를 완전히 통제하지 못한다는 점에서 그렇다. 우리는 컴퓨터를 구매하고 매일 사용하지만, 그 컴퓨터의 작동을 적절히 포착하기 어렵고, 따라서 장악하지도 못한다. 자동차를 운전하지만 자동차의 작동을 알지 못하듯이 컴퓨터를 사용하지만 컴퓨터의 작동을 이해하는 것은 아니다. 온라인 거래를 위해서 은행은 컴퓨터에서 작동할 수 있는 거래 프로그램을 제공한다. 컴퓨터는 매일 매시간 여러 가지 프로그램을 업데이트하기 위해서 자동으로 서비스 회사와 통신한다. 컴퓨터 사용자는 자신의 컴퓨터가 어떤 내용으로 통신하고 있는지 알지 못한다.
－06_“컴퓨터 사용자” 중에서

기술을 비롯하여 비인간도 지능을 가진다는 생각은 인간중심주의라는 협소한 관점에서 벗어나게 해 준다. 근대사회는 인간만이 지능적 존재로 간주했기에 동물이나 비인간에 대한 무자비한 지배를 정당화할 수 있었다. 이것은 오늘날 우리가 대면하는 기후 생태 위기를 만들었고 결국에는 우리 자신의 생존을 위협하고 있다. 쓰레기더미 위를 날아다니는 초파리가 우리보다 더 위대한 지능을 소유한 것인지도 모른다. 그들은 현재의 지구가 파괴된 이후에도 살아남을 가능성이 있다. 우리가 창조하는 새로운 존재, AI에게 인간을 닮으라고 하는 대신 자연(생명)을 닮으라고 권하는 것이 더 옳지 않을까? 우리를 위해서도 AI를 위해서도 말이다.
－09_“AI 용어 재정의하기” 중에서