인간중심 AI

기술의 중심을 다시 인간에게 돌려놓다
인공지능은 놀라운 효율과 편리함을 제공했지만, 동시에 인간의 판단력과 역할을 잠식하고 있다는 불안을 키워 왔다. 편향된 알고리즘, 과도한 자동화, 에너지 소비와 같은 문제는 더 이상 기술 내부의 문제가 아니다. 이 모순적인 상황 속에서 ‘인간성으로의 회귀’라는 키워드를 통해 새로운 해법을 모색한다. 인간중심 인공지능이 단순한 윤리 구호가 아니라, 기술 개발의 역사와 노동, 디자인, 사회운동의 흐름 속에서 형성된 하나의 패러다임임을 밝힌다. 동시에 인간을 증강하고, 통제권과 판단력을 인간에게 남겨 두려는 시도가 어떻게 등장했는지를 짚는다. 또한 의료, 돌봄, 산업, 창작, 교육 등 다양한 영역에서 인간중심 AI가 실제로 어떤 모습으로 구현되고 있는지 구체적인 사례를 통해 검토한다. 이 책은 인간중심 AI가 모든 문제의 해답이 될 수 있는지 비판적으로 묻는다. 인간을 중심에 둔다고 말하는 기술이 오히려 누군가를 배제하지는 않는지, 기업과 국가가 이 개념을 어떻게 활용하고 있는지를 따져 본다. AI 시대에 인간이 어떤 위치에 서야 하는지를 사유하게 하는 균형 잡힌 안내서다.

효율 중심의 인공지능 개발이 낳은 불안과 한계를 짚으며, 인간을 다시 기술의 중심에 두려는 흐름을 분석한다. 인간 증강, 통제권, 책임이라는 관점에서 인간중심 AI의 가능성과 문제를 함께 살피고, 그것이 과연 해법이 될 수 있는지 비판적으로 질문하는 책이다. AI문고. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

권유빈
서울대학교 과학학과 박사과정에서 과학기술학을 공부 중이다. 서울대학교 교육학과에서 학사 및 석사학위를 받았으며, 과학기술학과 교육학의 접점을 모색하고자 한다. 관심 분야는 전문성의 재구성, 인간?컴퓨터 상호작용, 인공지능 윤리, 시민 교육 등이며, 최근 한국의 인공지능 챗봇 이루다의 추락과 부활에 대한 논문인 “The fall and rise of Iruda: Reassembling AI through ethics-in-action”을 출판했다. 바이오인공지능 연구단을 중심으로, 인공지능 시대 융합 연구 과정에서의 협업과 과학자 전문성의 재구성에 관한 박사 논문을 계획 중이다.

AI 시대, 인간성으로 회귀하다

01 인간중심 개념의 역사
02 인간중심 AI의 핵심 철학
03 인간중심 AI의 구현을 위한 조건들
04 인간중심 AI와 의료, 돌봄
05 인간중심 AI와 산업, 노동
06 인간중심 AI와 창작
07 인간중심 AI와 교육
08 또 다른 소외: 인간중심 AI의 역설
09 인간중심 AI 속 인간과 기술관
10 인간중심 AI에서 관계 중심 AI로

‘인간중심’이라는 개념은 한 명의 학자나 단일한 이론에서 비롯된 것이 아니다. 오히려 여러 시대적 문제의식과 실천이 서로 얽히며 형성된 결과에 가깝다. 인간중심 개념의 하나의 뿌리는 ‘기술의 인간화(humanizing technology)’와 ‘인간 해방’과 같은 철학에서 찾을 수 있다. 이 철학은 단순히 기술 비판을 넘어, 사회 변화와 혁신이라는 보다 넓은 가치를 담아내고자 했다. 1970년 뉴욕의 비디오 예술가들이 창간한 잡지 《급진적 소프트웨어(Radical Software)》는 창간호에서 기술의 인간화라는 비전을 선언했다. 그들에게 기술의 인간화란, 기술을 무비판적으로 수용하거나 완전히 거부하는 것이 아니라, 기술을 인간 친화적으로 설계하고 시민들이 쉽게 접근할 수 있도록 만들어 기술의 힘을 시민에게 되돌려주는 일이었다. 이들에게 이 작업은 인간 종의 생존과도 직결된 문제였다.
－01_“인간중심 개념의 역사” 중에서

물론 모든 기술이 그렇듯, 인공지능 역시 예기치 않은 오류나 오작동에서 완전히 자유로울 수는 없다. 기술을 100퍼센트 통제할 수 있다는 믿음은 신화에 가깝다. 중요한 것은 사람들이 인간이 인공지능에 대해 통제권을 갖고 있다고 인식하도록 만드는 구조를 갖추는 것이다. 그래야만 인공지능의 운영과 그로 인한 결과에 대한 책임이 인간에게 귀속될 수 있다. 따라서 통제 가능성은 인간중심 인공지능의 핵심적인 조건이 된다. 이처럼 인간이 인공지능을 통제할 수 있어야 한다는 원칙에는 합의가 이루어졌지만, 인공지능을 어떤 형태로 설계할 것인지에 관해서는 의견이 엇갈린다.
－03_“인간중심 AI의 구현을 위한 조건들” 중에서

창작 영역의 인공지능은 전문적인 훈련 없이도 아이디어만을 가지고 있다면 누구든 이를 표현할 수 있는 기회를 제공한다는 의의가 있다. 창작의 문턱을 낮추고 있다는 것이다. 다른 한편으로, 인간 창작자의 독창성, 진정성, 그리고 그들이 작품에 부여하는 특별한 가치는 여전히 보존되고 존중받아야 한다. 인간중심 인공지능은 단순히 기존 작품을 모방하거나 대체하는 것이 아니라, 인간 창작자의 창의성을 증진하고, 새로운 표현 가능성을 열어주는 도구로 기능해야 한다.
－06_“인간중심 AI와 창작” 중에서

앞서 살펴본 기술 낙관주의와 함께, 인간중심 인공지능 논의의 또 다른 핵심적 한계는 인간과 기술 간의 근본적인 이분법을 전제한다는 점이다. 예컨대 인간은 내재적으로 인과관계에 대한 호기심을 갖고 있지만 기계는 그러한 특성이 없다고 주장하거나, 인간은 합리적인 판단 능력을 지니고 있어 인공지능에 대한 인간의 통제를 강화하면 위험을 줄일 수 있다는 가정 등이 여기에 해당한다. 이러한 구도에서 인간과 기술은 서로 분리된 실체로 간주되며, 기술은 인간의 통제 아래 있고, 있어야만 하는 수단으로 이해된다.
－09_“인간중심 AI 속 인간과 기술관” 중에서