AI와 평가지배사회

AI 시대, 평가는 어떻게 지배하는가
인간은 끊임없이 평가하고 평가받으며 살아간다. 이제 그 과정에 AI가 깊이 개입하면서 평가지배사회는 새로운 국면에 접어들었다. 인간과 AI, 그리고 평가가 얽혀 있는 지금의 사회를 '유기체적 변화'로 해석하며, 평가가 단순히 기술로 전환되는 것이 아니라, AI와 상호 적응하며 새롭게 작동하는 메커니즘임을 짚는다. 평가자, 피평가자, 평가 매개자의 역할은 어떻게 달라졌는가? AI는 평가를 어떻게 구성하고 조작하는가? 그리고 우리는 그 결과를 어떻게 받아들이고 있는가?
이 책은 'AI 시대의 평가'를 기술과 사회의 경계에서 사유하며, 평가가 인간성과 기술성 사이에서 어떤 윤리적 책임과 권력을 형성하는지를 면밀히 분석한다. AI가 평가를 주도하는 시대, 인간은 '평가되는 존재'로만 남을 것인가, 아니면 새로운 주체로 재정립될 수 있을 것인가?

인간, AI, 평가의 삼각관계를 분석하며 AI 시대에 평가가 어떻게 작동하고 있는지 조망한다. AI가 만드는 새로운 지배 구조 속에서 우리는 어떤 존재로 남을 것인지 묻는다. 인공지능총서. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

김민주
동양대학교 동두천 캠퍼스 공공인재학부 교수다. 고려대학교에서 행정학 박사학위를 취득했다. 공공인재학부장, 한국행정학회 운영이사, 국회도서관 자료추천위원단 위원, 경인행정학회 연구위원장, 국가평생교육진흥원 독학 행정학 분과위원회 위원, 경기북부병무지청 정책자문위원회 위원, 경기도 동두천양주교육지원청 공적심사위원회 위원 등 여러 위원회의 위원을 역임했거나 활동 중이다. 평가, 권력, 이미지, 재무행정, 문화 정책, 철학, 관리 등에 관심을 가지고 있다. 지은 책으로는 《AI 상상권력》(2024) 《관료의 언어와 이미지 생산》(2023), 《면접지배사회에서 살아가기》(2022), 《자치와 보이지 않는 권력》(2021), 《행정계량분석론》 제2판(2021), 《호모 이밸루쿠스》(2020), 《재무행정학》(2019), 《공공관리학》(2019), 《시민의 얼굴 정부의 얼굴》(2018), 《정부는 어떤 곳인가》(2017), 《문화정책과 경영》(2016), 《평가지배사회》(2016), 《원조예산의 패턴》(2014) 등이 있다. 이 중 2권(《관료의 언어와 이미지 생산》, 《원조예산의 패턴》)은 대한민국학술원 우수 도서로 선정되었고, 또 다른 2권(《호모 이밸루쿠스》, 《문화정책과 경영》)은 세종도서로 선정되었다. minju0803@gmail.com

AI 시대의 평가

01 AI 평가지배사회의 등장
02 평가 친화적 AI
03 AI 친화적 평가
04 AI와 평가자
05 AI와 피평가자
06 AI와 평가 매개자
07 AI와 평가 결과
08 AI와 평가에 대한 평가
09 AI 평가지배사회의 인간: AI 호모 이밸루쿠스
10 AI 평가지배사회 이후

미래에도 평가지배사회를 살아갈 호모 이밸루쿠스에게 하나의 중요한 변수가 생겼다. 미래 역시 평가가 지배하는 평가지배사회이겠지만, 그때는 평가와 AI가 서로 영향을 주고받으며 만들어지는 평가지배사회라는 점에서 현재와는 같지 않을 것이다. 평가지배사회라는 점에는 변함이 없지만 평가지배사회 내의 특징이 지금과는 다르다는 의미다. 이는 컵과 그 컵의 재료와의 관계로 비유할 수 있다. 유리로 만든 컵이나 플라스틱으로 만든 컵이나 둘 다 컵으로 불리지만, 각각 유리와 플라스틱으로 만들어졌기 때문에 서로 다르다고도 말하는 것과 같다. AI 시대 이전의 평가지배사회와 AI 시대 이후의 평가지배사회는 평가지배사회라는 점에서는 동일하지만, AI와 평가 간 상호 영향으로 인해 AI 시대 이전과 이후에 차이가 생긴다.
－01_“AI 평가지배사회의 등장” 중에서

평가의 기법이나 방법이 매우 다양해졌다. 그래서 어느 하나의 평가 방법이 옳고 그른 것이 아니라, 가장 적절한 것을 선택하여 평가에 적용한다. 여기서 말하는 적절한 평가 방법의 선택은 주로 평가 자료의 종류 및 수준, 평가를 할 수 있게 하는 가용 자원의 정도, 평가자의 역량 및 선호, 평가가 이루어지는 사회적 상황(시의성, 윤리성, 이데올로기 등) 등에 따라 판단된다. 이는 평가 방법을 선택하는 데 영향을 주는 일종의 변수들인 것이다. 그런데 변수는 상수와 달리 예측하기도 힘들고 제대로 고려하기도 힘들다. 또 모든 변수를 찾아내는 것도 쉽지 않다. 그래서 적절한 평가 기법이나 방법을 선택하는 것이 쉬운 일은 아니다. 단지 설득력 있는 설명으로 해당 평가 방법의 적절성을 설명할 뿐이다.
－03_“AI 친화적 평가” 중에서

평가 매개 시장에서는 다양한 방식으로 평가 매개자가 선정된다. 입찰을 통해 평가 매개자를 선정하기도 하고, 공개 모집에 따른 심사와 심의를 통해 선정하기도 하고, 추천이나 의뢰를 통해 이루어지기도 한다. 평가 매개자가 평가하는 평가에서 공정한 평가는 공정한 평가 매개자 선정에서부터 시작된다. 잘못 선정된 평가 매개자는 평가의 신뢰를 무너뜨릴 수 있다. 정부의 평가 과정에서 나타나는 문제를 자세히 들여다보면 그 원인은 주로 평가 매개자의 문제였음을 알 수 있다. 물론 그렇다고 하더라도 그 문제에 대한 책임은 해당 평가 매개자를 평가 대행으로 위임한 당초 평가자에게 있다. 그래서 평가 매개자들의 시장에서 평가자는 평가 매개자를 제대로 선정하기 위해 노력한다. 평가의 공정성에 대한 기대가 높아지는 상황에서 평가자의 평가 업무 중 하나는 시장에서 평가 매개자를 잘 선정하는 것이 되었다.
－06_“AI와 평가 매개자” 중에서

그럼에도 불구하고 AI가 야기하는 불확실성의 결과가 무엇인지에 관한 그 가능성들을 만드는 이는 결국 지금의 호모 이밸루쿠스와 먼 미래의 호모 이밸루쿠스들이다. 이들의 평가가 역사가 되기 때문이다. 이들은 사회 변화로서 AI를 진지하게 고민하고 평가하며 체감한 이들이다. 물론 AI를 거부하며 사는 호모 이밸루쿠스도 있을 것이다. 그러나 그들 역시 AI를 두고 고민하고 평가한 결과에 따른 것이다. 따라서 비록 불확실한 사회가 되어 어떤 역사로 기록될지는 모르지만, 그 내용에서 역사의 행위자로 호모 이밸루쿠스는 여전히 있을 것이다.
－09_“AI 평가지배사회의 인간: AI 호모 이밸루쿠스” 중에서