사람을 알아보는 AI

얼굴을 읽는 기계, 인간을 재단하는 사회
아침마다 휴대전화 잠금을 풀어 주는 얼굴 인식에서 공항의 자동 출입국 심사, 금융 인증, 범죄 수사와 채용에 이르기까지, 사람을 알아보는 인공지능은 이미 생활 깊숙이 들어와 있다. 이 책은 얼굴·음성·표정·걸음걸이·심리 상태를 가려내는 각종 인식 기술을 단순한 편의 기능이 아니라 “인간을 어떻게 정의하고 분류할 것인가”라는 사회적 실천으로 바라본다. 18세기 관상학과 우생학, 범죄자 신원 카드에서 출발한 얼굴 과학이 어떻게 오늘날의 얼굴 인식 기술로 이어졌는지, 그리고 그 과정에서 어떤 편견과 권력이 기술 속에 새겨졌는지 차근차근 추적한다. 또 생체 정보를 이용한 인증과 감시가 동시에 확산되는 현실에서, 오작동과 편향이 한 개인의 삶을 어떻게 뒤흔들 수 있는지 구체적 사례를 통해 보여 준다. 무엇보다 “정확도 높은 인공지능” 뒤에 가려진 질문을 끄집어낸다. 타인을 빠르고 값싸게 평가하려는 욕망, 사람을 수치와 등급으로 환원하려는 시선이 어떻게 인공지능이라는 형태로 구현되는지 비판적으로 드러낸다. 기술의 원리를 자세히 해설하기보다, 그 기술을 가능하게 만든 사회적 토양과 그것이 바꾸어 놓은 인간관을 끝까지 따라가며, 기계에게 사람을 알아보는 일을 어디까지 맡길 것인지 독자 스스로 생각해 보게 하는 책이다.

휴대전화 잠금부터 출입국 심사, 채용과 범죄 수사까지, 사람을 식별하고 분류하는 인공지능이 일상이 되었다. 이 책은 얼굴과 몸짓, 말투와 감정까지 읽어 내는 생체 인식 기술의 계보를 살피며, 그 안에 스며든 편견과 권력 관계를 드러낸다. AI총서. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

김희원
KAIST 장영실 펠로우 프로그램 박사후연구원이다. KAIST 생명과학과에서 학사학위를 받고, 서울대학교 과학사 및 과학철학 협동과정에서 석사학위를 받았으며, 2025년 KAIST 과학기술정책대학원에서 표정 인식 기술의 역사와 사회적 함의를 다룬 연구로 박사학위를 받았다. 인간과 인공지능의 대면에서 ‘인간성’과 ‘기계성’이 어떻게 형성되고, 조율되며, 충돌하는지에 관심을 갖고 있다. 《호흡공동체: 미세먼지, 코로나19, 폭염에 응답하는 과학과 정치》(창비)를 공저했다. East Asian Science, Technology and Society, Journal of the History of the Behavioral Sciences, History of the Human Sciences, History and Philosophy of the Life Sciences를 비롯한 국내외 유수의 학술지에 여러 편의 논문을 게재했다.

기계가 나를 알아본다

01 얼굴
02 표정
03 음성
04 행동
05 걸음
06 질병
07 삶
08 역량
09 거짓말
10 테러리스트

얼굴 인식 기술은 신경망 인공지능의 발전과 함께 빠른 속도로 발전했다. 대표적인 사례로 개인 핸드폰의 얼굴 인식 기능은 본인 인증이 필요한 다양한 업무를 집에서 간편하게 처리하는 데 활용되고 있다. 담당자와의 대면을 통해서만 처리할 수 있었던 일의 많은 부분이 ‘얼굴 지문(faceprint)’을 인식할 수 있는 자동화 기계에 위임되었다. 이러한 위임의 과정에는 기술을 만들거나 활용하는 기관이 나의 얼굴 데이터를 신중하고 안전하게 다루어 줄 것이라는 기대가 있고, 그러한 기대는 얼굴 인식 기술의 윤리적 문제를 제기하는 여러 시민 단체의 노력 덕분에 명문화되고 있다.
－01_“얼굴” 중에서

음성을 이해하는 기계에 대한 상상은 음향분광기를 통해 소리를 시각화하고 이를 바탕으로 발화자의 신원을 식별하려는 시도에서부터 숫자를 인식하는 초기 음성 인식기 오드리, 그리고 방대한 데이터를 활용한 통계적 예측 모델에 이르기까지 기술의 발전과 함께 점차 현실적인 모습으로 구체화되었다. 패턴 인식에서 데이터 중심의 접근으로 전환하는 변화 속에서 말을 담은 음성은 단순한 소통의 수단에 머무르지 않고 과학적 분석과 기술적 조작의 대상이 되었고, 기계가 이해하고 처리할 수 있는 정보로 재구성되었다. 오늘날 일상화된 음성 인식 기술의 기원에는 소리를 다른 방식으로 듣고자 했던 과거의 실험들과 음성 속에 숨겨진 구조를 읽어 내려 했던 집요한 시도가 자리하고 있다.
－03_“음성” 중에서

의료 인공지능 기술이 개발되는 배경은 시대마다 달랐지만, 이들이 직면한 공통 과제는 분명하다. 단순히 기능적 성능을 넘어, 실제 의료 환경에서 효과적으로 작동하고 신뢰받을 수 있어야 하며, 제도적·문화적·윤리적 조건들과 조화를 이루어야 한다는 점이다. 다시 말해, 의료 인공지능은 환자와 의료진 모두의 신뢰를 기반으로, 다양한 임상적 요구에 섬세하게 응답하는 능력이 뒷받침되어야 한다. 그렇지 못한 기술은 질병을 이해하지도, 해답을 제시하지도 못한 채, 결국 실패한 사업이라는 낙인과 함께 역사의 뒤안길로 사라질지도 모른다.
－06_“질병” 중에서

많은 경우, 우리가 거짓말 탐지기에게 기대하는 것은 ‘객관적이고 결정적인 진실’이 아니다. 더 중요한 것은 기술이 작동하는 그 과정을 통해 관계가 회복되고 불안한 마음이 달래지는 것이다. 하지만 진실을 기계로 판별할 수 있다는 믿음이 지나치게 강하면, 오히려 대화와 해석, 회복의 여지가 사라져 버릴 수 있다. 거짓말 탐지기의 진정한 문제는 기계의 가능성을 진실 판별이라는 좁은 틀에 가두는 순간 드러난다.
－09_“거짓말” 중에서