AI와 인간의 판단

인간의 판단 오류와 AI의 가능성
인간은 다양한 휴리스틱과 인지적 편향에 따라 비합리적인 판단을 내린다. 인간 판단의 한계와 오류를 행동경제학, 인지심리학 관점에서 분석하고, AI가 이를 어떻게 보완할 수 있는지 살핀다. 빅데이터, 머신러닝, 딥러닝의 발전으로 AI는 의료, 금융, 연구 등 다양한 분야에서 인간보다 빠르고 정확한 판단을 내릴 수 있게 되었지만, AI 역시 한계와 편향을 지닌다.
이 책은 AI가 인간의 오류를 극복할 수 있는 영역과 그렇지 않은 영역을 구체적으로 나누어 설명하고, AI가 인간과 어떻게 공존해야 하는지를 모색한다. 개인과 집단의 판단 오류, AI 알고리즘의 원리와 성과, 의료·금융·연구 분야 사례 분석을 통해 AI 활용의 현실과 윤리적 과제를 함께 짚는다. 복잡하고 불확실한 열린 문제 앞에서 AI가 인간을 완전히 대체할 수 없는 이유를 비판적으로 검토하며, 인간과 AI가 함께 발전하기 위한 방향성을 제시한다.

인간은 판단 과정에서 다양한 편향과 오류를 범한다. 행동경제학과 인지심리학을 바탕으로 인간 판단의 한계를 분석하고, AI가 이를 어떻게 보완할 수 있는지 살핀다. 동시에 AI의 한계와 윤리적 과제도 비판적으로 조망한다.

강은숙
국립한국해양대학교 해양행정학과 교수. 경북대학교 행정학과 졸업, 서울대학교 행정학 석 · 박사. 한국행정연구원 정책평가센터에서 수석연구원으로 일했다. 인간에 대한 이해에 기초해 개인과 조직, 사회의 합리성을 제고하는 데 관심이 많다. 저서로 『대니얼 캐너먼』(2023), 『기후변화시대, 환경정책의 이해: 규제에서 넛지까지』(2022, 2023년 학술부문 세종도서 선정), 『행동경제학과 공공정책: 인간행동의 이해와 넛지』(2019, 2020년 학술부문 세종도서 선정) 등이 있다. 이외 KCI 등 전문 학술지에 게재한 수십 편의 논문이 있다.

김종석
국립한국해양대학교 국제무역경제학부 명예교수. 서울대학교 경제학과 졸업, 미국 워싱턴대학교(St. Louis) 경제학 석 · 박사. 인간에 대한 미시경제학적 접근, 행동경제학적 이해에 기초한 연구를 수행하고 있다. 저서로 『대니얼 캐너먼』(2023), 『기후변화시대, 환경정책의 이해: 규제에서 넛지까지』(2022, 2023년 학술부문 세종도서 선정), 『행동경제학과 공공정책: 인간행동의 이해와 넛지』(2019, 2020년 학술부문 세종도서 선정) 등이 있다. 이외 KCI 등에 게재한 수십 편의 논문이 있다.

손주영
국립한국해양대학교 대학원 컴퓨터공학과(기관시스템공학부) 교수. 서울대학교 전산과학 학사, 컴퓨터공학 석 · 박사. LG전자에서 IBM SNA 통신 프로토콜, PC BIOS, G4 팩시밀리, 멀티미디어 서버 개발에 참여했다(1985∼1998). 국립한국해양대학교에서 해상통신망 통합시스템, 실내외 위치추적 및 위치 기반 서비스에 관해 연구했다(1998∼현재). 저서로 『데이터통신과 해양정보통신망』(2021, 세종도서 학술부문 추천). “A Close Contact Identification Algorithm Using Kernel Density Estimation for the Ship Passenger Health”(2023) 등 70편 이상의 논문을 SCI, SCOPUS, KCI 등 등재학술지에 게재했고, 60편 이상의 논문을 국내외 학술대회 논문으로 발표했다.

유성진
국립한국해양대학교 해운경영학부 교수. KAIST 경영정책학과 학사, 산업경영학 석사, 산업공학 박사. 벤처 기업에서 2년간 데이터 분석, 정보시스템 컨설팅 업무를 수행했다. 국립한국해양대학교에서 AI를 활용한 공급망 관리, 빅데이터를 연구 중이다(2004∼현재). 저서로 『Multi-Criteria Methods and Techniques Applied to Supply Chain Management』(2019), 『해운항만 물류정보 시스템』(2010) 등이 있다. “Performance based stratification and clustering for benchmarking of container terminals” 등 수십여 편의 논문을 SCI, SCOPUS, KCI 등 전문 학술지에 게재했다.

인간의 판단 오류에서 AI의 역할과 한계

01 합리성과 비합리성
02 개인의 판단 오류 1: 휴리스틱과 편향
03 개인의 판단 오류 2: 소음 혹은 분산
04 집단적 의사 결정과 비합리성
05 AI 모형의 설계와 그 적용
06 AI가 잘하는 일, 못하는 일
07 AI를 적용한 사례 1: 의료 분야
08 AI를 적용한 사례 2: 금융 투자 분야
09 AI를 적용한 사례 3: 연구 분야
10 AI 의사 결정의 장점과 한계

먼저 뇌의 구조와 기능을 개략적으로 살펴보자. 인간의 뇌는 크게 대뇌, 중뇌, 소뇌, 간뇌, 뇌간 등으로 구성되어 있고, 각각 특정한 기능을 수행한다. 대뇌는 다시 전전두엽(prefrontal cortex), 전두엽(frontal cortex), 두정엽(parietal lobe), 후두엽(occipital lobe), 측두엽(temporal lobe)으로 구성되어 있다. 전전두엽은 이성을 담당하는데, 비교·판단·추리·예측 기능을 수행한다. 전두엽은 신체를 움직이게 하는 명령 시스템이라 할 수 있다. 두정엽은 신체 접촉에 따른 외부의 자극을 인지하는 기능을 담당하고, 후두엽은 시각을 담당한다. 측두엽은 청각을 처리하며, 장기 기억을 담당하는 역할을 한다.
－01_“합리성과 비합리성” 중에서

비체계적 소음은 판단 과정에서 체계적이지 않거나 무작위적인 요인들에 의해 판단에 영향을 받는 경우다. 일례로, 늦게 일어나 아침 식사를 거르고 법정에 들어선 판사는 아침 식사를 했을 때보다 더 까다로워질 수 있다. 또 다른 예로, 부드러운 의자에 앉아 있을 때는 네모난 딱딱한 의자에 앉아 있을 때보다 대상에 대한 판단이 느슨해진다. 눈을 그린 포스터가 벽에 부착되어 있는 경우, 꽃 그림이 그려진 경우보다 판단이 엄격해진다. 심지어 전날 축구 국가대표팀이 상대국에 승리한 것이 판결의 처벌 수준을 완화시킬 수도 있다. 패배한 경우에는 그 반대의 현상이 전개될 수도 있다. 아침에 부부싸움을 했거나 자식과 불화를 겪은 경우 혹은 그 반대의 경우, 판사의 판결 내용이 달라질 수도 있다. 심지어 최근 판사들의 선고와 관련된 신문 기사가 판사에게 무의식적으로 영향을 미칠 수도 있다.
－03_“개인의 판단 오류 2: 소음 혹은 분산” 중에서

AI는 수많은 데이터를 읽고 특정 분류 기준에 따라 데이터를 분류하는 능력이 뛰어나다. 이를 위해 읽어 들일 데이터를 가능한 다양한 특성(feature)을 가진 데이터로 변환하는 작업이 분류 이전에 수행된다. 실제 상황에서 수집된 데이터(raw data)는 여러 특성이 혼합된 상태인 것이 보통이다. 이로부터 특성 데이터를 추출하고, 그 특성 데이터를 분류 작업을 수행하는 AI 모델에 매개 변수로 입력한다. 이런 사전 데이터 처리 작업(data pre-processing)이 분류 성능에 미치는 영향은 매우 크다. 최근 초거대 AI(hyperscale AI)는 수천억 또는 수조 개의 매개 변수를 입력받는다. 대표적인 예로, 오픈AI의 GPT-3 모델은 1750억 개 매개 변수를 받는다.
－06_“AI가 잘하는 일, 못하는 일” 중에서

AI는 유기 화학 분야에 적용되어 신약 개발 등에 주로 활용되고 있지만, 나노 기술에도 AI가 활용되어 우리 사회에 큰 영향을 미치는 정보 및 통신 기술을 위한 새로운 도구를 제공한다. 탐침형 원자 현미경은 물질 표면의 점탄성, 경도 등의 특성을 측정할 수 있고, 탐침을 이용해 시료를 직접 조작해 나노 물질을 제조하는 등 나노 기술에서 가장 일반적으로 사용되는 기술이다. 나노 기술은 그 작동 방식에서 많은 물리적인 난제를 가지고 있으며, 나노 단위의 미시 세계는 물리학과 완전히 다르다. 따라서 결과에 대한 정확한 해석이 나노 기술에서 상당히 중요하다. 이 단계에서 정확한 과학적 결과와 응용을 위해 AI가 사용된다.
－09_“AI를 적용한 사례 3: 연구 분야” 중에서