AI와 사용자 경험

판단이 경험이 되는 순간, AI UX의 본질을 다시 묻다
인공지능 시대에 사용자 경험이 어떻게 근본적으로 재구성되고 있는지를 탐구한다. 이제 AI는 단순한 도구를 넘어, 사용자의 선택 이전에 판단을 형성하고 행동의 범위를 조정하는 환경 자체로 작동한다. 그 결과 사용자 경험은 더 이상 인터페이스의 편의성이나 조작 효율성의 문제가 아니라, AI가 구성한 판단 구조 안에서 이루어지는 총체적 경험으로 전환된다. 이러한 변화의 핵심을 ‘판단의 이동’이라는 개념으로 포착하여, 사용자가 단순한 이용자가 아니라 AI 판단과 관계를 맺고 해석하는 존재로 변화하고 있음을 밝힌다. 또한 설명 가능성과 통제 중심의 기존 논의를 넘어, 판단이 어떤 조건에서 형성되고 사용자 경험 속으로 어떻게 들어오는지를 분석한다. 상황 맥락, 자동화, 추천, 감성 데이터, 신뢰와 같은 개념을 통해 AI UX를 구성하는 구조를 입체적으로 해석하며, 설계의 대상이 인터페이스가 아니라 ‘판단 구조’임을 제시한다. 기술, 디자인, 조직이 함께 만들어 가는 새로운 사용자 경험의 지형을 이해하기 위한 이론적 프레임이자 실천적 사유의 출발점이 되는 책이다.

AI는 사용자의 선택 이전에 판단을 형성하며 경험의 구조를 바꾼다. 사용자 경험을 인터페이스가 아닌 ‘판단 환경’으로 재정의하고, AI와 인간이 함께 만드는 경험 구조를 분석한다. 설명과 통제를 넘어, AI UX의 본질을 이해하는 새로운 관점을 제시한다. AI문고. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

이윤
서울시립대학교 디자인학과 산업디자인전공 조교수다(2024∼). 홍익대학교에서 산업디자인학 전공, 경영학 부전공으로 학사 학위를 취득하였으며, 네덜란드 델프트 공과대학교(Delft University of Technology) 산업디자인공학과에서 석사 학위를, 동 대학교 컴퓨터공학과에서 박사 학위를 취득했다. 현대자동차그룹 현대위아 연구개발본부 연구원으로 재직하며 국책연구과제인 공작기계 컨트롤러 iTROL+의 하드웨어 및 소프트웨어 디자인 양산을 주도하고, 디자인 특허 출원 및 핀업디자인어워드(PIN UP DESIGN AWARDS) 수상을 이끌었다(2015∼2017). 박사 학위 취득 이후에는 핀란드 오울루 대학교(University of Oulu)에서 박사후 연구원으로 재직하며 하이브리드 인텔리전스(Hybrid Intelligence) 기반의 행동 분석 기반 AI 연구를 수행하였다(2024). 또한 싱가포르 난양 이공대학교(Nanyang Technological University)에서 테크놀로지 컨설턴트로 활동하며 AI 기술 전략 및 시스템 기반 디자인 자문을 수행하였고(2019∼2021), 독일 알렌 대학교(Aalen University)에서 강사로 재직하며 국제 디자인 교육 및 연구 경험을 쌓았다(2024). 디지털 읽기, 헬스케어 UX, 고령자 인터랙션, 로보틱스 및 AI 기반 사용자 경험 디자인 분야에서 다수의 연구를 수행하였으며, 관련 논문을 SSCI, SCIE, KCI 등 등재학술지에 게재했다.

AI 사용자 경험: 판단이 경험이 되는 순간

01 AI 사용자
02 상황 맥락
03 신뢰 형성
04 자동화와 인간 판단
05 피드백 설계
06 자율성과 AI 개입
07 감성 데이터
08 추천 경험
09 XAI와 UX 디자인
10 AI UX의 미래

그러나 생성형 AI의 확산은 사용자와 시스템 간의 관계를 근본적으로 변화시켰다. 사용자는 보고서와 문서를 작성하고, 기획 아이디어를 구체화하며, 이미지, 음악, 영상, 텍스트와 같은 다양한 창작 결과물을 생산하는 과정에서 AI를 적극적으로 활용하기 시작했다. 디자인, 예술, 콘텐츠 제작, 연구, 교육, 소프트웨어 개발 등 여러 분야에서 AI는 단순히 특정 업무를 자동화하는 도구를 넘어, 사고와 표현의 범위를 확장하는 도구로 활용되고 있다. 이 과정에서 사용자는 결과를 단순히 소비하는 위치를 넘어 생성 과정에 반복적으로 개입하는 ‘생산자’의 역할을 수행하게 되었다.
－01_“AI 사용자” 중에서

특히 사용자 경험 관점에서 신뢰를 형성하는 주요 요인은 일관성(consistency)과 예측 가능성(predictability)이다. 사용자는 유사한 상황에서 AI가 반복적으로 유사한 기준에 따라 반응한다고 인식할 때 비록 시스템의 내부 작동 원리를 완전히 이해하지 못하더라도 그 행동을 예측 가능한 것으로 받아들이며 안정감을 형성한다. 이는 신뢰가 완전한 이해에 기반한다기보다 경험적으로 형성된 기대에 기반해 작동함을 시사한다.
－03_“신뢰 형성” 중에서

결국 AI 사용자 경험에서 자율성은 비단 개인과 시스템 간의 관계 내에서만 만들어지는 것이 아니라 서비스 제공자의 산업적 위치, 법적 책임, 위험 감내 수준을 모두 포괄하는 개념이다. 때문에 사용자가 느끼는 자율성은 “내가 무엇을 선택할 수 있는가” 이전에 “이 서비스가 내게 어떤 선택을 하도록 허용하는가”라는 조건 속에서 구성될 수밖에 없다. 이러한 맥락에서 자율성은 특정 서비스가 어떤 사회적 역할을 감내하고자 하는지까지 드러내는 설계적 결과물이라고 할 수 있다.
－06_“자율성과 AI 개입” 중에서

XAI가 사용자 경험 설계에서 중요한 또 하나의 이유는 사용자가 AI의 판단 과정을 되짚어볼 수 있는 가능성, 즉 판단의 되돌아갈 수 있음(traceability)을 제공하는 데 있다. 사용자 경험에서 핵심이 되는 문제는 판단에 오류가 발생했는지의 여부 자체가 아니라, 특정 판단이 왜 내려졌는지를 다시 검토하고 필요할 경우 이를 수정할 수 있는 여지가 사용자에게 열려 있는가다. 이는 더 이상 사용자의 요구가 AI의 판단 결과 자체 머무르는 것이 아니라 판단의 정당성, 의도, 나아가 그 책임까지 ‘문제화’하기 시작했다는 점을 의미한다.
－09_“XAI와 UX 디자인” 중에서