AI의 바른 이해와 사용

AI 시대, 기술을 넘어 지혜로 나아가다
인공지능의 효용성과 위험을 동시에 직시하며, AI 시대에 필요한 새로운 덕목 ‘AI 프로네시스(AI phronesis)’, 즉 실천적 지혜의 길을 제시한다. 인간의 지능을 모사해 탄생한 AI는 생산성과 창의성의 극대화를 가능하게 하지만, 동시에 인간의 사유와 주체성을 약화시킬 위험을 품고 있다. AI를 단순히 잘 다루는 기술적 능력(테크네)을 넘어, 왜 그리고 무엇을 위해 사용하는지 성찰하는 철학적 태도가 필요하다고 말한다.
이 책은 AI 중독과 인지적 의존, 환각 현상과 정보 왜곡, 창의성과 인간 고유성의 위기, 그리고 사회적 불평등과 편견의 확대 등 AI가 불러온 복합적 문제를 차례로 탐구한다. 나아가 ‘AI 리터러시’를 기반으로 한 비판적 사고, 포용적 거버넌스, 인간 중심의 사회적 설계 원리를 통해 기술의 주인이 되는 길을 제시한다. 결국 이 책은 “AI가 대신 생각해 줄 수 있는데 왜 스스로 생각해야 하는가”라는 물음 앞에서, 인간이 사유를 통해 존재 의미를 지켜야 한다는 철학적 선언문이다.

AI 시대에 필요한 것은 기술보다 ‘생각하는 힘’임을 강조한다. 효율의 도구로 AI를 활용하되, 인간의 고유한 사유와 지혜로 그 방향을 결정해야 한다. AI 시대의 주체는 여전히 인간이다. 이 책은 그 가능성과 윤리를 함께 성찰한다. AI총서. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

최우성
한국전력공사 전력연구원의 책임연구원이자 연구전략실 R&D 비즈팀장이다. 서울대 기계공학과에서 시스템 고장예지(Prognostics and Health Management, PHM) 주제로 박사학위를 받았다. 독일 Fraunhofer, SIEMENS, 미국 전력연구소(EPRI) 등과 12건의 국제공동연구를 수행했으며 EPRI에서 2년간 파견연구원으로 근무했다. 엔비디아(Nvidia) 앰배서더 및 AI 인증 강사, 인공지능 커뮤니티·사단법인 AI프렌즈의 창립 이사로 활동 중이며, 국내 기술표준의 국제화를 위해 미국 기계학회(ASME) 위원으로도 활동하고 있다. 주요 전문 분야는 시스템 고장 예지, 머신러닝·딥러닝으로 AI 솔루션 5종 개발, 프로그램 16건, 특허 37건, SCI급 논문 13편 등의 연구 실적이 있다. 세상에 기여하는 공학의 가치를 소중히 여기는 공학자이지만 기술보다는 사람을 먼저 생각한다.

AI 시대의 프로네시스(AI Phronesis)

01 AI 과의존과 중독
02 AI와 건전한 거리두기
03 이제는 필수, AI 리터러시
04 AI 환각
05 논리적이고 비판적인 사고
06 인간 고유의 영역, 창의성
07 AI 윤리
08 AI 프라이버시
09 포용적 AI 기술
10 AI와 함께 미래 사회 준비하기

인공지능(AI)의 등장은 중독으로 인지하기 어렵지만 이전보다 더 강력하고 자연스럽게 중독 상태를 만드는 새로운 형태의 유해성을 나타내고 있다. 영문 이메일 작성, 여행 계획 세우기, 보고서 요약, 데이터 분석 등 지극히 ‘유용한’ 기능을 수행하는 과정에서 자신도 모르게 AI에 의존하고 중독될 수 있기 때문이다. 스마트폰 중독이 주로 ‘시간 때우기’의 문제라면, AI 중독은 ‘경험과 생각 아끼기’ 문제라는 점에서 차이가 있다. AI의 압도적인 유용성은 우리를 자연스럽게 과의존 상태로 이끌고, 이러한 과의존은 자신도 모르는 사이에 통제 불가능한 중독으로 악화될 수 있다.
－01_“AI 과의존과 중독” 중에서

AI 리터러시는 이미 우리 사회의 필수 역량이며, 이를 키우기 위해서는 개인과 교육 시스템, 사회 전체가 함께 힘을 모아야 한다. 무엇보다 먼저 개인의 실천이 중요하다. 수동적으로 기술을 소비하는 데 그치지 않고, 온라인/오프라인 강좌 등을 통해 AI의 핵심 원리를 적극적으로 배워야 한다. 또한 다양한 생성형 AI 도구를 직접 사용하며 그 가능성과 한계를 체득하는 것이 필요하다. 개인의 노력과 더불어, 미래 세대를 위한 교육 시스템의 변화도 요구된다.
－03_“이제는 필수, AI 리터러시” 중에서

AI가 생성한 정보의 타당성을 검토하고, 그 결과가 가져올 사회적, 윤리적 영향을 숙고하는 것이 필요하다. 무엇보다 최종적인 의사 결정에 대한 책임은 인간의 몫이기 때문에 AI가 어떻게 작동하고, 어떤 한계를 가지고 있는지 정확하게 이해해야 한다. 다행히 AI가 단순 반복 업무를 자동화해 줌으로써 인간은 오히려 더 고차원적이고 창의적인 문제뿐만 아니라 전략적 사고와 윤리적 판단 등에 집중할 수 있는 기회를 얻을 수 있다.
－06_“인간 고유의 영역, 창의성” 중에서

‘기술은 가치중립적이다’는 말이 있다. 그러나 기술을 만들고 사용하는 것은 결국 사람이기에, 기술은 필연적으로 개발자의 의도와 사회의 가치를 반영하게 된다. AI로 인한 격차와 차별 문제를 해결하기 위해서는 기술 개발 단계에서부터 ‘포용적 설계(inclusive design)’ 원칙을 적용해야 한다. 포용적 설계는 성별, 나이, 장애, 국적 등과 관계없이 가능한 한 모든 사람이 편리하게 사용할 수 있도록 제품이나 서비스를 만드는 것이다.
－09_“포용적 AI 기술” 중에서