AI 낙관론과 비관론

AI를 향한 낙관과 비관, 그 사이의 미래
기술이 삶을 어떻게 바꾸는가를 넘어서, 인간은 AI와 어떤 관계를 맺고 어떤 미래를 설계할 것인가를 질문한다. AI가 인간의 능력을 대체하거나 능가할 것이라는 기대와 두려움 속에서 낙관과 비관이라는 두 시선을 균형 있게 제시한다. AI가 산업, 의료, 교육 등에서 이룬 긍정적 변화를 소개하는 동시에, 편향, 개인정보 침해, 통제 불가능성 등 부작용과 윤리적 과제도 심도 있게 짚는다. 특히 범용 인공지능(AGI)이나 초지능(ASI)이 제기하는 철학적, 사회적 문제를 SF 영화와 실제 기술 사례를 통해 흥미롭게 풀어낸다.
인간의 자유와 존엄을 위협하지 않으면서 AI와 공존하기 위해 우리는 어떤 가치와 기준을 세워야 할까? 이 책은 기술의 방향이 아닌 인간의 선택이 미래를 결정한다는 사실을 되짚으며, 우리가 놓치지 말아야 할 인간다움의 본질을 되묻는다.

인공지능 발전이 초래할 미래 사회의 다양한 가능성을 다룬다. 인간과 AI의 공존, 기술의 긍정적·부정적 측면을 균형 있게 조망하며 바람직한 미래를 모색한다.

유화선
한국과학기술정보연구원의 선임연구원으로 근무 중이다. 성균관대학교 국정전문대학원에서 행정학 박사학위를 받았다. 주요 연구 분야는 과학기술 정책, 정책 분석 및 평가, 데이터·AI 전략, 협력 네트워크 등이다. “인간과 인공지능(AI)의 공존을 위한 사회·윤리적 쟁점”(2021), “논문 키워드 분석을 통한 인공지능의 주요 이슈에 관한 고찰”(2022), “텍스트 마이닝을 활용한 데이터 정책 연구동향 분석”(2023), “인공지능 윤리(AI Ethics): 인간과 인공지능의 조화로운 공존 방안”(2023) 등 다수의 논문 및 보고서를 저술했다. ‘인공지능(AI) 안전성, 신뢰와 윤리 정책아이디어 공모전’(2024)에서 최우수상, 한국스마트미디어학회 학술대회에서 “인공지능 윤리 글로벌 공동연구 네트워크 탐색”(2024)으로 우수논문상을 수상했다.

정도범
한국과학기술정보연구원의 책임연구원으로 근무 중이다. 연세대학교 기술경영학협동과정에서 경영학 박사 학위를 받았다. 주요 연구 분야는 과학기술 정책, 기술 경영 및 전략, 인공지능, 연구사업 평가, 중소기업 지원 등이다. 과학기술정보통신부, 정보통신기획평가원, 정보통신산업진흥원 등 평가위원으로 활동하고 있다. “인간과 인공지능(AI)의 공존을 위한 사회·윤리적 쟁점”(2021), “논문 키워드 분석을 통한 인공지능의 주요 이슈에 관한 고찰”(2022), “토픽 모델링을 활용한 인공지능의 트렌드 분석”(2023) 등 다수의 논문 및 보고서를 저술했다. “일상 속으로 스며드는 디지털기술”(2023) 등을 기고했고, ‘인공지능(AI) 안전성, 신뢰와 윤리 정책아이디어 공모전’(2024)에서 최우수상을 수상했다.

AI와 인간의 미래

01 지능을 가진 기계
02 AI 미래 전망과 인간의 대응
03 삶의 질을 높이는 AI
04 산업 혁신을 이끄는 AI
05 인류 난제를 해결하는 AI
06 잘못된 정보를 제공하는 AI
07 사생활을 침해하는 AI
08 인간 생존을 위협하는 AI
09 유토피아 대 디스토피아
10 인간과 AI의 공존

한국리서치에서 실시한 ‘2024 인공지능 인식조사’에 따르면, 세대 및 학력에 따른 큰 차이 없이 AI에 대한 관심도가 높으며, AI가 ‘우리 사회’에 ‘긍정적인 영향’을 미친다는 인식은 66%, ‘긍정도, 부정도 아니다’는 27%, ‘부정적 영향을 준다’는 7%로 긍정적인 입장이 우세하다. 즉 AI가 우리 사회에 미치는 긍정적인 영향에 사람들은 좀 더 공감하고 있다.
－01_“지능을 가진 기계” 중에서

사용자의 건강 관리를 위해 건강 상태를 정밀하게 측정하여 맞춤형 관리 방안을 제안한다. 애플 워치와 같은 AI 기능을 입은 웨어러블 기기가 사용자의 심박수, 호흡수, 수면 패턴, 혈중 산소 포화도 등을 분석하여 건강 지킴이 역할을 자처한다. 그리고 건강 관리 앱(App)을 통해 스마트폰에 손가락을 대면 혈관 건강을 체크하여 운동, 식단 등을 제안해 주며, 음식을 촬영하면 AI가 영양성분 등을 분석해 개인의 건강 상태에 비춰 적절한 식단인지 평가하고 맞춤형 식단을 추천해 준다. 이와 같은 AI를 활용한 생활 습관 관리 및 모니터링 분야는 2030년까지 연평균 45.6% 성장할 것으로 전망되어, AI는 우리의 건강 관리에 점점 더 깊게 접목될 것임을 암시하고 있다.
－03_“삶의 질을 높이는 AI” 중에서

세계경제포럼에서 발간한 『2024년 글로벌 위험 보고서(The Global Risks Report 2024)』에 따르면 향후 2년 내 직면할 글로벌 위험 중 AI가 생성하는 잘못된 정보와 허위 정보가 1위로 나타났다. 그리고 향후 10년 내 직면할 글로벌 위험에서도 기상 이변 등과 같은 환경 요인을 제외했을 때 잘못된 정보와 허위 정보가 가장 높은 순위로 나타나, 생성형 AI로 인한 잘못된 정보의 확산이 앞으로 사회적 혼란을 심화할 것으로 전망된다. 최근에는 생성형 AI가 제공하는 잘못된 정보 외에도 딥페이크(AI 기반의 인간 이미지 합성 기술), 딥보이스(AI 기반의 음성 합성 기술) 등을 통해 가짜 뉴스가 확산되고 이러한 기술이 보이스피싱과 같은 범죄에 악용된 사례가 증가하면서 AI에 대한 우려의 목소리가 커지고 있다.
－06_“잘못된 정보를 제공하는 AI” 중에서

오늘날, 미·중 기술 패권 경쟁이 점점 치열해지는 상황에서 세계 각국은 미래에 대한 진지한 고민보다는 AI 등 초격차 기술 개발을 위한 공격적인 투자에 더욱 집중하고 있다. 우리는 기술 개발에 중점을 두는 데에 비해, 개발된 기술을 활용하여 어떻게 희망적인 미래를 만들어 갈 것인지, 사전에 무엇을 준비해야 하는지 등 구체적인 방향에 대한 모색은 상대적으로 부족하다고 볼 수 있다. 따라서 단지 AI 발전으로 인한 비관적 미래를 걱정하기보다 더 나은 세상으로의 변화를 이끌 수 있도록 준비하고 대응할 필요가 있을 것이다.
－09_“유토피아 대 디스토피아” 중에서