인공지능과 언어 윤리

인간 언어의 창조성과 기계 언어의 경계
인공지능이 인간의 언어 창조성을 모방할 수 있을까? 《인공지능과 언어 윤리》는 인간 고유의 언어 능력과 대규모 데이터 학습을 기반으로 한 인공지능의 언어 생성 능력 사이의 경계를 탐구한다. 사례를 통해 인공지능이 학습 데이터로부터 비윤리적 언어를 재생산하는 과정을 비판적으로 검토하며, 인공지능의 언어 사용이 윤리적 문제에서 자유롭지 않음을 보여 준다. 나아가 욕설, 혐오, 차별 등 비윤리적 표현이 사회적 맥락에 따라 어떻게 변형되고 확산되는지를 분석하며, 윤리적 언어 사용의 기준과 교육적 접근의 필요성을 제기한다.

언어 변화와 인공지능의 윤리적 과제
언어는 끊임없이 변화하며, 특히 혐오 표현은 사회 변화와 함께 빠르게 변한다. 이 책은 인공지능이 이러한 언어 변화를 반영하지 못할 때 발생하는 문제를 다루며, 시간에 따른 언어 변동성과 사회 문화적 맥락을 고려한 ‘언어 윤리성 평가’의 필요성을 강조한다.

한국어 맥락에서 본 비윤리적 언어
이 책은 한국어의 문화적 맥락에서 비윤리적 표현이 갖는 특성과 식별의 어려움을 다룬다. 은유, 농담, 지역적 표현 등 고맥락적 언어 사용이 인공지능 탐지 모델에서 오분류되는 이유를 사례 중심으로 설명하며, 한국어 감수성을 반영한 언어 자원 구축의 방향을 제시한다.

언어학자의 시선으로 본 인공지능의 미래
총 10장으로 구성되어 언어학, 언어공학, 교육학의 관점에서 인공지능 언어 윤리를 다각도로 논의한다. 인공지능이 일상 속 언어 행위의 주체로 자리 잡은 지금, 이 책은 인간과 인공지능이 공존하는 시대에 더 윤리적이고 포용적인 언어문화를 향한 길을 제시한다.

인공지능이 인간 못지않은 언어 능력을 보이는 시대, 우리는 이제 언어의 윤리성을 다시 물어야 한다. 《인공지능과 언어 윤리》는 데이터 편향과 문서화 부재에서 비롯된 인공지능 언어의 윤리 문제를 짚고, 비윤리적 표현의 정의와 유형, 한국어의 맥락적 특성, 매체별 사례, 교육적 과제를 아우르며 언어 윤리의 새로운 방향을 제시한다.

남길임
연세대학교 국어국문학과 교수다. 동 대학교에서 학부를 마치고 석사와 박사 학위를 받았다. 《연세한국어사전》(1998), 《외국인을 위한 한국어학습사전》(2006), 네이버 한국어 일상표현 사전(2020) 등 사전 편찬과 ‘부적절 표현 탐지 및 교정을 위한 한국어 형태소 분석·처리 서비스 개발 등 말뭉치 구축 및 연구’, ‘LLMs, 교육용 말뭉치, 인간 교육 전문가의 협업을 통한 어휘 교육 방안 연구’ 등을 수행 중이다. 인공지능 시대 인간 언어의 유창성을 밝히는 것, 설명 가능성과 재현 가능성을 위한 말뭉치언어학 연구에 관심이 있다. 현재 국어심의회 위원, 아시아사전학회 회장, 한국어의미학회 편집위원장 등을 맡고 있다. 대표 논저로는 “이론으로서의 말뭉치언어학에 대한 연구 현황과 쟁점”(2014), 《현대신어연구》(2022) 등이 있다.

송현주
경북대학교 국어교육과 교수다. 동 대학교에서 학부를 마치고 석사와 박사 학위를 받았다. 현재 ‘LLMs, 교육용 말뭉치, 인간 교육 전문가의 협업을 통한 어휘 교육 방안 연구’, ‘북한 언어의 사용 실태 조사와 북한 최신어 채집’ 사업에 참여하고 있다. 인공지능 시대의 혐오 표현의 유형 및 사용 양상, 인공지능을 활용한 어휘 교육에 관심이 있다. 대표 논저로는 “관용적 태도 함양을 위한 차별 표현 교육”(2023), “차별과 혐오 표현의 식별과 사전 활용의 쟁점”(2022), “차별 표현에 대한 국어교육 내용 연구”(2021) 등이 있다.

인공지능 시대의 언어

01 인공지능 시대에 언어 윤리성은 왜 중요한가?
02 비윤리적 표현이란 무엇인가?
03 비윤리적 표현의 유형
04 비윤리적 표현과 독자 인공지능
05 비윤리적 표현의 맥락 의존성과 주관성
06 비윤리적 표현의 단위와 식별의 쟁점
07 메신저의 비윤리적 표현
08 방송의 비윤리적 표현
09 비윤리적 표현과 사전
10 비윤리적 표현을 어떻게 교육할까?

요컨대 기계가 창조하는 언어는 대규모 데이터의 속성과 직결된 ‘학습 데이터’ 자체의 본질적인 문제를 지닌다. 이러한 한계는 “누가 말하고, 무엇을 모으고, 어떻게 거르는가”라는 데이터 구축의 전 과정이 투명한 절차와 단계를 거칠 수 없다는 점에서 발생한다. 기계적 창조성은 인간 언어의 창조성과 달리 의도나 맥락이나 윤리적 인식을 가지지 않으며 언제 어디서나 왕성한 생산성을 보인다. 따라서 인공지능이 창조한 텍스트나 음성 데이터의 파급 효과는 우리가 예상할 수 있는 범위를 뛰어넘는다. 우리는 인공지능 시대에 이러한 기계적 창조성이 특정한 관점의 세계관에 편중될 가능성, 비윤리성과 차별을 재생산할 가능성을 반드시 고려하고 대비해야 한다.
－01_“인공지능 시대에 언어 윤리성은 왜 중요한가?” 중에서

언어 연구에서 요즘처럼 ‘비윤리적 표현’에 대한 관심이 많았던 시대는 없었다. 언어학 연구의 주변부에 머물러 있던 욕설, 비속어, 차별·혐오 표현 등에 대한 관심은 인공지능의 확산에 따라 언어학을 비롯한 인문학 전반에서 가장 중요한 문제로 대두되었다. 문제의 본질은 기계의 언어 창조성 이면에 존재하는 언어 윤리의 문제를 어떻게 예방하고 대응할 것인가와 관련된다.
－02_“비윤리적 표현이란 무엇인가?” 중에서

인공지능의 일상화에 따라 국제적으로도 생성 결과에 대한 책임성, 생성 결과의 정확성과 검증 가능성, 사용 여부에 대한 투명성 등이 핵심적인 과제로 떠오르고 있다. 한국어의 언어적 특성과 사회 문화적 맥락을 반영한 비윤리적 표현의 분류 체계와 탐지 및 비식별화의 기준 마련은 인공지능 개발에서 반드시 고려되어야 할 윤리적 요소다. 단순히 욕설이나 비속어를 제외하는 기술적 조치를 넘어서 인공지능이 사회적 다양성과 평등 가치를 내재화할 수 있도록 언어의 윤리성에 대한 사전학적, 사회언어학적 분석을 기반으로 한 언어 정책적 설계가 필요하다. 인공지능의 언어 윤리는 가까운 미래 인공지능의 사회적 수용성과 공공성 확보 측면에서도 필수적인 과제가 될 것이다.
－04_“비윤리적 표현과 독자 인공지능” 중에서