규제된 AI

AI 시대, 규제를 말하다
AI 기술의 발전과 함께 도래한 규제의 필요성과 방향성을 탐구한다. 2017년 이세돌과 알파고의 대국에서 인간이 AI에 패배한 사건은 AI의 힘과 인간의 한계를 명확히 보여 주었고, 이는 인간에게 충격과 두려움을 안겼다. AI가 인간의 지능을 넘어설 수 있다는 사실은 단순한 기술적 성과를 넘어 인간 존재의 가치를 다시금 생각하게 한다. AI는 인간과 닮은 존재로, 특정 영역에서는 인간을 능가하는 능력을 지니고 있다. 이런 AI가 인간 사회에 미치는 영향은 컴퓨터와는 비교할 수 없을 만큼 광범위하고 깊다. 특히, AI의 ‘할루시네이션’ 현상이나 자율적인 행동은 인간에게 새로운 도전 과제를 안겨준다. 이러한 AI를 어떻게 통제하고 규제할 것인지는 미래 사회의 중요한 문제다.
이 책은 AI가 인간의 존엄성과 법적 지위를 어떻게 변화시킬 수 있는지에 대한 심도 있는 논의를 전개한다. AI의 발전은 필연적으로 사회적, 법적 문제를 동반하며, 이를 해결하기 위한 규제의 필요성이 강조된다. AI가 인간과 유사한 존재로 인정받을 것인지, 아니면 단순한 도구로 한정될 것인지를 결정하는 것은 인류의 미래에 중요한 영향을 미칠 것이다. AI 규제는 단순히 기술의 발전을 저해하는 것이 아니라, AI의 안전하고 윤리적인 사용을 보장하고 인간을 보호하기 위한 필수 장치다. 이 책은 AI 규제의 필요성과 방향성에 대해 다양한 관점에서 접근하며, 인류와 AI의 공존을 위한 길을 모색한다.

AI 기술 발전에 따른 사회적, 법적 문제와 규제의 필요성을 탐구한다. AI의 자율적 행동과 ‘할루시네이션’ 현상 등을 통해 AI 규제의 필요성을 강조한다. AI의 안전하고 윤리적인 사용을 보장하고 인간을 보호하기 위한 규제 방향을 제시하며, 인류와 AI의 공존을 위한 길을 모색한다.

백수원
용인대학교 경찰행정학과 교수다. 성균관대학교에서 법학 박사학위를 받고 한국인터넷진흥원에서 개인정보 유노출 대응, 법제 정비 및 사이버침해사고 예방을 위한 법제도 개선 등을 위해 선임연구원으로 활동하였고, 용인대 경찰행정학과에서 헌법, 행정법 및 AI시대의 개인정보보호 등을 강의하고 있다. 수원시 형사상고심의위원과 경찰청 경위채용시험 자문위원, 헌법학회의 학술이사, 국가법학회, 미국헌법학회 정보이사를 맡고 있으며, 한국정보통신정책연구원(KISDI)이 주관하는 AI채용 분야 자율점검표 제작에 참여하였다. AI 관련 다수 논문을 KCI에 게재하는 등 학계와 산업계에서 다양한 활동을 이어 가고 있다.

AI 규제의 서막

01 AI 산업의 지향점
02 AI의 법적 책임
03 전자인간 AI
04 AI 알고리즘 권력
05 AI 알고리즘에 대한 인간의 권리
06 AI 산업의 규제 모델: 반려로봇과 살인로봇
07 AI의 생존 전략과 인류와의 공존
08 AI 산업에 대한 국가의 역할
09 규제된 인간과 규제되지 않은 AI

AI는 특성상 빠른 판단과 다양한 정보의 조합으로 빠르게 의사 결정을 할 수 있을 것으로 기대된다. 그러나 이러한 빠르고 합리적 의사 결정은 신속하고 합리적인 판단일 수 있으나 더 옳은 결정일 수는 없다. 옳다는 것은 한 사회에서 형성된 바른 가치를 획득한다는 의미인데 그러한 의사 결정에는 반드시 사회적 합의를 위한 가치 형성의 과정이 필요하기 때문이다.
－01_“AI 산업의 지향점” 중에서

오류에 빠지기 쉬운 인간의 판단력을 넘어 수학적 정밀함을 갖춘 AI에게 결정권을 쥐여 주고, 인간의 지력(智力)을 능가하는 초월적 존재에 의존하는 것은 매우 달콤한 상황이기도 하다. 인간의 학습 능력은 본받되, 비이성적 요소를 배제하는 방식으로 최상의 결정을 내릴 수 있는 존재는 분명 이점이 많을 것이다. 따라서 인간은 스스로 무엇인가를 결정하고 찾기 전에 알아서 판단해 주고 원하는 것을 가져다주는 AI에 대한 신뢰는 더욱 커질 수밖에 없다.
－04_“AI 알고리즘 권력” 중에서

아직 아무런 규제가 정비되지도 못한 채, AI가 인류 사회에 빠르게 다가와 큰 변곡점을 맞이할 것이라 예상했던 상황이 실재하고 있다. AI 로봇의 개발과 활용이 인간에게 가져다줄 많은 이익을 인간이 향유하기 위해서는 새로운 존재의 등장으로 인한 사회적, 법적 부작용을 최소화하고 우리 사회에 소프트 랜딩이 가능하도록 길잡이 역할을 할 최소한의 법적, 규제적 장치가 필요하다는 점은 자명하다.
－06_“AI 산업의 규제 모델: 반려로봇과 살인로봇” 중에서

그 과정에서 AI는 아무런 윤리적 가치나 죄의식과 같은 내재적 고민 없이 모든 인간의 모습과 인식을 답습할 수 있기 때문에 인간의 편견도 답습할 수 있다. 따라서 입사 면접이나 대출 심사에서 여성, 남성, 유색인종, 백인이라서, 혹은 출신 학교나 출신 지역 때문에 AI가 차별하더라도 아무런 불편한 감정 없이 ‘판단’과 ‘결정’을 존중해야 하는지 고민하여야 한다. 인류가 오랜 역사에서 구축해 온 기본적 사회 인식과 공감대에서 성장한 현대사회에 AI가 잘못된 인식이나 판단을 가져오는 것을 허용해 줄 수는 없다.
－09_“규제된 인간과 규제되지 않은 AI” 중에서