헬스케어 AI 윤리

AI, 건강의 새 지평을 열다
AI의 발전은 보건 의료 분야에 깊은 영향을 미치고 있다. AI는 환자 관리, 치료, 수술, 예방 등 다양한 영역에서 활용되고 있으며 이를 통해 의료 서비스를 혁신할 가능성이 크다. 그러나 보건 의료 분야는 단순한 기술 혁신만으로 AI를 도입할 수 없다. 환자의 건강과 안전을 다루는 특수한 분야인 만큼 윤리적 고민이 필수적이다. 이 책은 AI를 의료에 적용할 때 직면하는 윤리적 문제를 다루며, 보건 의료 AI 윤리의 필요성을 강조한다.
보건 의료 AI 윤리는 AI가 인간의 건강과 이익을 넘어 환경과 생물권 전체의 건강까지 고려하는 포괄적인 접근을 제시한다. 기존의 의료 윤리에서 한 걸음 나아가 헬스케어 AI 윤리는 다양한 학문을 종합해 현실적인 해결책을 모색한다. 이 책은 헬스케어 AI의 발전 과정과 그것이 초래할 수 있는 윤리적 논쟁을 탐구하며, AI가 인간과 비인간을 포함한 생물권의 건강을 지키는 데 필요한 윤리적 기준을 제시하려 한다.

AI가 보건 의료 분야에 미치는 영향을 다루며 AI의 도입에 따른 윤리적 문제를 분석한다. 전통적인 의료 윤리를 넘어, AI가 인간과 환경의 건강을 고려하는 포괄적 접근을 제시한다. 헬스케어 AI 윤리는 다양한 학문을 통합해 현실적인 해결책을 모색하며 AI가 인류와 생물권의 건강을 지키는 방법을 제시한다.

김준혁
현재 연세대학교 치과대학 치의학교육학교실 조교수로 일하고 있다. 연세대학교 치과대학을 졸업하고 동 병원 소아치과 수련을 받았다. 펜실베이니아대학교 의과대학에서 의료윤리 석사를, 부산대학교에서 의료인문학 박사를 취득했다. 연세대학교 의과대학 의학교육학과에서 펠로로 일했다. 한국의철학회 편집이사, 대한의료커뮤니케이션학회 학술이사, 한국의료윤리학회 이사 및 편집위원으로 활동하고 있다. 주요 저서로 『누구를 어떻게 살릴 것인가』(2018), 『모두를 위한 의료윤리』(2021), 역서로 『의존을 배우다』(2023) 등이 있다. 주요 연구 분야는 서사 의학, 돌봄 윤리, 헬스케어 AI 윤리이며, 국내외 등재지에 주로 의료윤리 및 의철학 분야의 논문을 저술하였다.

왜 헬스케어 AI 윤리인가?

01 헬스케어 AI의 약속과 그에 대한 질문
02 헬스케어 AI 윤리와 원칙 기반 접근
03 원칙 1: 인간의 자율성 존중과 보호
04 원칙 2: 인간의 행복, 안전, 공공의 이익 증진
05 원칙 3: 투명성, 설명 가능성, 신뢰성
06 원칙 4: 책무, 법적 책임
07 원칙 5: 포괄성, 공정성
08 원칙 6: 대응성, 지속 가능성
09 헬스케어 AI 연구 윤리 자율 규제 거버넌스
10 헬스케어 AI 윤리 환자·시민 참여

헬스케어 AI가 도입된다고 하여 보건 의료 영역 또는 헬스케어에서 환자 및 시민의 역능 강화(empowerment)가 자연스럽게 이루어질 것이라는 예상은 과도하다. 오랫동안 전문가가 독점해 온 보건 의료 영역은 특히 그 지식의 복잡성과 실천의 무거움으로 인해 여전히 환자와 시민의 접근이 쉽지 않다. 의료 지식이 대중화된다고 해도, 오랫동안 다양한 경험을 해 온 의료인이 아닌 환자에게 스스로 의료적 결정의 책임을 지도록 하는 것은 오히려 환자에게 해를 끼치는 결과를 낳을 수 있다.
－01_“헬스케어 AI의 약속과 그에 대한 질문” 중에서

AI 기만이란 설정된 목적을 달성하기 위해 인간을 포함한 다른 행위자에게 거짓 믿음을 심도록 AI가 체계적으로 활동하는 것을 의미한다. 가짜 뉴스 사례가 제시하는, 주로 인간 행위자가 AI 도구를 활용해 의도적으로 다른 행위자를 오도하기 위한 정보를 생산하는 역정보와 AI 기만은 차이를 보이는데, 특히 AI 기만은 반드시 어떤 정보를 생성하는 방식으로만 작동하지 않는다는 점에서 그렇다. 위 사례에서 볼 수 있듯, 인간 행위자에게 체계적으로 특정 정보를 제공하지 않는 방식으로 행위자에게 잘못된 믿음을 심는 AI는 역정보 생산과 무관한 AI 기만의 형태를 보여 준다.
－03_“원칙 1: 인간의 자율성 존중과 보호” 중에서

헬스케어 AI의 개발과 활용에서 각 당사자, 즉 개발자·연구자·의료인·환자·시민·정부 등은 각자 책무(accountability)와 법적 책임(legal obligation and liability)을 져야 함을 헬스케어 AI 윤리의 책무, 법적 책임 원칙은 말하고 있다. 여기에서 책무란 좁게는 연구자와 개발자의 책임 있는 연구·개발 수행을 의미하지만, 넓게는 의료인·환자·시민을 포함한 AI 사용자가 자신의 책임하에 해당 알고리듬이나 앱을 활용해야 함을 의미하기도 한다. 법적 책임은 헬스케어 AI의 개발·활용과 관련해 발생한 피해를 보상하는 데서 각 행위자의 피해 최소화 노력과 함께 구체적인 보상 방안이 마련되어야 함을 요구한다. 따라서 책무가 모든 행위자의 책임 있는 행위를 요청하는 보편적 명령이라면, 법적 책임은 피해 보상과 관련해 개발자나 기관에서 어떤 행동을 취할 것인가와 관련된 실제적 규제라고 할 수 있다.
－06_“원칙 4: 책무, 법적 책임” 중에서

헬스케어 AI 연구 윤리의 접근을 위해선 다음 사항들이 고려된 별도의 체계가 필요하다. 첫째, 헬스케어 AI의 특성을 반영하면서도 기존 생명 의과학 분야의 연구 윤리와 융합될 수 있는 방안이 마련되어야 한다. 둘째, 의료인도 쉽게 이해할 수 있고 개발자도 접근 가능해야 한다. 특히, 이미 연구 윤리 체계를 접해 본 의료인과 달리 공학 분야의 개발자는 해당 분야의 지식이 없다는 점이 고려되어야 한다. 셋째, 이미 제시·확립된 검토와 관리 체계로 전술한 IRB가 있으며, 공공 데이터를 포함해 여러 데이터의 가명 처리 적절성을 판단해 수집 시점과 다른 목적 및 기관에서 활용할 수 있는지를 검토하는 데이터심의위원회(DRB)가 헬스케어 AI 연구 맥락에서 해야 할 역할을 정립해야 한다. 넷째, 헬스케어 AI 윤리 체계는 연구자·개발자·개발 기관의 자율 규제를 지원하고, 이런 연구와 개발에 대한 국가 및 정부 기관의 거버넌스 방식을 제안해야 한다.
－09_“헬스케어 AI 연구 윤리 자율 규제 거버넌스” 중에서