폐쇄망 AI

연결이 끊긴 곳에서, 진짜 AI가 시작된다
AI는 연결 속에서 발전해 왔지만, 현실의 위기는 연결이 끊긴 곳에서 발생한다. 인터넷이 차단된 환경, 즉 폐쇄망에서 작동하는 인공지능의 설계와 운영 원리를 다룬다. 외부 API도, 클라우드도, 검색도 없는 상황에서 AI는 단순한 도구가 아니라 ‘책임 있는 시스템’이 된다. 데이터 흐름이 단절되고, 업데이트가 제한되며, 모든 판단의 책임이 조직 내부로 귀속되는 환경에서 AI는 어떻게 설계되어야 하는가를 묻는다.
폐쇄망 AI는 기술보다 체계의 문제다. 모델 반입과 검증, 문서 관리, 권한 통제, 로그 보관, 감사 대응까지 포함한 ‘운영 시스템’으로 접근해야 한다. 이 책은 로컬 LLM, 문서 기반 RAG, 온톨로지 지식그래프 등 기술 요소를 넘어, 위협 모델링과 제로 트러스트, 보안 성숙도, 인간 거버넌스까지 통합적으로 제시한다. 특히 ‘근거 중심’, ‘최소 권한’, ‘재현 가능성’ 같은 원칙을 통해, AI가 답을 생성하는 것이 아니라 ‘증거를 제시하는 시스템’으로 작동해야 함을 강조한다. 또한 폐쇄망 환경에서 AI의 역할을 자동화가 아닌 의사 결정 지원으로 재정의한다. 빠르고 화려한 결과보다, 정확하게 멈추고 검증 가능한 근거를 제시하는 것이 더 중요하다는 관점이다.
인터넷 없이도 AI는 가능한가. 답은 가능하지만 쉽지 않다는 것이다. 그리고 그 어려움을 설계하는 것이 바로 폐쇄망 AI다.

폐쇄망 환경에서 AI를 설계하고 운영하는 방법을 제시한다. 로컬 모델, RAG, 보안 체계를 통합해 ‘근거 중심’ AI를 구축하고, 자동화가 아닌 의사 결정 지원으로서의 역할을 강조한다. 편의가 아닌 책임으로 작동하는 AI의 본질을 다룬다. AI문고. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

이기호
극동대학교 인공지능보안학과 박사과정 수학 중이다. 동국대학교 국어국문학과를 졸업하고, 극동대학교 대학원에서 중소 규모 대학 정보보호 체계 강화 방안을 주제로 공학석사 학위를 받았다. 극동대학교에서 정보보안·개인정보보호 실무를 담당한 경력을 바탕으로, 대학 정보보호, 폐쇄망 환경의 로컬 LLM·문서 RAG, 인공지능 윤리 정렬, 국방·스마트그리드 분야 AI 보안 적용을 중심으로 연구하고 있다. 관련 주제로 KCI·SCIE급 학술지와 국내 학술대회에서 대학 정보보호 전략, 폐쇄망 스마트그리드용 LLM 기반 문서 검색 시스템, LLM·SLM의 윤리적 응답 특성 비교 등을 다룬 논문을 발표하며 우수 논문상을 수상했다.

인터넷 바깥에서 시작되는 인공지능

01 폐쇄망 인프라
02 위협 모델링과 보안 요구
03 보안 성숙도와 진단
04 제로 트러스트
05 로컬 LLM
06 문서 RAG
07 온톨로지 지식그래프
08 윤리 정렬
09 국방·스마트그리드 현장
10 인간 거버넌스와 책임

실제 현장은 하나의 망이 아니라 여러 구역의 조합이다. 제어와 관제가 포함된 운영망, 행정과 협업이 존재하는 업무망, 개발자의 소스와 빌드가 존재하는 개발망, 보안 체계가 포함되는 분석망이나 관리망처럼 목적이 다른 구역이 나뉘고, 구역 사이에는 예외 없이 통제가 필요하다. 구역 설계의 출발점은 무엇을 보호하느냐가 아니라, “무엇을 흘려보낼 것인가”를 먼저 정하는 것이다. 운영망은 외부 패킷이 들어오면 안 되지만, 장애 조치 보고서는 업무망으로 나가야 한다. 개발망에서는 외부 오픈소스를 가져와야 하지만, 운영망에 직접 접촉하면 안 된다. 분석망은 민감 로그를 다루지만 분석 결과의 일부는 교육이나 훈련 자료로 반출되는 경우도 존재한다. 즉, 필요한 흐름에 대한 목록이 바로 폐쇄망에서의 인프라 설계도다.
－01_“폐쇄망 인프라” 중에서

보안 성숙도는 기술 스택의 개수가 아니라 거버넌스, 자산, 운영, 대응의 네 가지 축의 균형으로 측정된다. 거버넌스는 책임자가 지정되어 있고, 예산이 붙어 있으며, 위험을 승인하는 절차를 본다. 폐쇄망에서도 AI에서 거버넌스는 곧 경계다. 어떤 데이터가 반입될 수 있는지, 어떤 답변이 금지되는지, 오답이 났을 때 누가 중지하는지와 같은 질문이 정책으로 내려와야 한다. 자산과 구성 관리는 무엇이 어디에 있는지를 보안으로 보는 것이다. 서버·단말·계정만 자산이 아니다. 모델 가중치 파일, 파인튜닝 데이터, 프롬프트 템플릿, 벡터 데이터베이스 인덱스, 평가 시나리오 세트, 오프라인 패치 저장소까지 자산 목록에 들어가야 한다. 자산이 정의되면 분류가 뒤따른다. 기밀·중요·일반을 나누고, 반출·열람·파기 규칙을 붙인다. 이 단계가 비어 있으면 ‘폐쇄망’이란 말이 방심을 만든다.
－03_“보안 성숙도와 진단” 중에서

폐쇄망에서의 RAG는 완성된 종착지가 아니다. 잘 설계된 RAG는 이후 온톨로지, 지식그래프, 윤리 정렬, 거버넌스 체계로 이어지는 발판이 된다. 핵심은 “문서를 어떻게 더 잘 읽게 할 것인가”가 아니라 “조직이 어떤 책임 있는 결정을 더 잘 내리도록 도울 것인가”라는 질문을 끝까지 유지하는 것이다.
－06_“문서 RAG” 중에서

국방에서도 AI의 첫 역할은 결정 자동화가 아니라 인지 부담을 덜어주는 것이다. 상황판에는 여러 센서·정보 자산에서 들어온 데이터가 쌓이고, 작전 참모들은 이 정보를 교범, 교전 규칙, 과거 작전 사례와 함께 해석해야 한다. 이때 로컬 LLM과 문서 RAG는 “특정 지역에서 최근 6개월간 발생한 침투 시도와 대응 결과를 정리해 달라” 등과 같은 질문에 답하는 참모로 쓰일 수 있다. 그러나 규범 논의는 스마트그리드보다 훨씬 엄격하다. NATO의 AI 전략과 책임 있는 사용 원칙은 군사 AI가 법적 정당성, 책임성과 설명 가능성, 신뢰성, 통제 가능성을 충족해야 한다고 강조한다. 국제인도법을 다루는 단체들은 자율 무기 체계의 자율성이 지나치게 높아져 인간의 판단과 책임이 희미해져서는 안 된다고 반복해서 지적한다. 이러한 논의는 폐쇄망 AI의 적용 범위를 정할 때도 직접적인 기준이 된다.
－09_“국방·스마트그리드 현장” 중에서