정부가 인공지능(AI) 모델과 서비스를 외부 사이버 위협으로부터 보호하기 위한 구체적인 보안 지침을 내놨다. 과학기술정보통신부(부총리 겸 장관 배경훈, 이하 과기정통부)와 한국인터넷진흥원(원장 이상중, 이하 KISA)은 기업과 국민이 참고할 수 있는 「인공지능(AI) 보안 안내서」를 마련했다고 밝혔다.
인공지능 대전환(AX) 시대가 본격화되면서 인공지능 기반 서비스가 국민 생활과 국가 전 영역으로 확산되고 있다. 이에 그동안 정부는 인공지능의 신뢰성과 윤리적 활용 중심의 지침을 발간해왔지만, 외부 사이버 공격 방지를 위한 세부 보안 기준은 제시되지 않았었다.
과기정통부는 산·학·연 전문가들과 함께 국내외 인공지능 보안 정책을 분석하고 관계기관과 업계 의견을 수렴해, 개발자와 서비스 제공자, 이용자가 참고할 수 있는 보안 안내서를 마련했다.
이번 안내서는 인공지능 모델·시스템의 보안 3대 요소인 기밀성, 무결성, 가용성을 중심으로 구성됐다. 개발자와 서비스 제공자를 위한 생애주기 전 단계별 보안 요구사항과 이용자를 위한 보안 수칙 등 총 113개 항목이 담겨 있다.
개발 단계에서는 인공지능 모델의 위험 관리, 데이터 암호화, 실시간 점검(모니터링) 등 ‘보안 내재화(Secure by Coding)’를 위한 기준을 제시했다. 서비스 제공 단계에서는 이상 행위 탐지, API 및 인터페이스 보안, 백업시스템 구축 등 복원력을 강화하기 위한 요구사항이 포함됐다. 또한 이용자에게는 중요 정보 입력 금지와 인공지능 악용 금지 등 구체적인 보안 수칙이 제시됐다.
이번 보안 안내서는 미국 NIST의 ‘AI RMF 1.0’(2023), OWASP의 ‘Top 10 for LLM Applications’(2025) 등 국제 기준을 참고해 세계적 수준의 보안 요구사항을 정립했다. 이를 통해 국내외 인공지능 모델 모두에 적용 가능한 범용성과 국제 규범 간 호환성을 확보했다는 점이 특징이다.
과기정통부 임정규 정보보호네트워크정책관은 “이번 인공지능 보안 안내서는 고도화되는 사이버 위협 속에서 인공지능을 안전하게 개발‧활용할 수 있도록 하는 중요한 이정표가 될 것”이라며, “앞으로도 새로운 보안 위협을 지속적으로 점검하고 반영해 안내서를 업데이트해 나갈 예정”이라고 밝혔다.
「인공지능(AI) 보안 안내서」는 과기정통부와 한국인터넷진흥원(KISA) 누리집(홈페이지)에서 무료로 내려받을 수 있다.
댓글
0