대한민국 연구진이 인공지능(AI) 시스템의 안전성과 신뢰성을 확보하기 위한 핵심 국제표준을 제정하며 AI 기술 규범화의 주도국으로 자리매김했다.
한국전자통신연구원(ETRI)은 AI 시스템의 테스트 절차와 방법론을 정의한 ‘AI 시스템 테스팅 개요(Overview of AI System Testing)’가 국제표준화기구(ISO/IEC JTC 1)에서 지난 3일 공식 제정되었다고 밝혔다. 이번 표준은 국내가 ISO/IEC 인공지능 기술위원회(SC 42)에서 주도적으로 제정한 첫 번째 AI 테스팅 핵심 국제표준이다.
5년 노력 끝 ‘AI 신뢰성’ 기준 완성
ETRI는 5년간의 연구 끝에 인공지능 전주기 테스트 방법론을 최초로 정의했다고 설명했다. 해당 표준은 데이터 품질, 모델 성능, 편향성 등 AI의 주요 요소를 종합적으로 검증하기 위한 절차를 포함한다. 또한, 고위험 AI 시스템에 대한 검인증 기준을 마련함으로써 인공지능 기본법과 EU AI ACT에서 요구하는 국제적 시험기준의 토대를 제공했다.
이번 표준은 기존 소프트웨어 테스트 기준을 AI 특성에 맞게 확장한 것으로, 데이터 품질 테스트와 모델 테스트를 새롭게 정의했다. 이를 통해 AI의 데이터 품질부터 모델 성능까지 전 과정에 걸친 신뢰성 검증이 가능해졌다. 아울러 위험 기반 테스트 개념을 도입해 편향성 테스트, 적대적 테스트, 드리프트 테스트 등 AI 특화 검증 절차를 구체화했다.
국제 협력과 주도적 기여
이 표준은 ETRI 지능정보표준연구실 전종홍 책임연구원이 최초 제안했으며, STA테스팅컨설팅의 스튜어트 리드 박사와 공동 에디터로 참여해 완성됐다. STA테스팅컨설팅은 ETRI 창업기업으로, 양 기관은 ISO/IEC 산하 SC 42와 소프트웨어 테스팅 위원회(SC 7)가 합동 구성한 JWG 2 작업반을 통해 5년간 공동 개발을 추진했다.
ETRI 방승찬 원장은 “AI의 안전성과 신뢰성 확보는 인공지능 시대의 핵심 과제”라며 “이번 국제표준 제정은 대한민국이 AI 테스팅과 평가 규범을 선도하는 분기점이 될 것”이라고 밝혔다. 이승윤 표준연구본부장은 “AI 시스템의 시험 평가 기준의 ‘뼈대’를 우리 손으로 만들었다”며 “소버린 AI 테스팅 기술과 표준화를 주도하겠다”고 덧붙였다.
후속 표준 시리즈로 글로벌 규범화 이어갈 계획
ETRI는 이번 표준을 기반으로 AI 레드팀 테스팅(ISO/IEC 42119-7), 온톨로지 표준(ISO/IEC 42119-10), AI 벤치마크(ISO/IEC 42119-11) 등 후속 시리즈를 개발하며 AI 테스팅 국제표준 시리즈를 선도할 계획이다.
이번 성과는 식품의약품안전처의 ‘범부처 전주기 의료기기 연구개발사업’의 일환으로 추진된 「인공지능 기반 의료기기 성능 평가 기술 국제표준 개발」 및 「인공지능/머신러닝 의료기기 성능평가 국제표준 개발」 과제의 성과 확산을 통해 이뤄졌다.
전종홍 책임연구원은 “AI 공통 핵심 표준을 만드는 SC 42 표준화 활동 강화를 위해 국가 차원의 장기적 투자가 필요하다”며 “AI 국제표준화에 보다 적극적으로 나서야 할 시점”이라고 강조했다.
이번 제정으로 우리나라는 글로벌 AI 안전·신뢰성 검증 체계의 근간을 설계한 국가로 평가받으며, 정부가 추진 중인 ‘소버린 AI’와 ‘AI G3 도약 전략’의 핵심 목표인 ‘안전하고 신뢰할 수 있는 AI 구현’을 위한 기술적 기반을 확보하게 되었다.
댓글
0