ETRI, ‘AI 레드팀 테스팅’과 ‘신뢰성 사실 라벨’ 국제표준 제안
인공지능(AI) 기술의 확산 속에서 안전성과 신뢰성 확보가 중요한 과제로 떠오른 가운데, 한국전자통신연구원(ETRI)이 두 가지 핵심 국제표준 개발을 주도하며 주목받고 있다.
ETRI는 AI 시스템의 위험성을 사전에 검증하는 ‘AI 레드팀 테스팅’ 표준과, 소비자가 AI의 신뢰 수준을 쉽게 파악할 수 있도록 한 ‘신뢰성 사실 라벨(TFL)’ 표준을 국제표준화기구(ISO/IEC)에 제안하고 개발에 착수했다고 밝혔다. 이로써 한국은 단순한 기술 추격 단계를 넘어 AI 시대로 향하는 글로벌 규칙을 제정하는 역할까지 확대하게 됐다.
AI 레드팀 테스팅, 안전성 국제 공통기준 마련
‘AI 레드팀 테스팅’은 AI 시스템의 취약점을 공격적 시나리오로 탐색·검증하는 방식이다. 생성형 AI가 잘못된 정보를 제공하거나 안전장치 무력화를 통해 악용될 수 있는 상황을 사전에 찾아내는 것을 목표로 한다.
ETRI는 ISO/IEC 42119-7 표준 개발에서 에디터 역할을 맡아, 의료·금융·국방 등 다양한 분야에 적용 가능한 시험 절차와 방법을 설계 중이다. 또한 오는 9월 4~5일, 식품의약품안전처와 함께 국내 최초로 **‘첨단 AI 디지털의료제품 레드팀 챌린지 및 기술 워크숍’**을 개최할 예정이다. 이 행사는 아시아권에서 최초로 열리는 관련 행사로, 의료인과 보안 전문가, 일반 시민이 참여해 AI 의료제품의 편향성과 위험성을 점검한다. 신청은 22일까지 가능하다.
아울러 서울아산병원과는 의료 전용 레드팀 평가 방법론을 개발 중이며, AI 기반 디지털 의료기기의 레드팀 시험 체계 구축 및 실증도 병행하고 있다. 국내 기업인 STA, 네이버, 업스테이지, 셀렉트스타, KT, LG AI연구원 등과도 협의체를 구성해 국제표준 협력 체계를 강화하고 있다.
신뢰성 사실 라벨, 투명한 AI 정보 제공
ETRI가 추진하는 또 다른 핵심 표준은 **‘신뢰성 사실 라벨(TFL)’**이다. 이 라벨은 식품 영양성분표처럼 AI 시스템의 신뢰 수준을 한눈에 확인할 수 있도록 시각화된 정보를 제공하는 것이다.
ETRI는 ISO/IEC 42117 시리즈 표준 개발을 주도하고 있으며, 기업 자가 검증뿐 아니라 제3의 기관이 인증하는 방식도 포함할 수 있도록 설계 중이다. 장차 AI 활용에 따른 탄소배출량 등 ESG 요소를 반영하는 방안도 검토하고 있다.
이 표준은 이미 국제적으로 사용 중인 **‘AI 경영시스템 표준(ISO/IEC 42001)’**과 연계되어, 기업이 개발한 AI 제품이나 서비스의 신뢰성을 입증하는 주요 기준으로 자리 잡을 전망이다.
국가 전략과 선도적 역할
이번 두 국제표준 개발은 정부가 추진하는 ‘소버린 AI(주권형 AI)’ 및 ‘AI G3 도약’ 전략과도 맞닿아 있다. 단순히 기술력을 확보하는 차원을 넘어, 글로벌 AI 규칙 제정 경쟁에서 한국이 주도적 위치를 차지할 수 있는 기회로 평가되고 있다.
정보통신기획평가원 김 욱 PM은 “AI 안전과 신뢰성 제공은 누구나 AI 기술을 쉽게 활용할 수 있도록 하는 기반”이라며, “이번 국제표준 선도는 AI 규범을 주도하는 국가로 가는 중요한 분기점”이라고 밝혔다.
ETRI 이승윤 표준연구본부장은 “AI 레드팀 테스팅과 신뢰성 라벨은 미국, EU 등 주요국 AI 규제의 핵심 요소”라며, “앞으로 대한민국이 AI와 더불어 AI 안전기술에서도 세계를 선도할 것”이라고 강조했다.
이번 성과는 과학기술정보통신부와 정보통신기획평가원(IITP)의 AI 안전·신뢰성 표준 개발 과제, 그리고 식품의약품안전처 컨소시움의 생성형 AI 디지털의료제품 시험평가 과제 지원을 통해 추진되었다.
댓글
0