한국전자통신연구원(ETRI) 인공지능안전연구소(AISI)가 AI 안전성 확보를 위한 컨소시엄 활동에 본격 돌입했다. 1일 서울 그랜드 인터컨티넨탈 파르나스에서 열린 ‘AI 안전컨소시엄 합동회의’에서는 정책, 평가, 연구 등 분야별 현안을 심도 있게 논의하며 국내 AI 안전 논의의 중심축으로 자리매김할 전망이다.
AI 확산의 전제조건, 안전성 확보
범국가적으로 AI를 산업 전반에 확산하기 위한 노력이 이어지고 있는 가운데, AI 안전성 확보가 필수조건으로 제시됐다. 정부가 국가AI전략위원회를 발족하며 AI 강국 실현을 추진하는 과정에서, AISI는 지난해 11월 개소 이후 국내 AI 안전의 대표 전담 연구 조직으로 활동해왔다. 독자 AI 파운데이션 모델의 안전성·신뢰성 평가를 담당하며, 국제 AI 안전 네트워크 협력에도 적극 참여해왔다.
AI 안전컨소시엄 합동회의 개최
이번 합동회의에는 국내 AI 안전 전문가들이 참여했다. 회의에서는 ▲AI안전연구소의 주요 활동 성과 공유 ▲컨소시엄 운영체계 확정 ▲분과별 의제 논의가 진행됐다. AISI는 개소와 함께 24개 기업·기관과 함께 ‘AI 안전컨소시엄’을 구성해 연구 성과 확산, 정책 제안, 안전 평가의 공동 수행 등을 추진해왔다. 이를 통해 정부 정책 지원과 국가 차원의 AI 거버넌스 정립에 기여한다는 목표다.
3개 분과 운영 체계
컨소시엄은 정책, 평가, 연구 3개 분과로 운영된다. 정책 분과는 국내외 AI 안전 정책과 규제 대응을 논의하며, 특히 EU의 인공지능 규제 대응이 시급한 과제로 꼽힌다. 평가 분과는 글로벌 AI 안전 평가 사례를 공유하고, 국제 공동 평가 참여 방안을 마련한다. 연구 분과는 AISI가 수행 중인 연구와 성과 확산 방안을 다룬다.
지난 4월 비공식 회의를 통해 분과 구성과 의제 초안이 논의된 바 있으며, 이번 10월 회의에서는 그간의 성과를 공식 공유하고 후속 논의를 이어갔다. 컨소시엄은 앞으로도 신규 멤버 참여를 고려하며 운영 규정과 실행위원회 운영 방안도 공개했다. 이를 통해 역량 있는 기업과 기관의 참여를 확대할 계획이다.
국내 AI 안전 논의의 구심점
AISI는 올해 하반기에도 정책·평가·연구 성과를 이어가며 컨소시엄 중심의 교류를 확대할 예정이다. 이를 통해 국내 AI 안전 대응 체계를 정립하고, 산업계와 기관의 역량을 확산하는 데 주력한다는 방침이다.
김명주 인공지능안전연구소장은 “AI 안전은 기술 혁신을 뒷받침하는 기반이자 글로벌 경쟁력을 결정짓는 핵심 요소”라며 “인공지능안전연구소가 중심이 되어 정책·평가·연구를 추진함으로써 AI안전컨소시엄의 역할을 확대해 나가겠다”고 밝혔다.
이번 성과는 과학기술정보통신부가 지원하는 ‘생성형 AI 안전성 평가 기반 마련’ 과제를 통해 추진됐다.
댓글
0