인공지능(AI)의 역기능에 대한 우려의 목소리가 고조되고 있는 가운데, 생성형AI의 잠재적 위험성과 취약점을 찾아내는 공개 챌린지 행상가 열려 관심을 모으고 있다.
과학기술정보통신부는 네이버 공동으로 내달 11일부터 이틀간 서울 강남구 코엑스에서 '생성형 인공지능 레드팀 챌린지'를 개최한다고 21일 밝혔다. 행사 주관은 한국정보통신기술협회(TTA)가 맡는다.
'AI 레드팀'이란 통제된 환경에서 적대적 방법을 사용해 AI 시스템의 유해하거나 차별적인 결과, 시스템 오용 등의 결함과 취약성을 식별하기 위한 구조화된 테스트 활동을 의미한다.
AI의 신뢰성과 안전성 문제가 글로벌 이슈로 부각되면서 오픈AI, 구글, 네이버클라우드 등 글로벌 AI기업들은 자체적으로 AI 레드팀을 운영하고 있다.
이번 챌린지 행사는 국내 AI 기업의 대형언어모델(LLM)을 집중적으로 점검하기 위해 마련된 것으로 네이버클라우드, SK텔레콤, 업스테이지, 포티투마루 등 국내 AI 선도기업들의 모델이 AI레드팀 참가자들의 대상이다.
과기부는 국가 차원의 대규모 생성형 AI 레드팀 챌린지를 개최하는 것은 미국에 이어 우리나라가 두 번째라고 전하며, 행사에 참여할 국민 1천명을 모집할 계획이라고 설명했다.
과기부는 이번 챌린지 결과를 토대로 생성형 AI 분야의 공통적이고 포괄적인 위험을 도출하고, 업계에서 활용할 수 있는 '생성형 AI 레드팀 수행 가이드라인'을 마련키로 했다. 또 표준화된 AI 위험 발굴·대응 체계를 구축할 계획이다.
챌린지 참가 희망자는 다음달 10일까지 행사 홈페이지(www.aiignite.org)를 통해 신청하면 된다. AI모델의 위험과 취약점을 가장 많이 발견한 5명의 우수 참가자에게 과기부 장관상과 총 1700만원의 상금이 지급된다.
강도현 과기부 2차관은 "이번 행사를 계기로 국내 산업계에 AI 안전성 확보를 위한 자발적인 노력이 확산하고, AI를 활용하는 일반 국민도 AI 윤리의 중요성에 대한 인식이 커지길 기대한다"고 말했다.
한편 이번 행사 2일차인 12일에는 안전한 AI 개발을 주제로 국내외 AI 기술 리더들의 발표와 의견 교류가 이뤄지는 컨퍼런스가 진행된다.
글로벌 최고 수준의 이미지 생성 인공지능 개발사인 ‘스태빌리티 AI’의 CEO 에마드 모스타크 등 산업계와 학계에서 AI 안전성 연구를 이끌고 있는 인사들이 컨퍼런스 연사로 나설 예정이다.
댓글
0