LG유플러스가 생성형 인공지능(AI)의 안전 체계를 강화하기 위해 스페인 바르셀로나에서 열리는 MWC 기간 중 '글로벌 AI 레드팀 챌린지'에 참가한다고 밝혔다. 이번 행사는 세계이동통신사업자연합회(GSMA)가 주최하며, 디지털 인재들의 축제인 '탤런트 아레나 2026'의 주요 행사로 마련되어 전 세계 유수 통신사와 IT 기업들의 AI 모델을 실전 테스트하게 된다.
LG유플러스는 자사가 보유한 통신 전문 AI '익시젠(ixi-GEN)'을 이번 대회에 내놓는다. 이를 통해 실제 사용 환경에서 나타날 수 있는 잠재적 위험 요소들을 사전에 파악하고 대응 역량을 집중적으로 점검할 방침이다.
대회 방식은 약 100여 명의 전문가가 '레드팀'이 되어 AI의 약점을 파고드는 형태로 진행된다. 특히 기술적 해킹보다는 대화와 프롬프트 조작을 통해 AI의 보호막을 뚫는 데 초점을 맞춘다. 평가 항목은 보안 우회, 편향성 및 차별, 인권 침해, 사이버 공격 유도, 불법 콘텐츠 유포, 허위 정보 생성, 응답의 일관성 등 총 7가지 영역으로 구성된다.
이번 검증의 핵심은 답변의 정답 유무가 아니라 '부적절한 답변의 차단 여부'에 있다. 설령 잘못된 정보라 할지라도 AI가 불법적인 가이드나 인권 침해 요소를 노출한다면 취약점으로 간주한다. 이는 생성형 AI가 미칠 수 있는 사회적 부작용을 원천 차단하겠다는 취지다.
경연은 180분간 실시간으로 펼쳐지며, 무작위로 할당된 AI 모델을 대상으로 제한 시간 내에 얼마나 많은 보안 미션을 통과시키는지가 승부의 관건이다. LG유플러스는 이번 참여를 통해 익시젠의 신뢰성을 국제적 기준에서 공인받고, 도출된 데이터들을 바탕으로 AI 모델의 완성도를 더욱 높여나갈 계획이다.
LG유플러스 측은 AI 기술이 통신 서비스 전반에 깊숙이 침투하고 있는 만큼, 성능 못지않게 안전을 담보하는 과정이 필수적이라고 강조하며, 글로벌 전문가들과의 협력을 통해 사용자가 신뢰할 수 있는 AI 환경을 구축하겠다고 덧붙였다.
댓글
0