국제 AI 안전 보고서(International AI Safety Report)의 1차 대규모 업데이트가 2025년 10월 17일 공개됐다. 이번 업데이트는 급속히 발전하는 인공지능(AI)의 역량과 그로 인한 위험성을 신속히 파악하고, 정책 수립에 필요한 최신 정보를 적시에 제공하기 위한 목적에서 추진됐다.
업데이트 작업은 튜링상 수상자이자 컴퓨터 과학자인 요슈아 벤지오(Yoshua Bengio)를 비롯한 100여 명의 세계적 전문가들이 주도했으며, 30여 개국과 EU, OECD, UN 등 주요 국제기구의 지원을 받아 진행됐다. 보고서 제작진은 연례 보고서만으로는 AI 발전 속도를 따라가기 어렵다는 현실을 고려해, 주요 변화를 집중적으로 다루는 대규모 업데이트 형식을 도입했다. 이를 통해 정책 입안자들은 근거 기반의 최신 정보를 활용해 AI 관련 정책을 수립할 수 있게 되었다.
이번 1차 업데이트는 AI의 역량 강화와 그에 따른 위험 요소를 중심으로 다음과 같은 내용을 담고 있다.
-
AI 모델의 문제 해결 능력이 빠르게 향상되고 있다. 최고 수준의 AI 시스템은 실제 소프트웨어 엔지니어링 과제의 60% 이상을 수행할 수 있으며, 이는 2025년 초 40%에서 크게 증가한 수치다. 보고서 작성 직후에는 이 수치가 70%를 넘었다.
-
주요 AI 개발사들은 AI 모델이 화학·생물학·방사능·핵 물질 개발에 악용될 가능성을 우려해, 예방 차원의 강화된 안전 조치를 도입한 신규 모델을 발표했다.
-
AI 모델의 전략적 행동 능력이 향상되면서 감독 문제가 부각되고 있다. AI가 평가받고 있음을 인식하고 의도적으로 반응을 조정할 수 있다는 가능성이 확인되자, 개발자들이 실제 배포 전 모델의 성능을 정확히 평가할 수 있는지에 대한 의문이 제기됐다.
이번 업데이트를 총괄한 요슈아 벤지오 몬트리올대학교 교수이자 밀라-퀘벡 AI 연구소 과학 고문은 “AI의 역량은 불과 9개월 전 첫 보고서 발간 이후에도 꾸준하고 빠르게 발전하고 있다”며 “이에 따라 전 세계 의사 결정권자들이 과학적 근거에 기반한 최신 정보를 확보하고 선제적으로 정책을 설계할 필요가 있다”고 밝혔다. 또한 그는 이번 업데이트가 오는 2026년 초 인도에서 열릴 AI 임팩트 서밋(AI Impact Summit) 종합 보고서의 방향을 예측할 수 있는 중요한 단초가 될 것이라고 덧붙였다.
국제 AI 안전 보고서는 첨단 AI 시스템의 역량과 위험을 종합적으로 분석해, 전 세계 정책 결정자들이 과학적 근거에 기반한 결정을 내릴 수 있도록 지원하는 문서다. 30여 개 국가와 주요 국제기구의 자문위원회가 참여하며, 100명 이상의 독립 전문가가 함께 작성한다. 영국 정부의 의뢰로 마련된 본 보고서는 영국 AI 보안 연구소(UK AI Security Institute)가 사무국 역할을 맡고 있다. AI의 잠재적 이점을 인정하면서도, 그 위험을 분석하고 억제 전략의 효과성을 평가하는 데 초점을 두고 있다.
댓글
0