인공지능(AI) 연구의 양대 산맥인 오픈AI와 앤스로픽이 전 세계 AI 안전성 강화를 목표로 전략적 파트너십을 체결했다고 6일 밝혔다. 두 기관은 협업을 통해 AI 윤리·안전성 분야에서의 표준을 공동 수립하고, 글로벌 규제 대응 전략을 제시할 계획이다.
이번 파트너십의 핵심은 ‘AI 안전성 연구소(Alliance for AI Safety)’의 공동 설립이다. 양사는 미국 캘리포니아와 유럽 각지에 분산된 연구 거점에서 고위험 AI 시스템의 잠재적 위협을 사전에 탐지·완화하는 기술 개발에 착수한다. 연구소는 △모델 오작동 예측 △악용 방지 메커니즘 △협력적 거버넌스 프레임워크 등에 초점을 맞춘다.
오픈AI의 CEO 사무엘 올트만(Samuel Altman)은 “앤스로픽과 함께 AI의 잠재 리스크를 과학적으로 분석하고, 글로벌 표준을 수립할 기회를 얻게 돼 기쁘다”며 “안전하고 신뢰할 수 있는 AI가 인류에 실질적 가치를 제공할 수 있도록 최선을 다할 것”이라고 말했다.
앤스로픽의 공동 설립자 댄 카페먼(Daniel Kafeman) 박사는 “우리의 철학은 기술 혁신이 사회적 책임과 병행해야 한다는 것”이라며 “오픈AI와의 협력을 통해 고성능 AI 모델이 초래할 수 있는 부작용을 최소화하겠다”고 강조했다.
양사는 우선 6개월 내에 △AI 안전 지표(ISA: Index for Safe AI) 개발 △공개 검증용 책임 모델(Characterizable Models) 프로토타입 공개 △규제기관·학계·산업계와의 워크숍 로드맵을 발표할 예정이다. 특히 AI 안전 지표는 모델의 투명성, 추론 과정 설명 가능성(Explainability), 잠재 오작동 발생 빈도 등을 포함해 객관적 수치로 제시한다.
한편, 두 연구소는 각국 정부와 협력해 AI 규제 방안을 모색한다. 유럽연합(EU)의 AI 법안(AI Act), 미국 백악관의 AI 정책 프레임워크 등 주요 규제 동향을 종합 분석해 기업·개발자가 준수할 수 있는 ‘책임 모델’ 가이드라인을 공개할 계획이다. 이를 통해 글로벌 시장에서 AI 기업의 법적·윤리적 리스크를 줄이겠다는 전략이다.
업계 전문가들은 이번 제휴가 AI 안전성 연구에 새로운 전기를 마련할 것으로 보고 있다. 윤리적 AI 연구를 선도해 온 앤스로픽과, 상용화 단계의 대규모 모델을 운영해 온 오픈AI의 협업이 시너지 효과를 내면 “AI 신뢰성에 대한 불확실성을 크게 낮출 것”(홍길동 서울대 컴퓨터공학부 교수)이라는 분석이다.
국내 IT 업계에서도 반응이 뜨겁다. 카카오·네이버·삼성 등 주요 기업은 이미 두 기관과의 MOU 체결을 논의 중이며, 향후 공동 프로젝트 참여를 검토하고 있다. 정부도 과학기술정보통신부를 중심으로 “민관 합동 TF를 구성해 연구·규제·산업화 전 과정을 지원하겠다”고 밝혔다.
오픈AI와 앤스로픽의 협력이 본격화되면, AI 기술 발전과 안전성 확보 사이의 균형점을 찾는 글로벌 가이드라인이 제시될 전망이다. 업계 관계자는 “이번 파트너십은 단순 기술 제휴를 넘어 AI 생태계 전반의 책임성과 투명성을 강화하는 계기”라며 “국가 간 협력을 통해 글로벌 시장에서의 경쟁력을 높일 수 있을 것”이라고 평가했다.
댓글
0