신뢰할 수 있는 인공지능(AI)을 만들기 위해 국내 초거대 AI 기업들이 ‘AI 생성 결과물’에 가시적 디지털 워터마크 도입 필요성에 공감했다.
이종호 과학기술정보통신부 장관은 25일 AI 분야 민·관 최고위 관계자들과 안전한 AI 확산 방안을 논의하기 위한 제4차 인공지능 최고위 전략대화를 열었다.
서울 강서구 LG 사이언스파크에서 열린 이번 전략대화는 지난달 기업들이 AI 신뢰성 강화를 위해 필요한 안전조치를 자발적으로 마련하겠다고 약속했던 ‘대한민국 초거대 인공지능 도약’ 행사의 후속 조치로 마련됐다.
이 자리에는 고학수 개인정보보호위원장, 임용 서울대 교수, 네이버, SK텔레콤, KT, 카카오, LG AI 연구원, 이스트소프트, JLK, 셀렉트스타, 스냅태그, 코난 테크놀로지 관계자 등이 참석했다.
AI 생성 결과물에 워터마크를 도입하는 것은 딥페이크 기술을 악용한 인권 침해와 가짜 뉴스 확산 등 생성형 AI 기술이 초래할 수 있는 부작용을 줄이고, AI 생성에 사용된 원본 콘텐츠의 저작권 보호를 위해 필요성이 꾸준히 제기돼 왔다.
과기정통부는 이날 ‘인공지능 윤리·신뢰성 확보 추진계획’을 발표했다. 이 계획은 ▲민간 자율 AI 윤리·신뢰성 확보 지원 ▲세계를 선도하는 AI 윤리·신뢰성을 위한 기술·제도적 기반 마련 ▲사회 전반에 책임 있는 AI 의식 확산 등이 골자다.
추진계획을 토대로 세부 추진 과제도 마련했다. 주요 세부 추진 과제는 생성형 AI 기반 서비스 등 분야별로 가이드라인을 마련·확대하고, 다음 달 민간 자율로 AI 신뢰성 검·인증을 추진한다.
12월에는 고위험 영역 AI 개발·실증 사업을 수행할 기업 선정 및 시범 인증을 추진하는 한편 내년부터 오는 2027년까지 총 220억 원을 투자해 편향성·불투명성 등 AI 한계 및 오작동 대응을 위한 신규 기술 ‘차세대생성인공지능기술’의 개발을 추진한다. 또한 내년 1분기부터 AI 생성 결과물에 대한 워터마크 도입의 제도화를 검토하고, 고위험 인공지능에 대한 해설서도 마련한다.
특히 전략대화에 참석한 기업들은 생성형 AI의 신뢰성 향상과 책임 있는 거버넌스 구축 등을 위해 AI가 생성한 결과물에 가시적 워터마크 도입의 필요성에 공감하면서, 자사의 AI 서비스에 워터마크를 단계적으로 적용하기로 했다.
이종호 과기정통부 장관은 “AI는 디지털 심화 시대의 핵심기술로서 AI 신뢰성과 안전성을 확보하기 위한 노력이 무엇보다 중요하다”며 “민간 자율 AI 신뢰성 검·인증 지원을 비롯한 AI 윤리 생태계 기반 조성과 적합한 규제 체계를 정립해 가는 데 힘쓰겠다”고 말했다.
이어 “관계부처와 함께 AI 윤리·신뢰성을 확보할 수 있는 정책 방안을 보완해 새로운 디지털 질서의 모범이 되기 위해 최선을 다하겠다”고 밝혔다.
한편 민·관이 함께 국가 AI 경쟁력 강화를 위해 정책·투자 방향, 전략적 협력방안을 논의하는 AI 대표급 협의체인 최고위 전략대화는 앞서 2021년 9월, 2022년 3월, 2023년 3월 등 세 차례 개최된 바 있다.
댓글
0