인공지능(AI) 기술이 진화하면서 영상·이미지 합성 조작물 딥페이크(Deepfake)로 인한 피해가 심각한 양상으로 치닫고 있다.
지난 22일엔 '윤석열 대통령 양심고백 연설' 영상의 일부라는 윤 대통령 딥페이크가 다수 게재대 논란을 일으켰다.
46초 분량의 영상에서 윤 대통령은 "존경하는 국민 여러분. 저 윤석열, 국민을 괴롭히는 법을 집행해온 사람이다. 무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다"라고 말해 충격을 줬다.
무분별한 딥페이크로 인한 피해가 급증하자 정부와 관련 플랫폼업체들이 딥페이크에 대한 자율규제 강화를 위해 머리를 맞댔다.
방송통신위원회는 23일 구글, 메타, 엑스(X, 옛 트위터), 틱톡, 네이버, 카카오 등 국내외 대형 플랫폼 사업자들과 딥페이크 허위 정보 대응 관련 자율규제 강화를 위한 민관협력 회의를 개최했다.
이날 회의는 최근 딥페이크 기술을 활용한 유명인 관련 허위 조작정보가 사회관계망서비스(SNS) 등을 통해 확산하면서 실제 사기 피해가 발생하는 등 사회적 문제로 대두, 사업자가 즉시 취할 수 있는 피해 예방 대책을 논의하고자 마련됐다.
참석자들은 AI 생성물 표시, 탐지 모니터링, 삭제·차단 조치 등과 관련된 자율규제 현황과 강화 방안 등에 대해 의견을 나눴다.
회의를 주재한 이상인 방통위 부위원장은 "딥페이크 허위 정보로 인한 개인 피해와 사회적 혼란을 예방하기 위해선 플랫폼의 자정 노력이 무엇보다 중요하다"고 강조했다.
이 위원장은 "올해는 전 세계적으로 큰 선거들도 앞둔 만큼 딥페이크에 대한 보다 적극적이고 선제적인 자율 규제에 나서달라"고 업계에 요청했다.
아울러 이 부위원장은 국내 사업자에게 뮌헨 기술 협약 등 글로벌 기업의 자율규제 강화에 상응하는 조치를 요청하고, 글로벌 사업자에게는 국내 사업자 수준의 신속한 조치에 최선을 다해 달라고 당부했다.
뮌헨기술협약은 선거 관련 AI의 기만적 사용을 방지하기 위해 체결된 기술 협약으로 구글과 메타, X, 틱톡 등 20개 주요 플랫폼과 기술 기업이 지난 16일 자발적으로 서명했다.
댓글
0