경찰청이 독일 노르트라인베스트팔렌주 경찰과 함께 인공지능 기반의 ‘허위조작 콘텐츠 진위여부 판별 시스템’ 개발에 착수했다.
영상, 음성, 뉴스 등을 정교하게 조작하는 딥페이크 기술에 대응하기 위한 국제 공동연구가 본격화된 것이다. 26일 오전 경찰청 어울림마당에서 열린 착수보고회에는 최주원 경찰청 미래치안정책국장, 과학치안진흥센터(KIPoT) 최귀원 소장, 숭실대 정수환 교수(연구책임자), 독일 부퍼탈 대학 토비아스 마이젠 교수 등이 참석해 세부 연구계획을 발표했다. 이 연구는 한국과 독일이 2023년 공동의향합의서를 체결한 이후, 2024년 한-독 과학치안 협력센터 개소와 경찰관 파견 등 협력 기반을 다진 성과로, 경찰청이 주도하는 첫 국제 공동연구다. 개발 기간은 2025년부터 2027년까지 3년이며, 숭실대를 주관기관으로 성균관대, 연세대, 한컴위드가 참여하고, 독일에서는 부퍼탈 대학이 협력기관으로 참여한다. 연구 첫해에는 딥페이크 영상, 딥보이스 음성, 가짜뉴스에 대한 탐지용 데이터셋 구축과 탐지모델 고도화가 이루어지며, 이후 머신러닝 운영 자동화 시스템(MLOps) 기반의 통합 탐지 플랫폼으로 확장할 계획이다. 최주원 국장은 “이번 연구는 단순한 국가 간 기술 협력을 넘어 미래 치안위협에 공동 대응하는 국제 협력의 시작점”이라며 “공정한 알고리즘과 다양성 기반의 데이터셋으로 허위조작 콘텐츠 대응의 실마리를 마련하길 기대한다”고 밝혔다.
국내에서도 딥페이크 대응 기술개발 속도
정부도 딥페이크의 악의적 활용에 대응하기 위한 연구개발(R&D) 투자를 강화하고 있다. 과학기술정보통신부는 2024년부터 총 64억 원 규모의 딥페이크 탐지 기술개발 과제를 추진 중이다. 특히 성범죄 목적의 딥페이크 영상 확산을 막기 위해 딥페이크 생성억제 및 유포방지 플랫폼 개발과 자가진화형 탐지 시스템 개발이 진행되고 있다.
두 과제는 각각 24억 원과 40억 원의 예산이 투입되며, 후자는 2027년까지 장기 과제로 수행된다. 자가진화형 탐지기술은 생성형 AI의 진화에 맞춰 스스로 학습하는 방식으로, 적시에 고도화된 대응이 가능하다는 평가를 받는다.
민간기업도 기술 상용화 나서
딥브레인AI는 문화체육관광부와 한국콘텐츠진흥원이 지원하는 문화기술 연구개발사업에 참여해 ‘딥페이크 가드 엔진’ 개발을 진행 중이다. 이 기술은 딥페이크 콘텐츠의 사전 차단과 실시간 탐지를 위한 고도화된 스크리닝·모니터링 엔진을 포함하고 있다. 해당 사업은 2024년부터 2026년까지 35억 원의 예산으로 진행된다.
또 다른 민간 보안기업인 누리랩은 한국인터넷진흥원(KISA)이 주관하는 AI 보안 유망기업 육성 지원사업에 선정되어, 악성 딥페이크 콘텐츠를 탐지·삭제하는 원스톱 통합 대응 시스템 개발에 착수했다. 메타데이터 분석과 AI 알고리즘을 결합한 하이브리드 탐지 엔진을 통해 정밀도를 높인 것이 특징이다.
한편, 과기정통부는 여성가족부와 함께 딥페이크 기반 디지털 성범죄 대응을 위한 정책연구도 병행하고 있다. 피해자 보호와 법제 정비, 이미지 추적·차단 시스템 마련 등을 연내 완료할 계획이다.
댓글
0