2025년 6월 3일 제21대 대통령선거를 앞두고, 인공지능(AI) 기술의 발전으로 인해 선거운동 환경이 급변하고 있다. 특히 딥페이크(Deepfake) 기술이 유권자의 판단을 흐릴 수 있다는 우려가 현실이 되면서, 콘텐츠 유통의 핵심 경로인 플랫폼의 역할과 책임이 새롭게 조명되고 있다.
‘중립적 유통자’는 더 이상 면책될 수 없다
딥페이크는 유튜브·페이스북·X(트위터)·틱톡 등 대형 플랫폼을 통해 확산됩니다. 알고리즘에 의해 전파되는 이상, 플랫폼은 ‘중립’만으로는 책임을 피할 수 없습니다.
플랫폼은 단순히 콘텐츠를 호스팅하는 기술 사업자가 아니라, 여론 형성과 선거정보 전달의 핵심 인프라다. 선거와 같은 공공적 사안에서는 딥페이크 유포를 막기 위한 사전 감지, 사용자 경고, 콘텐츠 차단 시스템을 갖춰야 한다는 사회적 요구가 높아지고 있다.
플랫폼별 딥페이크 대응, 현실은 ‘제각각’
대형 플랫폼 기업들은 AI 탐지 기술 도입과 콘텐츠 라벨링을 일부 도입했지만, 대응 기준과 실행 수준은 각기 다릅니다.
플랫폼별 딥페이크 대응 정책 비교
| 플랫폼 | 딥페이크 감지 기술 | 조작 콘텐츠 라벨링 | 사용자 신고 시스템 | 삭제 정책 | 비고 |
|---|---|---|---|---|---|
| 구글 (YouTube) | 조작 콘텐츠 대응 정책 발표 딥페이크 탐지 데이터셋은 미공개 |
AI 생성 콘텐츠 표시 시범 운영 중 | 신고 기능 운영 중 | 정책 위반 시 삭제 또는 비공개 처리 | 2024년 정책 강화 발표 |
| 메타 (Facebook, Instagram) | AI 콘텐츠 자동 식별 시스템 개발 중 | ‘AI 생성’ 콘텐츠에 라벨 적용 사용자 자발 표시 도구 제공 |
신고 기능 운영 중 | 허위 조작 시 삭제 단순 AI 생성은 표시 후 유지 |
정책 강화 중 |
| X (트위터) | 딥페이크 감지 기술 없음 | 콘텐츠 라벨 없음 커뮤니티 노트 기반 보완 |
‘노트’ 시스템 통한 집단 검증 | 직접 삭제는 드물고 제한적 | 비공식적 대응에 의존 |
| TikTok | AI 생성물 자동 감지 기술 일부 적용 | AI 콘텐츠 라벨 자동 적용 중 사용자 표시도 가능 |
신고 기능 운영 중 | 정책 위반 시 삭제 표시 조건 충족 시 유지 |
감지·표시 기술 고도화 중 |
| 네이버·카카오 | 별도 감지 기술 없음 | 조작 콘텐츠 라벨 기준 없음 | 이용자 신고 중심 | 중앙선관위 요청 시 삭제 | 내부 대응 체계 미흡 |
‘딥페이크’ 유통, 제작자만 처벌? 플랫폼 책임은?
한국 공직선거법은 딥페이크를 제작·유포한 개인은 처벌하지만, 이를 유통한 플랫폼에는 책임을 묻고 있지 않습니다.
국가별 딥페이크 선거 규제 법제도 비교
| 국가/지역 | 법제도 | 적용 범위 | 플랫폼 책임 | 주관 기관 | 비고 |
|---|---|---|---|---|---|
| EU | AI Act (Regulation (EU) 2024/1689) |
딥페이크 포함 생성형 AI 콘텐츠 선거·정치 분야 포함 |
플랫폼 포함 적용 대상 ‘AI 생성’ 표시 의무 부과 |
EU 집행위원회 국가별 감독기관 |
2024년 발효, 2026년 시행 예정 (제50조) |
| 미국 | 딥페이크 관련 주법 존재 FEC 해석 규칙 채택 |
선거 광고, 후보 비방 등 조작 이미지·음성·영상 |
연방 수준 플랫폼 책임 규정은 없음 FEC 정책화 논의 중 |
연방선거위원회(FEC) 각 주 선관위 |
2024년 해석 규칙 채택 기술 중립적 적용 방침 |
| 대한민국 | 공직선거법 제82조의8 제255조(부정선거운동죄) |
선거운동 목적으로 제작·유포된 딥페이크 콘텐츠 |
플랫폼 책임 없음 제작자·게시자 중심 처벌 |
중앙선거관리위원회 | 2024년 개정법 기준 적용 중 |
기술 감지보다 중요한 건 ‘책임 설계’
딥페이크를 탐지하는 기술은 발전하고 있지만, 어디까지 책임질 것인가는 여전히 정치와 사회의 판단에 달려 있습니다.
AI 감지 기술이 아무리 발전해도, 플랫폼이 이를 활용하고, 콘텐츠 유통 구조 자체를 신뢰 기반으로 재설계하지 않는다면 근본적인 해결은 어렵다. 민주주의를 지키는 데 있어, 기술보다 중요한 것은 의지와 구조다.
이 기사는 기획 연재 《AI와 선거》 시리즈의 3편입니다.
다음 기사에서는 ‘딥페이크에 대한 국제 규제 동향과 한국의 대응 방향’을 분석합니다.
다음 기사에서는 ‘딥페이크에 대한 국제 규제 동향과 한국의 대응 방향’을 분석합니다.
댓글
0