《AI와 선거》 AI가 만든 거짓 진실, 딥페이크를 해부하다

2025년 6월 3일 제21대 대통령선거를 앞두고, 선거 캠페인 환경은 과거와는 전혀 다른 양상으로 전개되고 있다. 온라인 중심의 선거운동과 인공지능 기술의 결합이 현실이 된 가운데, 특히 ‘딥페이크(Deepfake)’ 기술이 새로운 선거 리스크로 부상하고 있다.

딥페이크는 ‘딥러닝(Deep Learning)’과 ‘페이크(Fake)’의 합성어로, 인공지능이 사람의 얼굴, 음성, 표정 등을 학습해 실제와 유사한 콘텐츠를 생성하는 기술이다. 최근에는 고성능 장비 없이도 모바일 앱이나 오픈소스 도구를 통해 쉽게 합성 영상을 만들 수 있을 정도로 기술이 대중화됐다.

딥페이크의 핵심 기술은 생성적 적대 신경망(GAN, Generative Adversarial Network)으로서 생성자(Generator)와 판별자(Discriminator)로 구성된다. GAN 기술에서 생성자는 가짜 영상을 만들어내고, 판별자는 그것이 진짜인지 판별한다.  생성자와 판별자가 경쟁하며 반복 학습함으로써 영상의 정교함은 비약적으로 향상된다. 이를 통해 생성된 결과물은 전문가조차 실제와 구분하기 어려울 정도로 정밀하다.

문제는 이 기술이 선거와 같은 공적 영역에서 악용될 가능성이 현실화되고 있다는 점이다. 특정 후보자가 하지 않은 발언을 실제처럼 보여주는 조작 영상, 가족을 등장시켜 감성적 호소를 유도하는 허위 콘텐츠, 후보 비방을 위한 음성 합성 등은 이미 여러 차례 사회적 논란을 일으킨 바 있다.

딥페이크의 위험은 시청자에게 '거짓을 진실처럼 믿게 만드는 시각적, 청각적 조작력'에 있다. 그 결과 유권자의 판단력을 왜곡하고, 공정한 선거 환경을 무너뜨릴 수 있다. 특히 “본 사람이 없다고 해도, 본 것처럼 기억하게 만든다”는 점에서 더욱 위험하다.

이에 따라 2024년 개정된 공직선거법 제82조의8은 딥페이크 영상 및 음성을 이용한 선거운동을 전면 금지했다. 선거일 90일 전부터는 단순한 게시·공유도 법 위반에 해당되며, 위반 시 7년 이하의 징역 또는 1천만 원 이상 5천만 원 이하의 벌금에 처할 수 있다.

중앙선거관리위원회는 지난 4월, ‘허위사실·비방 AI 딥페이크 특별대응팀’을 출범시켜 선거와 관련된 인공지능 조작물에 대한 상시 모니터링에 나섰다. 특히 파급력이 높은 SNS 플랫폼에 대해 유관 기관과 협력해 대응체계를 강화한다는 방침이다.

기술은 중립적이지만, 그 사용 방식은 사회 전반에 심대한 영향을 미친다. 특히 선거와 같은 고도의 공공적 환경에서는 기술의 악용을 막기 위한 제도적 장치와 시민 인식 제고가 함께 이루어져야 한다.

기술이 신뢰를 대체하는 시대. 민주주의는 과연 이러한 기술 진보를 감당할 준비가 되어 있는가? 그것이 이번 대선을 둘러싼 가장 중요한 질문 중 하나다.