[AI로 생성된 이미지]
독일 막스플랑크연구소의 차미영 단장과 노르웨이 과학산업기술연구재단(SINTEF)의 다니엘 슈뢰더 연구원을 포함한 국제 공동 연구진은 최근 세계적인 학술지 '사이언스'의 정책 포럼을 통해 이와 같은 내용을 담은 논문을 공개했습니다. 이번 발표에는 오드리 탕 전 대만 디지털 장관과 닉 보스트롬 옥스퍼드대 교수 등 전 세계 전문가 22명이 뜻을 모았습니다.
연구진은 고도화된 AI 기술이 결합하면서 과거보다 훨씬 정밀하고 대규모인 여론 조작이 가능해졌다고 진단했습니다. 특히 이들이 정의한 악성 AI 집단은 온라인상에서 지속적으로 정체성을 유지하며, 하나의 목표를 위해 각기 다른 말투와 역할을 연기하는 치밀함을 보입니다. 또한 플랫폼의 알고리즘 변화와 사용자 반응에 실시간으로 대응하며 인간의 개입을 최소화한 채 여러 채널을 넘나들며 활동하는 것이 특징입니다.
기존의 여론 조작 방식이 단순 반복적인 메시지 전달에 그쳤다면, 최신 AI 시스템은 인간과 구분이 불가능할 정도로 설득력 있는 콘텐츠를 저렴한 비용으로 대량 생산할 수 있습니다. 이는 전 세계 민주주의 프로세스에 심각한 타격을 줄 수 있는 지속적인 선전 캠페인으로 이어질 가능성이 큽니다. 더불어 이러한 허위 정보가 인터넷을 장악할 경우, 향후 AI 모델 학습에 쓰이는 데이터까지 오염시키는 'LLM 그루밍' 현상을 초래할 수 있다는 점도 지적되었습니다.
연구팀은 이러한 기술적 오용을 완전히 차단하는 것은 현실적으로 어렵다고 판단하고, 대신 조작 행위의 비용과 위험을 높이는 다층적인 방어 체계 구축을 대안으로 제시했습니다. 이를 위해 학술계와 시민단체, 비정부기구가 협력하는 분산형 'AI 영향 관측소' 설립을 제안하며 국제적인 공조를 촉구했습니다.
전문가들은 철저한 감시와 안전장치를 마련한다면 향후 치러질 선거들이 민주적인 AI 거버넌스를 확립하는 중요한 시험대가 될 것이라고 입을 모았습니다.
댓글
0