딥페이크로 치른 선거…'홍보'와 '허위' 사이

<앵커>

AI 기술 발전의 이면을 다뤄보는 연속보도, 오늘(31일)은 AI가 만들어내는 딥페이크와 가짜 뉴스 문제 짚어보겠습니다. 인공지능으로 단 몇 분 만에 사람들이 실제로 한 적도 없는 말과 행동을 만들 수 있게 되면서 이게 정치적으로 악용되는 경우도 잇따르고 있습니다.

정성진 기자가 올해 4월 총선을 치른 인도는 어땠는지 살펴봤습니다.

<기자>

지난 4월 총선을 앞두고 주요 정당들로부터 수백 건의 딥페이크 제작 의뢰를 받았다는 업체는 인도 수도 뉴델리에서 350km 떨어진 시골 마을 아지메르에 있었습니다.

[디비엔드라 자돈/인도 딥페이크 제작업체 대표 : 이제는 단 500만 루피(8,000만 원)로 50만 명에게 개인화된 비디오 메시지를 보낼 수 있습니다. 개인화가 핵심입니다. 정치에서 개인화, 유권자 홍보는 가장 중요한 것 중 하나입니다.]

공식 언어만 22개, 비공식 언어는 수천 개에 달하는 인도에서 정치인들이 유권자 개개인의 이름을 부르며 접근하는 딥페이크 영상만큼 효과적인 선거운동 수단은 없었습니다.

유권자 9억 7천만 명, 투표 기간만 44일, 올해 상반기 치러진 인도 하원 선거를 상징하는 이런 숫자들과 함께 다른 특징 중 하나는 바로 AI입니다.

인도 정당들은 선거 관련 AI 콘텐츠를 제작하는 데 5천만 달러, 우리 돈 700억 원을 사용했습니다.

딥페이크가 거대한 정치 비즈니스로 확실히 자리 잡은 겁니다.

필수 선거 도구가 됐지만, 올바르게만 쓰일 리도 없었습니다.

[디비엔드라 자돈/인도 딥페이크 제작업체 대표 : (제작 의뢰 중) 50%는 명백히 비윤리적인 요청이었습니다. 포르노 영상이든, 종교적 정서를 해치거나, 그가 발언한 적 없는 말을 하게 만드는 영상 같은 것입니다.]

인도인 넷 중 하나는 딥페이크로 만든 가짜 뉴스를 접한 것으로 조사됐고,

[아룬/인도 마하라슈트라주 : 최근 만들어지는 딥페이크 영상과 진짜 영상 사이에는 별 차이가 없는 것 같습니다. 선거 때 가짜 영상이 퍼지면 투표자들의 판단에 영향을 줄 수밖에 없습니다.]

딥페이크 제작 혐의로 제1 야당 인사가 체포되는 등 극심한 정치적 혼란을 불렀습니다.

[팜포시 레이나/인도 딥페이크 분석 단체 대표 : 사람들은 선거를 위해서든 아니든 기술을 자신에게 유리하게 사용할 것입니다. 인도에 딥페이크와 관련된 법은 없지만 무엇을 해야 하고, 어떻게 할 수 있을지에 대한 논의는 분명히 증가하고 있습니다.]

딥페이크가 본격 개입한 첫 선거로 기록된 인도 총선은 빠르고 정교하게 발전하는 딥페이크 기술을 민주주의 과정은 제대로 통제할 수 있을지에 대한 의문도 분명히 남겼습니다.

(영상취재 : 이찬수, 영상편집 : 오영택, 디자인 : 장예은, 화면출처 : 인터디멘셔널 TV)

※본 보도는 한국언론진흥재단의 정부광고 수수료를 지원받아 제작되었습니다.