[데이비드 치우: 만약 당신이 이러한 활동에 관여하고 있는 웹사이트 운영자라 면 우리는 당신을 추적할 것입니다. 전 세계의 여성과 소녀들 을 착취하는 일을 당장 멈춰야 합니다.]
[브리즈 리우: 경찰이 제게 매춘을 한 적이 있느냐고 물었어요. 딥페이크 제 작자가 저의 일부를 죽이고, 경찰이 다시 저를 죽인 셈이죠.]
미국 샌프란시스코에 거주하는 브리즈 리우 씨는 대학생이던 4년 전, 자신도 모르는 사이 딥페이크 포르노 동영상의 희생자가 됐다는 걸 알았습니다.
[브리즈 리우: 2020년 4월에 코로나19 팬데믹이 한창일 때 집에 앉아 있었어요. 갑자기 대학 시절 친구로부터 페이스북 메시지 한 통을 받았어요. 그는 모든 것을 내려놓고 저와 전화 통화를 해야 한다고 말했습니다. 그래서 전화를 했더니 친구는 당신을 화나게 하고 싶지 않지만 포르노허브에 당신의 동영상이 유포되고 있다고 말했어요. 처음엔 농담일 거라고 생각했어요.]
경찰에 신고했지만 돌아온 것은 더 큰 상처였습니다.
[브리즈 리우: 경찰이 제게 매춘을 한 적이 있느냐고 물었어요. 딥페이크 제작자가 저의 일부를 죽이고, 경찰이 다시 저를 죽인 셈이죠. 경찰은 결국 기소를 하지 않고 사건을 종결했고, 정의를 찾기 위한 저의 행동은 저에게 평화를 가져다주기는커녕 오히려 가해자가 저에 대한 딥페이크 포르노를 더 만들도록 자극하는 계기가 되었습니다. 처음에는 한 개의 동영상으로 시작한 것이 결국 800개가 넘는 딥페이크 포르노를 만들어 인터넷에 퍼뜨렸어요.]
딥페이크 영상을 게시한 사이트 중 일부가 마이크로소프트의 서버를 이용한다는 걸 알고 삭제 요청을 했지만 이 역시 거절당했습니다.
[브리즈 리우: 그들이 저인지 확신할 수 없다고 말할 때도 있고, 저는 그게 말이 안 된다는 걸 잘 알고 있어요. 저도 신뢰와 안전(Trust and Safety) 분야에서 일해봤기 때문에, 그런 변명은 저한테 통하지 않죠. 종종 그들은 기술이 없다고 말하기도 합니다.]
큰 기술 회사들이 기술이 없다고 말할 때, 그게 얼마나 어처구니없는지 알죠. 그 정도의 기술력이 있는 대형 기업들이 "우리는 그걸 할 기술이 없다"고 말하는 건, 정말 이해가 안 되는 부분입니다.
2년 뒤 스타트업을 창업한 그녀는 딥페이크를 찾아내 플랫폼에 삭제 요청을 하는 서비스를 개발하고 있습니다.
[브리즈 리우: Alecto AI는 얼굴 인식을 사용하여 딥페이크와 같은 합성 이미지나 가짜 프로필 또는 리벤지 포르노와 같은 진짜 이미지를 포함한 모든 종류의 온라인 이미지 남용을 신속하게 식별하고 제거합니다.]
그녀는 지난해 조 바이든 대통령이 AI를 규제하는 행정명령에 서명하는 자리에 초대되기도 했습니다.
[브리즈 리우: 제가 정말 뚜렷하게 기억하는 순간은, 바이든 대통령이 제 눈을 바라보며 "이 행정부가 당신을 지지할 겁니다"라고 말했을 때였습니다. 그 순간은 정말 큰 힘이 되었습니다. 더 중요한 것은 이 문제는 모두가 함께 나서야 한다는 것입니다. 남성과 여성이 함께 협력해야 합니다. 이 문제는 단순히 여성의 문제가 아니니까요. 남성들 역시 성적 착취와 공갈 피해자가 되기 싫어할 것이며, 누구도 자신의 딸, 자매, 어머니가 학대당하는 것을 원치 않을 것입니다.]
미국 정부 기관도 딥페이크 대응에 나섰습니다.
샌프란시스코 시는 지난 8월 16개의 딥페이크 사이트를 상대로 소송을 제기했습니다.
SBS는 샌프란시스코 시 변호사를 만나 소송 이유 등을 물었습니다.
Q. 소송에 대해 설명해준다면?
[올해 초, AI 기술을 이용해 여성과 소녀들을 착취하는 수십 개의 웹사이트가 있다는 사실이 제게 보고되었습니다. 이는 미국뿐 아니라 전 세계적으로 일어나고 있는 문제입니다. 이러한 웹사이트들은 여성과 소녀들의 얼굴 사진을 사용하여 즉시 포르노나, 많은 경우 아동 포르노로 변환하고 있습니다. 그래서 저희는 세계 최초의 소송을 제기하기로 결정했습니다. AI 생성 딥페이크 포르노에 관여하는 세계에서 가장 많이 방문되는 16개 웹사이트를 상대로 정부 기관이 제기한 첫 소송입니다.]
Q. 소송은 어떻게 시작됐나?
[조사가 시작된 시점부터 실제로 소송을 제기하기까지는 6개월이 채 되지 않았습니다. 이 문제는 저희 사무실에서 일하는 몇몇 어머니들, 특히 선임 변호사이자 10대 딸들을 둔 어머니들에 의해 처음 제기되었습니다. 그들은 자신들이 알아낸 사실에 너무 충격을 받아, 조사 자원을 투입해 이 문제를 조사해도 되는지 물었습니다. 조사를 시작한 후, 그들은 큰 충격을 받았고, 저 또한 조사 결과에 경악했습니다. (정부 기관이 나선 이유는?) 미국 전역뿐만 아니라 한국과 다른 여러 국가에서도 피해가 발생하고 있습니다. 이 문제는 매우 심각한 문제입니다. 소송을 제기한 이유 중 하나는 피해자들이 거의 아무런 대응 수단을 갖지 못하고 있다는 사실을 발견했기 때문입니다. 피해자들이 누드 이미지를 생성한 원래 웹사이트를 찾아내는 것이 매우 어렵기 때문에 문제 해결이 힘든 상황입니다. 이미지가 한 번 인터넷에 퍼지면 그것을 되돌리는 것은 불가능하고, 이런 이미지는 여성과 소녀들을 괴롭히고, 모욕하고, 협박하는 데 사용되고 있습니다.]
Q. 소송을 제기한 딥페이크 사이트들은 어떤 곳인가?
[이 회사들은 AI 기술을 사용하여 여성과 소녀의 얼굴 사진을 찍어 포르노나 아동 포르노로 즉시 전환합니다. 너무 쉽게 이러한 웹사이트를 방문하여 사진을 업로드하면 즉시 포르노로 전환할 수 있습니다. 이러한 웹사이트는 이러한 전환에 대해 요금을 부과하고 서비스 이용료를 청구하여 수익을 얻고 있습니다. 이에 연루된 사람들의 수는 엄청나게 많습니다. 올해 첫 6개월 동안 2024년에 2억 명 이상의 방문자가 이 16개 웹사이트를 방문했습니다. 이와 같은 웹사이트가 적어도 90개가 넘는 것으로 추정됩니다.]
Q. 딥페이크 사이트들이 그동안 왜 제재받지 않았나?
[좋은 질문입니다. 저도 모르겠습니다. 저희도 처음 이 문제를 알게 되었을 때, "왜 아무도 이 회사들을 상대로 조치를 취하지 않는가?"라는 질문을 던졌습니다. 그리고 아무도 이 문제에 대응하지 않고 있다는 것을 깨달았죠. 그래서 저희가 이끌어야 한다고 생각했습니다. 이번 소송을 제기한 목표는 몇 가지 있습니다. 첫째, 이 웹사이트들을 폐쇄시키고, 사업을 중단시키는 것이 최우선 목표입니다. 둘째, 전 세계에 경각심을 불러일으켜 모두가 함께 이 문제에 대응해야 한다는 점을 알리고자 합니다. 이 산업을 뿌리 뽑기 위해서는 여러 국가에서 많은 이해 관계자들이 협력해야 하며, 지금 당장 시작해야 한다고 생각합니다.]
Q. 소송을 제기한 이후 웹사이트들이 스스로 삭제하거나 폐쇄했나?
[아직 응답을 받지 못했지만, 어떻게 전개될지 지켜볼 것입니다. 웹사이트들이 실제로 자신들을 변호할지는 아직 확실하지 않습니다. 인공지능 업계의 리더들을 포함한 모든 사람들이 이 상황이 용납될 수 없다는 것을 인정하고 있기 때문입니다. 이 기술은 이렇게 사용되어서는 안 되고, 피해자들이 이 방식으로 더 이상 피해를 입어서는 안 된다는 점에 대해 공감하고 있습니다. 그래서 인터넷의 가장 어두운 구석에서 누군가가 이를 변호하려고 나설지 지켜보겠습니다. 미국이 아닌 해외에 서버를 운영하는 사이트들도 있는데 미국 법에는 롱 암 법(long arm statutes)이라는 규정이 있어서 소송의 범위를 다른 국가로 확장할 수 있습니다. 이번 소송이 저희가 그 능력을 제대로 활용할 수 있는지 시험할 기회가 될 것입니다. 또한 국제 당국과의 대화를 시작하는 것도 기대하고 있습니다. 왜냐하면 일부 악의적인 행위자들이 해외로 도피하여 감시와 투명성을 피하고, 자신들이 저지른 일에 대해 책임을 회피하려 하고 있기 때문입니다.]
Q. 웹사이트 운영자들에게 하고 싶은 말은?
[만약 당신이 이런 불법적인 활동에 관여하고 있는 웹사이트 운영자라면, 저희는 당신을 상대로 조치를 취할 것입니다. 당신은 전 세계적으로 여성과 소녀들을 착취하는 행위를 중단해야 합니다. 또한, 당신의 웹사이트 운영을 중단하고, 문제를 바로잡으며, 이 악의적인 산업을 근절하기 위해 저희와 협력해야 합니다.]
※본 보도는 한국언론진흥재단의 정부광고 수수료를 지원받아 제작되었습니다.
(취재 : 홍영재, 영상취재 : 하륭, 영상편집 : 윤태호, CG : 최재영, 제작 : 디지털뉴스편집부)
동영상 기사
동영상 기사
동영상 기사
동영상 기사