[멋진 신세계, AI]④ "내 목소리 뺏겼다"…딥페이크 이어 딥보이스까지

AI를 활용한 목소리 합성, 이른바 딥보이스도 국제적인 문제로 거론되고 있습니다.

이미지 딥페이크보다 제작 방법이 쉽고 결과도 어색하지 않아 사람들을 속이기 쉽다는 점 때문입니다.

폴 스카이 르먼, 리네아 세이지 두 성우는 얼마 전 자신들의 목소리가 유튜브와 팟캐스트에서 나오는 것을 들었습니다.

[분쟁 지역에서 사용되는 군사 장비를 설명하는 (유튜브) 채널이었고, 제 목소리가 장비에 대해 말하고 있었습니다. 이때가 제가 동의 없이 공개된 복제 목소리를 처음 듣게 된 순간입니다.]
 
두 성우는 한 AI 음성 기술 회사를 고소했습니다.

이 회사가 여러 사람의 목소리를 녹음해 AI로 음성 버전들을 만들고, 이를 고객들에게 판매했다는 겁니다.

[의심의 여지 없이, 혼란도 없이 그들은 '우리는 당신의 오디오를 가져갔고 복제했습니다.'라고 말했습니다. 이것이 우리가 책임을 요구하는 이유입니다.]

AI 음성 기술 회사가 제공하는 샘플 목소리를 두 성우의 목소리와 비교해보면 어떨까.

[행사 영상 속 음성 : 당신의 아이가 읽는 데 어려움이 있나요? 수학이 그들에게 고통스럽습니까?]

[성우 음성 : 당신의 아이가 읽는 데 어려움이 있나요? 수학이 그들에게 고통스럽습니까?]

[광고 홍보 음성 : 오디오 광고는 성장하는 청중에게 귀하의 브랜드 메시지를 효과적으로 전달하여 비즈니스를 변화시킬 수 있습니다.]

[성우 음성 : 오디오 광고는 성장하는 청중에게 귀하의 브랜드 메시지를 효과적으로 전달하여 비즈니스를 변화시킬 수 있습니다. 어떤가요?]

르먼은 지난 2020년 한 플랫폼에서 목소리 녹음을 요청받고 대본을 읽어줬습니다.

세이지 역시 음성 샘플 요구에 응했습니다.

[저는 '제 오디오가 재사용되거나 제 말의 순서가 바뀔지' 물었습니다. 그들은 '아니요, 연구 목적으로만 사용할 것'이라고 답했고요. 제가 '연구 프로젝트가 뭐냐'고 물었지만, 그들은 기밀 사항이라 말할 수 없다고 말했습니다. 다만, 설명한 목적 이외의 용도로는 사용하지 않을 것을 보장한다고 설명했습니다.]

성우는 목소리로 생계를 유지하기 때문에 당장 경제적인 문제도 생기지  만, 

[우리 목소리의 복제본이  시장에 나와 있다는 것은 우리의 경력에 치명적이기 때문입니다. 이미 발생한 재정적 손해는 물론, 앞으로 계속 발생할 손해도 엄청납니다.]

이 사건이 결코 자신들만의 문  제라고 보지 않습니다.      

[사람들은 자녀라고 보이  는 사람으로부터 갈취를 당하는 전화통화를 받고 있으며, 정치인들은 물론 가짜 이미지와 오디오, 비디오가 생성되고 있습니다. 매우 우려스러운 일입니다. 이것은 다른 성우들에게만 경고하는 것이 아니라 모든 사람에게 경고입니다.]

[스티브 코헨/변호사 : 목소리, 녹음 내용은 자신만의 것입니다. 그래서 저작권과 계약 위반이 발생하는 겁니다. 뉴욕에는 '개인의 이미지와 목소리를 통제할 수 있는 권리'라는 것이 있습니다. (AI 음성 기술 업체가) 이를 존중하지 않고 이들의 목소리를 허가없이 사용했습니다.]

이들은 AI 음성 기술 회사가 훔친 목소리로 거짓 마케팅을 하고 있다고 주장합니다.

직업적, 개인적 영향뿐 아니라 인간성에 대한 침해까지 받았다고 말합니다.

소송을 진행하며 느낀 소회를 이렇게 전했습니다.

[우리의 의사소통 방식, 즉 우리를 독특하게 만드는 구술 지문에 대해 이야기하고 있습니다. 이는 사랑하는 이에게 위안을 줄 수 있는 목소리이며, 누군가에게 그들이 얼마나 중요한지를 알리기 위해 선택하는 말입니다. 그러나 그것은 더 이상 완전히 우리 것이 아닙니다.  우리는 이제 우리의 목소리가 무엇을 말하는지, 어디에서 사용되는지, 그리고 어떻게 사용되는지에 대한 통제권이 없습니다.]  
 
※ 본 보도는 한국언론진흥재단의 정부광고 수수료를 지원받아 제작되었습니다.

(  취재 : 엄민재 , 영상취재 : 황인석, 영상편집 : 원형희, 제작 : 디지털뉴스편집부  )