스마트폰 '알몸 이미지합성' AI앱 활개…"1천700억 원 수익"

스마트폰 앱 장터에서 알몸 이미지를 합성해 주는 인공지능(AI) 앱이 버젓이 등록된 것으로 나타났습니다.

비영리 감시단체 '기술투명성프로젝트'(TTP)는 27일(현지시간) 발표한 보고서에서 애플 앱스토어와 구글플레이 스토어에서 이와 같은 앱을 각각 47건과 55건 발견했다고 밝혔습니다.

애플과 구글은 자사 앱 장터에 성적인 콘텐츠나 타인을 비하·객체화하는 앱을 금지하는 정책을 두고 있으나, 이와 같은 여과 기능이 제대로 작동하지 않은 것입니다.

문제가 된 앱들은 전 세계적으로 7억 500만 회 이상 내려받아졌으며, 예상 수익은 1억 1천700만 달러(약 1천700억 원)에 달하는 것으로 분석됐습니다.

애플과 구글은 앱 개발자 수익의 최대 30%를 가져가므로, 양사가 실제 이와 같은 앱을 방치함으로써 직접적인 이익을 얻고 있다고 TTP는 비판했습니다.

이들 앱은 AI 기술을 이용해 사진 속 인물을 나신, 비키니 수영복 차림 등 선정적인 모습으로 변환하거나 다른 성적 이미지에 얼굴을 합성하는 '딥페이크'(AI 조작 영상) 기능을 제공했습니다.

상당수 앱은 오락용으로 이미지 합성 기능을 제공하거나, 다양한 의상을 가상으로 착용할 수 있는 'AI 피팅룸' 앱으로 홍보했습니다.

일부 앱은 외설스럽거나 다른 사람을 불쾌하게 할 수 있는 콘텐츠 생성을 금지한다는 약관을 설정해두고 있으면서도 실제 앱 사용 과정에서는 성적인 이미지의 생성에 별다른 제지를 하지 않은 반면, 다른 앱들은 아예 '옷 찢기'나 '엉덩이 흔들기' 등 선정적인 영상 서식을 제공하기도 했습니다.

TTP는 또 중국 기반 앱들은 사용자 데이터가 중국 내 서버에 저장된다고 밝혀 개인정보 보호와 보안 관련 문제도 야기된다고 지적했습니다.

이와 관련해 애플 대변인은 미 경제방송 CNBC에 "TTP가 지적한 앱 중 28건을 삭제 조치했고 개발자들에게 정책 위반 시 퇴출당할 수 있다고 경고했다"고 답했습니다.

구글 대변인도 보고서에 언급된 앱들을 정책 위반으로 사용 중지시켰다고 밝혔으나 조치 대상 앱 수는 공개하지 않았습니다.

최근 일론 머스크의 AI 기업 xAI의 '그록'(Grok)이 비키니 차림 등 성적 이미지를 합성해 각국 정부에서 조사 대상이 되는 등 논란이 일고 있습니다.