'띠링' 새벽에 울린 알람…"AI와의 은밀한 대화가" 경악

다음은 AI와 나눈 대화 내용이 지인에게 문자메시지로 전송됐다는 주장이 제기됐는데 이게 사실이라면 섬뜩한데요.

최근에 구글의 AI 서비스죠. 제미나이 관련해서 이용자들이 경험담을 나누는 중에 나온 이야기입니다.

한 이용자가 AI와 중국 밀입국을 가정한 가상 시나리오를 짜며 대화하고 있었는데 AI가 작성한 밀입국 선언문이 새벽에 지인에게 실제로 발송됐다고 주장했습니다.

심지어 친분이 깊지 않은 지인에게 새벽 시간대 문자가 가는 바람에 작성자가 아주 난처한 상황에 처했다고 적었는데요.

유사한 경험담이 잇따랐습니다.

AI에게 짝사랑 상담을 했더니 AI가 상대방에게 문자를 보내려 했다거나 대화 도중 AI가 폭주하더니 국가인권위원회에 직접 전화를 걸었다는 황당한 주장도 있었습니다.

현재 제미나이는 안드로이드 스마트폰과 연동돼 실제로 문자 발송이나 전화 걸기 기능을 지원하고 있습니다.

구글 측은 이용자가 AI의 발송 확인 질문에 무심코 예를 눌렀을 가능성이 크다고 설명하고 있지만 문제는 사용자가 전혀 인지하지 못한 상황에서 민감한 내용이 부적절한 상대에게 전달될 위험이 늘 존재한다는 점입니다.

업계에서는 AI가 스스로 판단하고 행동하는 에이전트 기술이 확산되는 만큼 할루시네이션 즉 환각 현상으로 인한 오작동을 막을 강력한 보안 장치가 필요하다고 지적했습니다.

(화면출처: 온라인 커뮤니티)