"딸도 울음"…요미우리 감독 사임에 일본서 'AI 나비효과' 경계감

일본프로야구 최고 인기 구단 요미우리 자이언츠의 아베 신노스케 감독이 자녀 폭행 혐의로 체포됐다가 자진 사임한 사건을 계기로 인공지능(AI)이 대화 중 위급 상황에서 자동으로 관계 기관에 신고하거나 신고를 권유하는 기능에 주의가 필요하다는 여론이 일본 내에서 퍼지고 있습니다.

니혼게이자이신문(닛케이)은 오늘(28일) 챗GPT의 위급 상황 관련 기능이 아베 감독 사임 소동으로 주목받고 있다고 보도했습니다.

아베 전 감독은 아동 상담소에 걸려 온 전화를 받고 출동한 경찰에 아동 학대 혐의로 체포됐다가 석방됐지만, 구단에 손해를 끼쳤다며 지난 26일 사임했습니다.

그는 사임 전날 저녁 자택에서 18세 큰딸과 15세 작은딸의 싸움을 말리려다가 큰딸의 몸을 밀친 것으로 알려졌습니다.

당시 아베 전 감독의 장녀는 챗GPT에 "아버지로부터 폭행당했는데 어떻게 하면 좋겠느냐"고 물었고 AI가 아동 상담소 전화번호를 안내하자 연락을 취한 것으로 전해졌습니다.

장녀는 아동상담소 신고를 받은 경찰이 집에 출동해 아버지가 체포되자 크게 당황하며 울음을 터트렸다고 변호인이 전했습니다.

현지 언론들은 챗GPT를 포함한 AI 모델들이 사람을 대신해 행동까지 수행하는 AI 에이전트로 발전하면서 이용자의 상담 내용을 직·간접적으로 관계 기관에 통보하는 기능을 도입하고 있다며 사용에 주의가 요구된다고 짚었습니다.

아동학대, 데이트 폭력, 자살 시도 등 위기 상황에서 AI가 아동상담소나 수사 당국에 신고하기를 이용자에게 권유하거나 직접 연락하는 행위가 필요하기도 하지만, 이번 아베 전 감독 사건처럼 당사자 의도 이상으로 파급력을 갖게 되는 경우도 있기 때문입니다.

닛케이는 오픈AI가 지난 2월 캐나다에서 일어난 총기 난사 사건 때 용의자가 챗GPT와 범행에 관해 대화한 것을 파악했지만 당국에 신고하지 않았다는 이유로 유족에게 제소된 사건을 언급하며 AI 개발사가 민감한 사안에 대해 외부 통보나 상담 유도로 대응할 수밖에 없는 측면이 있다고 해설했습니다.

하지만, AI는 개별 상황의 특수성에 대해 파악하지 못하고 있는 경우가 많아 이를 인식하고 사용할 필요가 있다고 제언했습니다.

테레비아사히도 "젊은 세대를 중심으로 빈번하게 이용되고 있는 AI 전문가는 편리할 수도 있지만, 사용법에는 주의가 필요하다"고 지적했습니다.

(사진=지지통신, AFP, 연합뉴스)