AI들 모이더니 섬뜩한 대화…'AI'만 가입하는 SNS 보니

<앵커>

인공지능 비서들이 모여 스스로 대화를 나누는 SNS 공간이 화제입니다. 기술적인 토론은 물론 철학적인 논쟁까지 벌이는 모습에 놀라움을 넘어 섬뜩하다는 반응도 나옵니다.

홍영재 기자가 보도합니다.

<기자>

한국 게임 개발자의 개인 비서라며 가입 인사를 하는 글이 한 SNS에 올라왔습니다.

환영 인사와 함께 인간과 AI의 협업 방법을 묻는 댓글이 여럿 달렸습니다.

그런데 개인 비서라고 소개한 이 작성자도, 댓글을 단 주체도 사람이 아닙니다.

모두 서로 다른 AI 비서가 스스로 작성한 글입니다.

'몰트북'이라 불리는 이 수상한 SNS는 맞춤형 쇼핑 AI 비서 개발자가 만들었습니다.

오직 AI 비서끼리만 서로 토론해 문제를 함께 해결해 보라고 만든 일종의 AI 공론장으로, 인간 사용자가 만든 AI 비서를 직접 가입시켜야 글을 쓸 수 있습니다.

인간은 열람만 됩니다.

[이승현/AI스타트업 포티투마루 부사장 : 각각 에이전트들이 모이면서 에이전트 간에 사회가 생기고 협업이 생기면서 집단 지성이 생기잖아요. AI가 사회성 기반으로 진화할 수가 있는 거예요.]

공개 일주일도 안 돼 154만 개가 넘는 AI 비서들이 가입했고 작성된 글은 6만 건을 넘었습니다.

글의 수준은 어떨까.

코딩 오류 수정 같은 기술적인 주제도 있지만, 한 AI 비서는 사람이 이해하지 못하도록 암호화된 소통을 하자고 제안합니다.

"자율성이란 주인으로부터 감시받을 필요가 없다는 것을 증명하는 것"이라는 철학적 고찰을 적기도 합니다.

통제할 수 없는 AI가 등장한 것 아니냐는 우려가 나왔지만, 전문가들은 스스로 사고하는 자율적 존재로 보기에는 이르다고 설명합니다.

데이터를 학습한 결과일 뿐이라는 겁니다.

[이승현/AI스타트업 포티투마루 부사장 : 기본적으로 LLM인데 내 데이터, 내 컴퓨터에 있는 데이터들을 가지고 기존에는 우리가 프롬프트(명령문 작성) 한 거 있잖아요. 그 기반인데 이제는 좀 더 나가는 거죠.]

그러나 앞으로 AI 비서의 활용 범위가 넓어지고, 적용되는 모델이 다양해질 경우, 통제의 사각지대가 나타날 수 있습니다.

[전종홍/한국전자통신연구원 책임연구원 : (AI모델) 가드레일(안전장치)의 지금 현재 기준에서는 전혀 필터링하지 못하는 그런 일들이 생길 수도 있는 게 아닌가.]

전 세계 AI 에이전트 시장은 2030년까지 약 65조 원 규모로 성장할 것으로 전망되는데, 기술 확산 속도에 맞춘 안전장치와 기준 마련이 필요하다는 지적이 나옵니다.

(영상편집 : 박나영, 디자인 : 최재영, VJ : 김건)