민감 대화까지 무단 학습한 AI 이루다…법원, 4년 만에 배상 판결

인공지능(AI) 챗봇 '이루다' 개발 과정에 개인정보가 무단으로 이용당한 이들에게 개발사 측이 10만∼40만 원을 배상해야 한다는 판결이 4년여 만에 나왔습니다.

AI 개발 과정에 각종 데이터가 무분별하게 수집돼 사용되고 있다는 비판이 국내외에 제기되는 상황에서, 당사자 동의 없는 개인정보 학습 사례에 대해 하급심 법원이 처음으로 판단을 내린 것입니다.

어제(15일) 법조계에 따르면 서울동부지법 민사합의15부(조용래 부장판사)는 '이루다 개인정보 유출 사건' 피해자 246명이 제작사 '스캐터랩'을 상대로 낸 손해배상 청구 소송에서 원고 일부 승소로 판결했습니다.

재판부는 개인정보 유출이 입증된 26명에게 위자료 10만 원, 민감정보가 유출된 23명에게는 30만 원, 개인정보와 민감정보가 모두 유출된 44명에게는 40만 원을 지급하라고 판단했습니다.

이루다는 페이스북 메신저를 통해 친근한 대화를 나누도록 개발됐습니다.

이를 위해 연인 간 대화 93억 건을 수집해 학습시켰는데, 이 대화가 같은 회사가 만든 앱 '연애의 과학'과 '텍스트앳' 등에서 수집된 것으로 밝혀졌습니다.

두 앱은 카카오톡 대화 내용을 올리면 대화 상대방의 심리를 분석해 주는 등의 서비스입니다.

대화 내용 중엔 이름이나 전화번호 같은 개인 정보뿐 아니라 성적 대화 등 민감한 내용도 포함됐다. 이에 이용자들은 2021년 4월 소송을 제기했습니다.

재판부는 스캐터랩이 이용자들에게 충분한 고지 없이 이루다 개발에 이용자 데이터를 활용했다며 개인정보보호법을 위반한 게 맞는다고 판단했습니다.

로그인하며 '신규서비스 개발에 사용될 수 있다'는 개인정보 처리 방침에 동의했어도, 이는 실질적 동의로 볼 수 없다고 강조했습니다.

스캐터랩 측은 데이터를 가명 처리했고, 과학적 연구 목적도 있었다고 항변했지만, 법원은 가명 처리가 식별이 불가능할 정도로 이뤄지지 않았고, 과학적 연구로 보기도 힘들다고 밝혔습니다.

원고를 대리한 법무법인 태림은 "이번 판결은 AI 프로그램의 데이터 수집 방안의 기준을 제시한 것"이라며 "무분별한 데이터 수집에 대한 제한이 될 것"이라고 밝혔습니다.

(사진=스캐터랩 제공, 연합뉴스)