"페이스북이 손 놓자 국가 비상사태까지…메타의 이번 결정은 재앙" [스프]

* 새라 차타는 뉴욕타임스 오피니언의 보조 편집자다.
메타의 최고경영자 마크 저커버그가 지난주 가짜 뉴스와 혐오 발언에 대한 정책을 바꾸겠다고 전격적으로 발표했다. 저커버그는 자사의 팩트체크 기능이 "정치적으로 너무 치우쳐 있고, 신뢰를 끌어내기보다는 오히려 파괴해 왔다"고 밝혔다. 이에 따라 메타는 앞으로 삭제하는 게시물의 수를 줄이고, 대신 '커뮤니티 노트(Community Notes)'를 도입할 예정이다. 그 과정에서 이민 등의 주제에 대한 콘텐츠 제한을 대폭 축소하여, 과거 메타에 대한 신뢰를 떨어뜨린 것과 같은 종류의 위기를 다시금 초래하게 됐다.

메타의 플랫폼에서 일어나고 있는 일은 일개 기업의 정책 문제가 아니다. 소셜미디어상에 범람하는 가짜 정보와 그 가짜 정보를 너무 쉽게 퍼 나를 수 있는 환경은 미국은 물론 세계 각지에서 분열과 폭력을 조장하는 데 일조했다. 미얀마에서 인종 청소를 조장하는 게시물을 부추기는 메타의 알고리즘이 얼마나 효과적이었던지 국제앰네스티는 메타가 로힝야족에게 배상금을 지급해야 한다고 촉구했다. (메타는 미얀마에서 자신들이 "페이스북상의 잘못된 정보와 혐오를 막기에는 너무 느리게 움직였다"며 결국 해당 게시물을 선제적으로 가려내고 삭제하는 조치를 취했다.)

나는 2018년 스리랑카에서 기자로 일하던 때 팩트체크의 중요성에 대해 처음으로 깨달았다. 당시 메타의 플랫폼과 연관된 폭력 사태가 나라 전체를 흔들어 놓는 사건이 일어났기 때문이었다.

그때쯤에는 페이스북이 이미 힌두교와 무슬림 소수자 집단을 겨냥한 사용자 콘텐츠에 대한 민원을 차단하고 있었다. 그리고 무슬림이 다수파인 불교도 집단을 해치려 한다고 주장하는 게시물들이 페이스북상에서 아무런 제지 없이 퍼져나가는 중이었다. 그중에는 한 무슬림 남성이 상황 파악을 잘하지 못한 상태에서 불교도를 쓸어버린다는 내용의, 존재하지도 않는 음모의 일원이라는 사실을 인정하는 듯한 내용의 영상도 포함되어 있었다. 해당 영상에서는 폭도들이 이 남성을 폭행하고 그가 운영 중인 식당을 완전히 망가뜨린 후 근처 모스크에 불을 지른다. 비슷한 장면의 사건이 스리랑카 곳곳에서 일어났다. 무슬림 주민들이 소유한 집과 상점 수십 채가 방화로 불에 탔고, 최소 3명이 사망하고 20여 명이 다쳤다.

페이스북이 아무런 조처를 하지 않자 스리랑카 정부가 나서 국가 비상사태를 선포하고 페이스북과 왓츠앱, 인스타그램에 대한 접속을 차단하기에 이른다. 당시 스리랑카의 통신부 장관은 "몇 시간 안에 온 나라가 불길에 휩싸일 수도 있었다"고 말했다.

(남은 이야기는 스프에서)