▲ 앤트로픽
인공지능(AI) 안전성을 강조해온 앤트로픽이 경쟁력 유지와 연방 정부 차원의 AI 규제 부재 등을 이유로 과거 약속한 안전 정책에서 후퇴했습니다.
앤트로픽은 현지시간 24일 홈페이지를 통해 '책임 있는 확장 정책(RSP) 3.0 버전'을 완화한다고 밝혔습니다.
앤트로픽은 "두 가지 완화 조치들을 제시한다"며 "첫째 다른 기업이 하는 것과 상관없이 우리가 추구할 완화들, 둘째 AI 산업 전반에 걸쳐 실현된다면 첨단 AI로부터 비롯될 위험을 적절히 관리하는 데 도움이 될 야심 찬 '역량 대 완화 절차'"라고 설명했습니다.
2023년 9월 내놓은 'RSP' 버전에서는 자사의 AI 모델이 위험할 수 있다고 분류되면 개발을 지연하겠다고 밝혔지만, 경쟁사에 비해 충분한 기술적 우위가 없다고 판단되면 더 이상 개발을 지연하지 않겠다고 수정한 것입니다.
월스트리트저널(WSJ)은 이런 변화가 2년 반 전 신모델 개발·테스트에 대한 안전 가이드라인을 공개하며 AI 업계에서 가장 안전 중심적인 기업 중 하나로 자리매김했던 것과 비교하면 극적인 방향 전환이라고 짚었습니다.
엔트로픽은 "지난 3년간 AI 능력이 빠른 속도로 발전했음에도 AI 안전에 관한 정부 행동은 느리게 움직였다"며 "정책 환경이 AI 경쟁력과 경제 성장 우선으로 이동했고, 안전 중심 논의는 연방 차원에서 아직 의미 있는 진전을 이루지 못했다"고 지적했습니다.
AI 발전 속도와 연방 정부의 AI 규제 부재 환경을 반영해 안전 정책을 바꿨다는 취지입니다.
앤트로픽 대변인은 기업들이 자체 판단에 따라 안전 조치를 결정해야 하는 불균형한 정책 환경에서 많은 경쟁사와 경쟁하기 위한 것이라고 말했다고 WSJ은 전했습니다.
그러나 앤트로픽 대변인은 이번 변경이 미 국방부 협상과는 무관하다고도 덧붙였습니다.
앤트로픽은 미 국방부와 AI의 군사적 활용 범위를 놓고 대립하고 있습니다.
미 국방부는 앤트로픽의 AI 모델을 '합법적인 모든 용도'에 제한 없이 사용해야 한다는 입장이지만, 앤트로픽은 자국민 대상 대규모 감시나 완전 자율무기에는 자사 모델을 사용해선 안 된다고 맞서고 있습니다.
이에 피트 헤그세스 미 국방부 장관은 앤트로픽에 국방부 요구를 따르지 않으면 계약 취소와 같은 강제 조치에 직면할 것이라고 최후통첩을 보낸 상태입니다.
(사진=연합뉴스)
댓글