[CBC뉴스] 앤트로픽이 새롭게 도입한 보안 시스템으로 AI 모델 '클로드'에 대한 조직적 해킹과 '증류' 공격으로 인한 데이터 유출을 90∼99% 차단했다고 밝혔다.

앤트로픽은 최근 보안 조치를 통해 클로드의 추론 과정에 대한 접근을 제한하면서 정보 추출 시도가 크게 줄었으며, 추출된 데이터 양도 기존 대비 10분의 1에서 100분의 1 수준으로 감소했다고 발표했다. 또한, 증류 공격에 사용된 수만 개의 악성 계정을 적발해 영구적으로 차단했다고 설명했다. 회사 측은 이 보안 시스템이 클로드가 생화학 무기 제조를 지원하지 못하도록 막는 시스템과 동일한 수준의 강력함을 지녔다고 강조했으며, 정상 이용자를 공격자로 오인해 차단하는 오탐률은 0.1% 미만이라고 덧붙였다.

'증류' 공격은 경쟁사가 프록시 서비스와 다수의 가짜 계정을 활용해 특정 AI에 반복적으로 질문을 던져 모델의 추론 패턴과 능력을 역설계하는 방식이다. 이 과정에서 경쟁사들은 자체 AI 모델 개발에 드는 비용과 시간을 절약할 수 있다.

AI 업계에서는 미·중 경쟁 심화와 함께 증류 공격이 주요 우려로 부상했다. 앤트로픽, 오픈AI, 구글 등은 경쟁사들이 이 방법으로 첨단 AI 기능을 빠르게 복제하고 있다고 지적해 왔다. 앤트로픽은 특히 중국 AI 스타트업 Z.ai(옛 지푸AI)가 GLM-5.3 모델 개발 과정에서 클로드의 기능을 증류하려 했다고 밝히며, 이러한 시도가 안전과 국가 안보에 위협이 된다고 경고했다.

Z.ai는 관련 논평 요청에 응하지 않았다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자