앤트로픽, 중국 AI 기업 3곳의 클로드 무단 증류 정황 폭로

중국 AI 기업의 조직적 데이터 탈취

앤트로픽은 딥시크(DeepSeek), 문샷 AI(Moonshot AI), 미니맥스(MiniMax) 3사가 가짜 계정 24,000개를 동원해 자사 AI 모델인 클로드(Claude)로부터 1,600만 건 이상의 대화 데이터를 무단으로 수집하는 '모델 증류(Model Distillation)' 공격을 가했다고 밝혔다. 모델 증류는 대형 모델의 출력값을 소형 모델이 학습해 성능을 모방하는 기법으로, 경쟁사 모델에 대규모로 적용할 경우 기술 절도에 해당한다.

기업별 공격 규모 및 타겟

• 미니맥스: 약 1,300만 건의 대화를 생성했다. 특히 자사 신모델 출시 전 24시간 동안 트래픽이 집중되었으며, 에이전트 기반 코딩 및 오케스트레이션 기능 추출에 주력했다.
• 문샷 AI: 약 340만 건의 대화를 생성했다. 에이전트 추론, 코딩, 데이터 분석, 컴퓨터 비전 분야를 집중 학습했다.
• 딥시크: 약 15만 건의 대화를 생성했다. 추론 및 보상 모델 강화와 더불어 정책 민감 질문에 대한 검열 회피 대안 개발을 시도했다.

국가 안보 및 보안 위협

앤트로픽은 이번 사태가 단순한 저작권 문제를 넘어 국가 안보와 직결된다고 경고했다. 불법 증류를 통해 만들어진 모델은 원본 모델에 탑재된 생물무기 제조 차단이나 사이버 공격 방지 등 핵심 '안전 가드레일'이 함께 복제되지 않기 때문이다. 이로 인해 통제되지 않는 위험 기능이 군사·감시 시스템에 악용될 가능성이 크다.

반도체 수출 통제와의 상관관계

앤트로픽은 이 정도 규모의 데이터 추출과 학습은 고급 AI 칩 접근 없이는 불가능하다고 주장했다. 이는 최근 미국 정부의 엔비디아 고성능 칩 중국 수출 허용 논란과 맞물려, 칩 수출 제한이 불법적 모델 증류 규모를 억제하는 실질적인 방어 수단이 된다는 논거로 활용되고 있다.

대응 전략

앤트로픽은 비정상 트래픽을 조기에 식별하기 위해 행동 지문 채취 및 패턴 분류기를 고도화하고, 탐지 지표를 정부 당국 및 타 AI 연구소와 공유하는 전략을 취하고 있다. 또한 계정 검증 절차를 강화하고 의심 계정에 대해서는 출력 품질을 저하시키는 조치를 적용하고 있다.