AI 안전공식 발표
Anthropic, Claude 추론 데이터 무단 추출 방어 강화
원문 읽기 · www.anthropic.com ↗(새 탭에서 열림)Anthropic은 무단 증류 시도의 추론 기록 접근을 제한하고 반복 추출을 탐지하는 방어를 설명했다.
배경과 변화
- 새 계정의 이전 맥락 수정 제한과 2단계 분류기, 반복 시도 제한을 적용했다. 일부 적법한 개발자는 연동을 수정해야 한다.
근거와 결과
- 회사 측 관측에서 추론 데이터 추출량이 이전보다 10~100배 감소했고 자체 시험의 오탐률은 0.1% 미만이라고 밝혔다.
적용 조건
- 성과와 공격 분류는 Anthropic 자체 관측이며 독립 재현이 없다. 회사도 정교하고 지속적인 우회 시도의 장기 방어는 확인하지 못했다고 밝혔다.
함께 확인할 조건
- 성과와 공격 분류는 Anthropic 자체 관측이며 독립 재현이 없다. 회사도 정교하고 지속적인 우회 시도의 장기 방어는 확인하지 못했다고 밝혔다.
출처와 편집 기준
www.anthropic.com · 공식 발표 · 검수 2026.10.18 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.