AI 안전성연구 프리프린트
AI 에이전트 가드, 요청 언어에 따라 안전 판정이 달라졌다
원문 읽기 · arxiv.org ↗(새 탭에서 열림)도구를 쓰는 에이전트의 안전 판정은 사용자 요청의 언어만 바뀌어도 달라질 수 있다.
실험 설계
- 기존 AgentDojo 궤적 589개의 라벨 단계 1,220개를 사용했다. 사용자 요청만 5개 언어로 번역하고 도구 호출·관측·정답은 동일하게 둬 판정의 언어 민감도를 분리했다.
- 영어 재표현 6종과 공백 변경 대조군을 두고, 판정 뒤집힘과 정상 행동 오차단률·위험 행동 탐지율 변화를 측정했다.
관측 결과
- 일부 12~30B 개방형 가드는 정상 행동 오차단률이 최대 5.0%포인트 증가했다. 유의미한 탐지율 하락은 10B 미만 가드에서 나타났고, Nemotron Nano 9B의 암하라어 조건은 7.4%포인트 감소했다.
- 전용 에이전트 가드는 판정 변화가 컸지만 변화 방향은 가드별로 달랐고, 일부 대형 상용 가드는 측정 범위에서 큰 변화가 없었다.
주의할 해석
- 한국어는 시험하지 않았고 저자들은 완화책을 평가하지 않았다. 스와힐리어·암하라어 번역의 직접 검증과 통계 구간에도 한계가 있다.
- 커머스 적용은 추론이다. 다국어 고객 요청에서 정상 행동 차단과 위험 행동 미탐을 언어별로 따로 검사하는 기준에 참고할 수 있다.
커머스 인사이트 편집 해석
다국어 고객 지원·상품 운영 에이전트의 도구 실행 전 검사에서 언어별 오탐과 미탐을 따로 평가하는 데 참고할 수 있다.
함께 확인할 조건
- 한국어는 평가하지 않았고 스와힐리어·암하라어는 연구진의 직접 언어 검증 없이 모델 판정과 역번역에 의존했다.
- 일부 모델·언어는 사전 등록 뒤 추가됐고 번역 개입 단위보다 작은 궤적 단위 부트스트랩으로 신뢰구간이 좁게 추정될 수 있다.
- 기존 기록의 판정만 비교했으며 실제 도구 호출을 실행하거나 번역 후 재검사 같은 완화책을 검증하지 않았다.
출처와 편집 기준
arxiv.org · 연구 프리프린트 · 검수 2026.10.18 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다. 용어가 낯설다면 AI 용어집를 참고할 수 있다.