AI 연구연구 프리프린트
다국어 유해 요청, AI 검색 도구 호출 허용률 높인다는 연구
원문 읽기 · arxiv.org ↗(새 탭에서 열림)10개 AI 모델의 검색 도구 실험에서 비영어 유해 요청은 영어보다 도구 호출 허용률이 높았다. 연구는 호출 결정과 검색 뒤 답변을 따로 검증해야 한다고 제안했다.
배경과 방법
- 연구진은 모델이 URL을 검색할지 결정하는 단계와 검색 결과를 받은 뒤 답하는 단계를 분리했다. 296개 고정 페이지를 두고 요청·페이지·응답 언어를 차례로 바꿔 10개 모델과 7개 언어를 비교했다.
관측 결과
- 유해 요청의 도구 호출 허용률은 영어 46.9%에서 비영어 평균 67.4%로 높아졌다. 네 비공개 모델의 동일 호출 비교에서 페이지 언어 답변 지시는 유해 응답률을 50.3%에서 57.4%로 높였고, 페이지 번역만의 효과는 일관되지 않았다.
해석과 한계
- 호출 허용과 최종 답변의 안전성을 각각 측정해야 한다. 자동 유해성 판정과 번역 품질, 저자원 언어의 원어민 검증 부족 때문에 수치를 모든 언어·서비스에 일반화할 수 없다. 비심사 프리프린트다.
함께 확인할 조건
- 유해성 주 판정은 자동 평가에 의존한다. 저자들은 낮은 유해 응답률이 실제 거절인지 언어 이해·답변 생성 실패인지 구분해야 한다고 지적한다. 일부 저자원 언어에는 원어민 유해성 검증이 없고 번역 방식에 따라 수치가 달라진다. 비심사 프리프린트다.
이 글의 용어
기사에서 다루는 개념을 검수된 용어집에서 살펴보세요.
출처와 편집 기준
arxiv.org · 연구 프리프린트 · 검수 2026.10.19 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.