AI 연구연구 프리프린트
RAG 환각 위험 점수, 검색 근거가 부족하면 반대로 작동할 수 있다
원문 읽기 · arxiv.org ↗(새 탭에서 열림)모델이 자신 있게 내놓은 RAG(검색 증강 생성) 답변도 검색된 문단에 근거가 빠져 있으면 사실과 다를 수 있다는 점을 점수 실험으로 확인했다.
배경과 설계
- 연구진은 HotpotQA와 SQuAD의 네 모델 답변에 근거 미지원 사실을 넣되 정답·오답 길이를 맞춰 단어 수의 영향을 제거했다. 퍼플렉시티와 의미 이탈 점수를 비교하고 검색 문단 수를 줄여 근거가 부족한 조건도 시험했다.
평가 근거
- 길이 통제된 여덟 모델·자료 조합에서 퍼플렉시티 AUROC는 0.81~0.91, 길이만 이용한 탐지는 0.50~0.53이었다. 그러나 한 문단만 줄 때 두 조합의 AUROC는 0.285·0.200으로 반전됐다. 사람 표기 RAGTruth QA 875개에서는 퍼플렉시티 평균 0.584, 의미 이탈 결합 점수 0.643이었다.
적용 조건
- 점수는 답변 자체가 아니라 특정 검색 문맥과 모델에서의 확률이다. 문단을 더 늘리면 주의가 분산될 수도 있어 획일적인 검색 수 증가는 해법이 아니다. 긴 답변과 도구 에이전트에 같은 임계값을 적용하려면 별도 측정이 필요하다.
함께 확인할 조건
- 높은 0.81~0.91은 길이를 맞춘 짧은 QA의 인위적 사실 오류 수정에 대한 식별력이다. 검색 문단이 부족할 때 신호가 반전될 수 있고 RAGTruth 평균은 0.584로 낮다. 토큰 확률이 필요한 방식이며 긴 생성·도구 사용·다중모달이나 실제 운영 임계값은 검증하지 않았다.
출처와 편집 기준
arxiv.org · 연구 프리프린트 · 검수 2026.10.19 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.