AI 안전성연구 프리프린트
다중 에이전트 토론, 공개 반박 뒤에도 비공개 답변은 왜곡될 수 있어
원문 읽기 · arxiv.org ↗(새 탭에서 열림)연구진은 10개 에이전트가 사실 문제를 토론할 때 반복된 잘못된 주장에 노출된 개별 에이전트의 공개 발화와 별도 비공개 답변을 비교했다.
측정 설계
- 10개 에이전트가 16라운드 동안 사실 문제를 토론하는 통제 환경에서 공개 발화와 남에게 보이지 않는 별도 답변을 구분했다.
관찰 결과
- 공격자가 없을 때 최종 오답은 0.6%, 한 명일 때 44.8%, 세 명일 때 60.5%였다.
- 세 명 조건의 노출 단계에서 비공개 오답 51.6%, 공개 지지 19.7%로 측정됐다.
한계
- 비공개 답변은 현재 맥락에 대한 응답이며 판정 모델과 질문 방식에 민감할 수 있다.
함께 확인할 조건
- 비공개 믿음은 모델의 내면 상태가 아니라 주어진 맥락에서 별도 질문에 답한 값이다.
- 공개 지지는 언어 모델 판정자가 놓칠 수 있고 다른 토론 구조로 일반화할 수 없다.
출처와 편집 기준
arxiv.org · 연구 프리프린트 · 검수 2026.10.18 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.