AI 연구연구 프리프린트
허위정보 설득 방식 학습, AI 평가에는 효과…사람 전체 평균은 미확인
원문 읽기 · arxiv.org ↗(새 탭에서 열림)허위정보의 설득 기법을 미리 알려주는 방법을 AI와 사람에게 시험했다. 두 대상의 결과는 달랐다.
연구 설계
- 연구진은 51개 언어의 팩트체크 주장 214,646건에서 13개 설득 전략군을 정리했다. AI 평가자에게 사전 학습 시점 이후 사건의 참·거짓 주장 280개를 평정하게 하고, 사전등록된 미국 성인 749명은 다섯 안내 조건 중 하나를 받은 뒤 각자 주장 20개를 평가했다.
AI와 사람 결과
- GPT-4o-mini 모의 평가자의 1~7점 참·거짓 평정 격차는 안내 전 0.77점, 전략과 분리 지시를 함께 받은 뒤 2.06점이었다. 사람 전체 평균 격차 증가는 0.23점으로 보정 후 통계적으로 유의하지 않았다. 낯설다고 답한 주장에 한정한 사전등록 부차 분석은 +0.42점(95% CI +0.03~+0.80)이었다.
해석 조건
- 전략 자체가 거짓의 증거는 아니라는 지시를 함께 제공했다. 사람 참가자의 참 주장 믿음은 크게 낮아지지 않았지만, 이는 장기적 정보 행동을 검증한 결과가 아니다. 모델·미국 온라인 표본·주장 구성과 사람 전체 평균의 비유의성을 함께 봐야 한다.
함께 확인할 조건
- 0.77→2.06은 GPT-4o-mini가 모의 인물로 1~7점 평정한 참·거짓 평균 격차이며 인간 효과가 아니다. 사람 전체 평균 증가는 다중비교 보정 후 유의하지 않았고 낯선 주장 +0.42점은 사전등록 부차 분석이다. 참가자는 미국 온라인 표본, 각자 주장 20개를 평가했으며 실제 장기 행동이나 모든 언어·모델에 일반화할 수 없다. 비심사 프리프린트다.
출처와 편집 기준
arxiv.org · 연구 프리프린트 · 검수 2026.10.19 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.