AI 연구연구 프리프린트
AI를 신뢰해도 검증은 계속, 영상 질문 실험이 본 인간 감독
원문 읽기 · arxiv.org ↗(새 탭에서 열림)영상 질문 실험에서 AI에 대한 신뢰가 높은 참가자도 답을 직접 확인하겠다는 선택을 자주 했다. 연구는 신뢰와 실제 통제 이양을 따로 살필 필요를 제기한다.
연구 방법
- AI에 익숙한 56명이 영상 질문 7개씩 총 392회 수행했다. 각 답을 본 뒤 신뢰를 표시하고 비슷한 다음 과제에서는 AI를 거절·검증하며 사용·완전 위임 중 무엇을 할지 선택했다.
평가 결과
- 검증 사용은 230회(58.7%), 완전 위임은 48회(12.2%)였다. 신뢰가 높은 응답 217회 중 172회는 거절하거나 검증을 택해 인간 통제를 유지했다. 개인 평균보다 신뢰가 한 단계 높은 과제는 더 강한 위임 의향과 연관됐다(승산비 14.97).
적용 조건
- 실제 과제 수행 중의 위임이 아니라 미래의 비슷한 과제에 대한 의향이다. 참가자 대부분이 젊은 공학 전공자이고 영상 7개를 반복 사용했다. 제안한 실제 위임 행적 측정 틀은 아직 구현·검증되지 않았다.
함께 확인할 조건
- 실제 과제 수행 중의 위임이 아니라 미래의 비슷한 과제에 대한 의향이다. 참가자 대부분이 젊은 공학 전공자이고 영상 7개를 반복 사용했다. 제안한 실제 위임 행적 측정 틀은 아직 구현·검증되지 않았다.
출처와 편집 기준
arxiv.org · 연구 프리프린트 · 검수 2026.10.19 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.