AI 연구연구 프리프린트
잠재 생각 사슬이 길다고 실제 추론에 쓰인 것은 아니다
원문 읽기 · arxiv.org ↗(새 탭에서 열림)모델 내부의 읽을 수 없는 생각 사슬이 답을 품고 있다면, 그 사슬을 거쳐 추론했다고 볼 수 있을까. 연구진은 잠재 단계에서 답을 읽어내는 검사와 단계 삭제·교체가 실제 출력에 미치는 영향을 분리해 측정했다.
연구 방법
- COCONUT, CODI, 단계별 감독 방식 등 세 학습법을 논리 문제와 GSM8k 산술 문제, 두 기반 모델에 적용했다. 답 예측 신호가 잠재 상태에 있더라도 단계를 제거하거나 다른 문제의 상태로 바꾸었을 때 답이 달라지지 않으면 계산에 쓰였다는 주장을 피한다. 상태 변화의 지속 여부도 별도로 살폈다.
평가 결과
- 논리 문제의 일부 COCONUT 사슬은 사슬 시작 전부터 답을 읽을 수 있고 삭제해도 결과가 거의 바뀌지 않는 전달자처럼 작동했다. 산술 문제에서는 내용이 실제로 사용되는 경우가 있었고 단계별 감독은 논리 작업의 상태 변화를 유지했다. 연구는 이 차이를 전달자·빈 사슬·자리표시자·조립형 등 여섯 유형으로 정리한다.
적용 조건
- 이 분류는 시험한 학습법·작은 기반 모델·합성 논리 문제와 GSM8k에 관한 것이다. 잠재 상태 탐침은 정보 존재와 인과적 사용을 완벽히 구별하지 못해 삭제·교체 결과와 함께 읽어야 한다. 저자들도 조립형이라는 이름이 해독한 각 단계와 실제 인과 단계가 일치함을 입증하지는 않는다고 제한한다.
함께 확인할 조건
- 이 분류는 시험한 학습법·작은 기반 모델·합성 논리 문제와 GSM8k에 관한 것이다. 잠재 상태 탐침은 정보 존재와 인과적 사용을 완벽히 구별하지 못해 삭제·교체 결과와 함께 읽어야 한다. 저자들도 조립형이라는 이름이 해독한 각 단계와 실제 인과 단계가 일치함을 입증하지는 않는다고 제한한다.
출처와 편집 기준
arxiv.org · 연구 프리프린트 · 검수 2026.10.19 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.