AI 연구연구 프리프린트
쉬운 질문은 한 번, 어려운 질문은 더 깊게…반복형 판단 모델의 연산 배분
원문 읽기 · arxiv.org ↗(새 탭에서 열림)선택지 중 답을 고르는 판단 모델은 쉬운 질문에도 어려운 질문과 같은 계산을 쓰기 쉽다. LEV는 사전학습부터 반복 구조를 가진 언어모델의 같은 층을 여러 번 통과하며 매 단계 답을 읽고, 작은 중지 판정기로 질문마다 깊이를 정한다.
연구 방법
- 세 반복형 기반모델에서 모든 깊이의 답을 함께 학습했다. 중지 판정기는 얕은 답이 가장 깊은 답과 일치할지를 예측하고, 정답표가 없는 요청에 맞춘 임계값으로 계산량을 조절한다. 이는 생성형 긴 추론 문장을 쓰는 방식과 다르다.
평가 결과
- LEV-2.6B의 JevBench 정확도는 한 번 반복 63.2%에서 네 번 반복 76.2%로 올랐다. 별도 보류 평가에서 질문별 깊이 조절은 가장 깊은 계산량의 76~85%를 쓰면서 정확도는 1점 이내 낮았다. 50ms 이하 조건에서는 일부 동일 지연시간 밀집 모델·연쇄 모델보다 5.4~8.8점 높았다.
적용 조건
- 비교는 정해진 선택지를 고르는 벤치마크와 논문의 측정 하드웨어·서빙 조건에 한정된다. 같은 파라미터를 반복해도 연산량이 줄어드는 것은 아니며 깊은 답이 틀릴 때 중지 판정기도 그 오류를 따를 수 있다. LEV-2.6B의 동일 계산량 고정 깊이 대비 이득은 보류 패널에서 작았다.
함께 확인할 조건
- 비교는 정해진 선택지를 고르는 벤치마크와 논문의 측정 하드웨어·서빙 조건에 한정된다. 같은 파라미터를 반복해도 연산량이 줄어드는 것은 아니며 깊은 답이 틀릴 때 중지 판정기도 그 오류를 따를 수 있다. LEV-2.6B의 동일 계산량 고정 깊이 대비 이득은 보류 패널에서 작았다.
출처와 편집 기준
arxiv.org · 연구 프리프린트 · 검수 2026.10.19 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.