AI 모델연구 프리프린트
NVIDIA, 에이전트 후속 학습을 위한 Nemotron 중간 학습 조합 평가
원문 읽기 · arxiv.org ↗(새 탭에서 열림)NVIDIA 연구진은 짧은 맥락의 사전학습과 에이전트 후속 학습 사이에 저장소·풀리퀘스트·빌드 로그·일부 에이전트 경로를 섞은 긴 맥락 중간 학습을 넣었다.
학습 조합
- 사전학습과 후속 학습 사이에 저장소·풀리퀘스트·커밋·빌드 기록과 일부 에이전트 실행 경로를 256K 맥락으로 학습했다.
비교 결과
- Lightning은 5000억 토큰 중간 학습 뒤 같은 후속 지도학습에서 SWE-bench Verified 60.7%에서 64.5%로 올랐다.
- Super의 2800억 토큰 중간 학습에서는 DeepSWE가 11.7%에서 15.7%로 올랐다.
한계
- 공급자 자체 모델과 막대한 학습 자원을 전제로 한 비교다.
함께 확인할 조건
- NVIDIA의 두 모델과 특정 자료·대규모 토큰 예산 결과다.
- 동일한 후속 지도학습 비교여도 여러 자료 구성요소 각각의 독립 효과를 모두 분리하지는 않는다.
이 글의 용어
기사에서 다루는 개념을 검수된 용어집에서 살펴보세요.
출처와 편집 기준
arxiv.org · 연구 프리프린트 · 검수 2026.10.18 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.