AI 연구연구 프리프린트
SST, 언어모델 미세조정 때 기존 능력 망각 줄여
원문 읽기 · arxiv.org ↗(새 탭에서 열림)SST는 언어모델을 새 분야에 미세조정할 때 중요한 기존 능력이 무너지지 않도록 매개변수 갱신 방향을 제한하는 방법이다.
연구 방법
- 각 가중치 행렬의 주요 특이 방향을 보호하고 나머지 방향으로 최적화 업데이트를 투영한다. 지도 미세조정·자기증류·Muon 조합과 17억~320억 매개변수 모델, 여러 분야의 순차 학습에서 비교했다.
평가 결과
- Qwen3-8B 과학 분야 예에서 일반 언어 과제 평균은 기본 81.0에서 일반 미세조정 뒤 55.5로 떨어졌지만 SST를 더하면 80.0을 유지했다. 같은 예의 과학 분야 점수는 77.6에서 80.1로 올랐다. 다른 분야·방법에서도 이전 능력 보존 효과를 보고했다.
적용 조건
- 보호 방향과 최적 학습률의 절충을 완전히 비교하지 않았고, 수천억 매개변수나 더 긴 순차 작업은 시험하지 않았다. 특정 분야·평가의 보존 결과를 모든 모델 설정의 무손실 학습으로 일반화하면 안 된다.
함께 확인할 조건
- 보호 방향과 최적 학습률의 절충을 완전히 비교하지 않았고, 수천억 매개변수나 더 긴 순차 작업은 시험하지 않았다. 특정 분야·평가의 보존 결과를 모든 모델 설정의 무손실 학습으로 일반화하면 안 된다.
출처와 편집 기준
arxiv.org · 연구 프리프린트 · 검수 2026.10.18 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.