AI 기술기술 블로그
GPT-OSS-20B, SFT·GRPO 뒤 요청 언어 답변 비율 70% 보고
원문 읽기 · AWS ↗(새 탭에서 열림)AWS가 GPT-OSS-20B의 다국어 추론 언어를 맞추기 위해 지도 미세조정(SFT)과 GRPO를 순서대로 적용한 실험을 공개했다. 결과는 모델의 사고·답변 언어 준수 측정이다.
50문항 평가 결과
- 영어·프랑스어·독일어·스페인어·이탈리아어 각각 10개 수학·논리 문항에서 기본 GPT-OSS-20B는 요청 언어로 사고한 경우가 11/50(22%)였다. 949개 학습 예제로 LoRA(모델의 일부만 추가 학습하는 방식) SFT를 1000단계 수행한 뒤 사고 언어는 50/50(100%), 답변 언어는 31/50(62%)로 측정됐다.
- SFT 체크포인트에 GRPO를 더하면 사고 언어 50/50을 유지하면서 답변 언어는 35/50(70%)가 됐다. 8%포인트 증가는 동일 소규모 평가의 4문항 차이이며 일반 언어 능력 향상을 뜻하지 않는다.
비교 조건과 한계
- GPT-OSS 학습은 4대 ml.g6e.12xlarge, L40S 16개로 진행했다. 별도 Qwen2.5-7B-Instruct 실험은 L40S 16개에서 다국어 50문항의 양쪽 언어 준수 38%→44%, GSM8K 200문항 정답률 90.5%→90.5%를 보고했다.
- Qwen은 별도 모델·과제로 GPT-OSS와 직접 비교할 수 없다. Qwen 코드도 공개 전이며 표본이 작아 일반 서비스 성능으로 일반화할 수 없다.
함께 확인할 조건
- 언어당 10문항으로 일반화에 한계가 있다.
이 글의 용어
기사에서 다루는 개념을 검수된 용어집에서 살펴보세요.
출처와 편집 기준
AWS · 기술 블로그 · 검수 2026.10.21 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.