AI 연구연구 프리프린트
작은 언어모델로 GPU 최적화 코드를 만들고 고친다…실행 검증으로 학습
원문 읽기 · arxiv.org ↗(새 탭에서 열림)GPU 연산을 빠르게 만드는 코드는 정답을 맞추는 것과 실행 속도를 높이는 것을 함께 요구한다. 연구진은 8B 코드 언어모델이 연산 명세로부터 최적화 스크립트를 만들고 기존 스크립트를 다듬도록 지도학습과 실행 검증 강화학습을 차례로 적용했다.
연구 방법
- TVM 작업 5만4116개에서 생성·수정 사례 10만8594개를 구성했다. 생성 단계에서는 텐서 연산을 표현한 명세를 받아 코드를 쓰고, 수정 단계에서는 주어진 코드의 속도를 높인다. H100 GPU에서 실제 실행 결과의 정확성과 지연시간을 확인해 보상을 제공했다.
평가 결과
- 첫 출력 기준 생성 정답률은 116개 평가 작업에서 91.27%, 수정 정답률은 39개 작업에서 만든 194개 프롬프트에서 92.01%였다. 저자들이 정한 빠른 코드 기준의 비율은 77.69%였다. 여섯 외부 언어모델과도 비교했지만 생성 과제에서 코드 인터페이스가 동일하지 않아 순위만으로 모델 우열을 확정하기 어렵다.
적용 조건
- 결과는 TVM 계열 작업과 H100 실행 환경에 묶여 있다. 실행 검증에 드는 GPU 비용과 새로운 하드웨어·연산으로 옮겼을 때의 성능은 별도로 확인해야 한다. 생성 과제의 외부 모델 비교는 출력 형식 차이를 포함한다.
함께 확인할 조건
- 결과는 TVM 계열 작업과 H100 실행 환경에 묶여 있다. 실행 검증에 드는 GPU 비용과 새로운 하드웨어·연산으로 옮겼을 때의 성능은 별도로 확인해야 한다. 생성 과제의 외부 모델 비교는 출력 형식 차이를 포함한다.
출처와 편집 기준
arxiv.org · 연구 프리프린트 · 검수 2026.10.19 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.