AI 기술기술 블로그
Hugging Face, TorchTPU로 PyTorch 모델의 TPU 네이티브 실행 지원
원문 읽기 · Hugging Face ↗(새 탭에서 열림)Hugging Face가 PyTorch 모델을 TPU에서 네이티브로 실행하는 TorchTPU 경로를 공개했다.
지원 범위
- Transformers와 Diffusers가 TPU 장치를 직접 사용하며 Kernels의 TPU 구현도 연결된다.
- 분산 실행과 torch.compile 통합을 설명했다.
검증과 제약
- 실행 가능한 TPU 테스트의 96.5%가 통과했고 34개 문제를 보고해 19개를 수정했다고 밝혔다.
- 일부 테스트는 아직 실패하며 성능 배수는 특정 TPU v6e-8과 배치 64의 모델별 측정이다.
함께 확인할 조건
- 모든 라이브러리 테스트가 TPU에서 실행되는 것은 아니며 통과율의 분모는 실행 가능한 테스트다.
- 속도 배수는 특정 TPU v6e-8·모델·배치 64의 기본 구현 비교다.
출처와 편집 기준
Hugging Face · 기술 블로그 · 검수 2026.10.21 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.