개발·실무기술 블로그
Apple, Mac Studio 네 대의 분산 LLM 추론 성능 공개
원문 읽기 · machinelearning.apple.com ↗(새 탭에서 열림)MLX와 Thunderbolt RDMA로 Mac Studio 두 대 또는 네 대에 모델 추론을 나눈다.
배경과 변화
- MLX와 Thunderbolt RDMA로 Mac Studio 두 대 또는 네 대에 모델 추론을 나눈다.
근거와 결과
- M5 Ultra 네 대의 8192토큰 맥락에서 816B MoE(혼합 전문가 구조) 모델 Muse Spark Open의 생성 속도는 초당 36.73토큰이었다. 단일 장비에는 NVFP4 모델도 담기지 않는다.
적용 조건
- Apple의 자체 측정이며 특정 하드웨어·양자화·맥락 길이에 한정된다. 구매 비용이나 실제 업무 품질을 비교하지 않았다.
함께 확인할 조건
- Apple의 자체 측정이며 특정 하드웨어·양자화·맥락 길이에 한정된다. 구매 비용이나 실제 업무 품질을 비교하지 않았다.
출처와 편집 기준
machinelearning.apple.com · 기술 블로그 · 검수 2026.10.18 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.