AI 운영·평가기술 블로그
Cloudflare 내부 AI 코드 리뷰 비용 68% 절감 사례
원문 읽기 · Cloudflare ↗(새 탭에서 열림)Cloudflare는 코드 리뷰 에이전트의 캐시·호출 수·모델 노력을 조정해 내부 추론비를 낮춘 과정을 공개했다.
비용의 기준과 변경
- 9월 최적화 직전 비싼 2주 건당 2.43달러에서 0.77달러로 내려갔다. 평일 그래프는 리뷰 등급 구성을 고정한다. 중앙 처리시간도 4분 9초에서 1분 32초로 줄었다.
- 공통 프롬프트 접두부를 저장소 간 재사용하고, 불필요한 도구·호출을 줄였다. Sonnet 5→5.5와 Opus 5→5.5, 노력 수준 변경도 비용 감소에 포함된다.
품질 검증과 한계
- 657개 발견을 두 모델이 블라인드 판정하고 불일치를 셋째 모델이 조정했다. 중요 발견은 리뷰당 0.28→0.30으로 비슷했지만 성능 리뷰의 중요 발견은 약 64% 줄었다.
- 현재 품질 관찰 창은 하루이고 일부 집단은 35~66건이다. 저자 수정은 정답 증명이 아니며 모델 판정도 독립 인간 검증이 아니다. 일반 서비스 가격 절감률로 확대할 수 없다.
함께 확인할 조건
- 코드·모델 변경을 함께 적용해 개별 인과를 분리하기 어렵다. 장비·외부가격은 공개되지 않았다.
출처와 편집 기준
Cloudflare · 기술 블로그 · 검수 2026.10.20 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.