Cloudflare 내부 AI 코드 리뷰 비용 68% 절감 사례
Cloudflare는 코드 리뷰 에이전트의 캐시·호출 수·모델 노력을 조정해 내부 추론비를 낮춘 과정을 공개했다.
THE ABLE INDEX
AI의 변화, 실무의 관점.
핵심은 짧게. 근거는 원문으로. 새 소식과 참고할 실무 자료를 함께 정리합니다.
검수 뉴스·실무 자료402개 뉴스 · 36개 실무 자료
편집자 선택 · 뉴스
최근 발행 핵심
ABLE FIELD GUIDE
관련 용어
AI 아카이브
검수한 뉴스를 불러오고 있습니다.
2026.10.20 ABLE 추가 (KST)
Hugging Face, Trainium용 TorchNeuron 통합 설명
TorchNeuron은 Trainium을 PyTorch 장치로 연결해 HF 모델의 전용 변환 단계를 줄인다.
Cloudflare, 유형 지정 추출 모델 Clairic 프리뷰 공개
Clairic은 비정형 입력에서 지정한 유형의 값과 불확실성을 직접 내보내는 Cloudflare의 추출 모델이다.
Vercel AI Gateway에 확산식 Mercury 3 추가
Vercel이 Inception의 텍스트 확산 모델 Mercury 3를 AI Gateway에 추가했다. 속도 주장의 검증 조건은 제한적이다.
Gemini Notebook, 슬라이드·영상 생성 전 개요 검토 기능 추가
Google은 Gemini Notebook의 슬라이드와 영상 개요를 먼저 보여주고 사용자가 수정한 뒤 결과를 만드는 흐름을 발표했다.
AWS, Bedrock의 Pegasus 1.5 영상 구간 추출 사용법 공개
10월 19일 글은 10월 9일 발표된 모델의 Bedrock 구현 방법을 설명한다.
Deepgram·AWS, Trainium2 음성 추론 비용 실험 공개
Deepgram과 AWS가 Nova-3 오프라인 전사를 Trainium2에 이식한 자체 사례다.
AWS·vLLM, KV push 전송으로 추론 첫 토큰 지연 개선
AWS가 prefill→decode KV 전송을 pull에서 push로 바꾼 vLLM 기능을 설명했다.
AWS·vLLM, 다중 턴 KV 역전송으로 첫 토큰 지연 줄여
AWS가 vLLM의 다중 턴 대화에서 KV 재사용 경로를 공개했다.
Meta, 광고 추천에 의미 토큰화 적용…전환 개선 자체 보고
Meta는 광고·상품·페이지를 공유 의미 토큰으로 바꿔 신규 항목의 신호 부족을 보완하는 GenRecs 설계를 공개했다.
Meta, 결정형 라우터와 전문 에이전트로 데이터 열 등록 자동화
Meta는 데이터 열 등록에서 문맥 혼선을 줄이려고 라우터와 전문 에이전트를 분리했다.
2026.10.19 ABLE 추가 (KST)
Meta, 프로메테우스 1단계 완료와 슈퍼클러스터 확장 현황 공개
Meta는 프로메테우스 1단계를 완공해 Muse 훈련에 사용하고 수십만 GPU를 운영한다고 밝혔다.
Microsoft, 내부 AI 에이전트의 실시간 보안 통제 제안
Microsoft는 내부에서 실행되는 AI 에이전트를 별도 보안 대상인 ‘에이전트 내부자’로 규정하고, 7월 발표한 Project Perception의 적용 범위를 사내 에이전트 감독으로 설명했다.
Vercel, MiniMax M3.1 Flash를 AI Gateway에 추가
Vercel은 10월 19일 MiniMax M3.1 Flash를 AI Gateway에서 제공한다고 발표했다. 무료 혜택은 MiniMax가 요청을 처리할 때만 적용된다.
Swiss AI, Apertus 1.5의 다중모달 훈련·평가 근거 공개
Swiss AI가 10월 15일 Apertus 1.5 릴리스 노트에서 다중모달 입력 구조, 8B·70B의 계속 학습 과정, 평가 재현 자료를 상세히 공개했다. 가중치 공개는 7월 24일로, 이번 발표의 새 내용은 공개 모델을 어떻게 훈련하고 평가했는지에 있다.
투기적 디코딩의 토큰 수용 증가가 응답 속도 향상을 보장하지 않았다
초안 모델의 토큰을 더 많이 받아들이는 설정이 실제 답변 완료를 빠르게 하는지 분리해 시험했다.
AI 실험 두세 번의 무차이, 동등성 증명으로 볼 수 없다
반복 실행 두세 번의 점수 차이가 유의하지 않은 경우, 그 결과만으로 두 방법이 실용적으로 동등하다고 선언할 수 없다는 실험 설계 연구다.
JAX로 다시 만든 Atari 연구 환경, 15개 게임의 학습 속도와 수정 기능 비교
강화학습의 게임 환경을 JAX에서 직접 실행·수정할 수 있게 만든 연구용 환경이 제시됐다.
자연어 배송 제약을 경로 탐색 규칙으로 바꾼 LangNCO, 추가 조건에서 592건 준수
배송 제약을 말로 지정해도 기존 신경 경로 탐색 모델이 그 조건을 지키도록 하는 추론 단계 방법이 제시됐다.
Trainium2 확산 모델 엔진, 네 모델은 빨라졌지만 비디오 예외도 있었다
확산 모델을 Trainium2에 배치할 때 커널 속도와 실제 요청 지연은 같은 방향으로 움직이지 않았다.