AI 활용 사례고객·파트너 사례
20억 문서 보유한 Octave, 다중 테넌트 AI 구축 사례 공개
원문 읽기 · AWS ↗(새 탭에서 열림)Octave는 고객별로 품질 문서를 분리해 검색하고 불만 접수를 요약하는 AI 기반을 구축했다고 AWS 공동 사례에서 밝혔다.
격리된 문서·실행 구조
- 고객별 OpenSearch 인덱스에 Cohere Embed v4로 문서를 넣고 AgentCore의 사용자 세션별 마이크로VM과 도구 권한으로 테넌트를 격리한다. Guardrails는 첨부·검색 결과·응답에 적용한다.
- 품질 담당자는 유사 과거 불만과 시정 조치 결과를 추천받지만 최종 우선순위와 규제 판단은 사람이 내린다.
측정 범위와 제한
- Octave는 전체 20억여 문서를 보유한다. 내부 시험에서 분당 2800만 토큰 임베딩, 테넌트 작업당 하루 140만 문서 처리, 기본1536차원 대비 512차원 선택 시 저장량 약 66% 절감을 보고했다.
- 도우미는 생산 환경 3개월 운영 중 조사당 4~6시간의 기존 작업을 흡수했고 AI 기능 배포 시간이 50% 줄었다고 회사가 보고했다. 독립 대조군·평가 표본·오류율은 공개되지 않았다.
함께 확인할 조건
- 수치는 내부 측정이며 외부 검증이 없다.
출처와 편집 기준
AWS · 고객·파트너 사례 · 검수 2026.10.21 (KST)
요약은 원문의 핵심을 정리했으며, 커머스 인사이트는 편집 해석이다.