오픈소스Liquid AI
Liquid AI, 로컬 에이전트용 24B 혼합전문가 모델 LFM2.5-24B-A2B 공개
외부 서버로 데이터를 보내지 않고 도구 호출 에이전트를 실행하려면 모델 크기와 추론 비용이 제약이 된다. Liquid AI는 24B 매개변수 중 일부만 활성화하는 모델을 오픈 웨이트로 공개했다.
모델과 실행
- 토큰당 2B 매개변수를 활성화하며 긴 문맥과 도구 호출을 지원하도록 학습했다.
- 문맥 창은 이전 모델의 32K에서 131K로 늘었다. Liquid AI는 도구 호출과 다단계 작업 기록을 학습 과정에 넣어 에이전트 용도를 강화했다고 설명한다.
성능 해석
- 개발사는 일부 도구 사용 평가와 추론 속도에서 좋은 결과를 제시했다.
- 개발사 표에서는 일부 도구 사용 과제에서 경쟁력이 있지만 지식 중심 평가와 SWE-bench 코딩 평가에서는 다른 모델이 앞선다. 속도도 장비와 병렬 처리량에 따라 달라진다.
함께 확인할 조건
- 속도와 벤치마크는 Liquid AI가 선택한 장비·평가 설정의 결과다.
판단의 근거는 원문에서
Liquid AI ↗https://huggingface.co/blog/LiquidAI/lfm25-24b-a2b요약은 원문의 핵심을 정리한 내용이며, 인사이트는 ABLE의 편집 해석입니다.