1

Liquid AI ra mắt RIPL, inference engine thời gian thực cho LFM dưới 50 ms

marktechpost.com

Liquid AI phát hành RIPL, một inference engine thời gian thực cho các mô hình LFM của họ. Trên một B200, LFM2.5-1.2B chạy trên RIPL cho thấy độ trễ p95 thấp hơn từ 14,4x đến 28,4x so với Qwen3.5-0.8B trên vLLM.

Đăng nhập để góp ý

Nguồn chính

  1. SOURCEmarktechpost.com
Bản Markdown