← Về trang chính1 tin
Liquid AI phát hành RIPL, một inference engine thời gian thực cho các mô hình LFM của họ. Trên một B200, LFM2.5-1.2B chạy trên RIPL cho thấy độ trễ p95 thấp hơn từ 14,4x đến 28,4x so với Qwen3.5-0.8B trên vLLM.
Đăng nhập để góp ý
Nguồn chính
- SOURCEmarktechpost.com