---
format: "aidr-story-markdown/v1"
id: "834458a943484a5b6907311b6aa2dd253aaed7aea410a81db7cae1e73f5e2964"
canonical_url: "https://aidr.today/834458a9?lang=vi"
title: "Llama.cpp hỗ trợ multimodal decision model trong v0.6.0"
lang: "vi"
requested_lang: "vi"
available_langs: ["en","vi"]
translation_fallback: null
fallback_fields: []
published_at: "2026-10-08T13:25:16.000Z"
category: "Open Source"
topics: ["meta","inference","open-source"]
source_urls: ["https://huggingnews.com/ai/llamacpp-ships-multimodal-decision-model-support-in-v060-83953cb8","https://x.com/ngxson/status/2106027722019394048","https://x.com/ggerganov/status/2106029758350032937","https://x.com/mervenoyann/status/2108180061627019735","https://x.com/vanstriendaniel/status/2106039777778876778","https://x.com/victormustar/status/2107400052612145396","https://x.com/lucataco/status/2107296837774500296","https://x.com/calebfahlgren/status/2106036451150536895"]
summary: "Các mô hình Clef và Clef-Flash hiện đã có sẵn để triển khai cục bộ trên phiên bản mới nhất của công cụ suy luận llama.cpp. Bản cập nhật này, được phát hành dưới dạng v0.6.0, giới thiệu hỗ trợ multimodal cho các decision model và bao gồm các cải tiến hiệu suất cho Metal API nhằm tăng tốc thực thi trên thiết bị phần cứng Apple. Người dùng giờ đây có thể phục vụ các mô hình này bằng một lệnh llama serve duy nhất để phân tích hình ảnh và văn bản. Công cụ này tận dụng một điểm cuối /v1/systemone cho suy luận kiểu Jev, cho phép các agent định tuyến ticket, kiểm duyệt nội dung hoặc xếp hạng tùy chọn bằng cách cung cấp xác suất mà không cần tạo văn bản. Dự án hỗ trợ nhiều mô hình mở khác nhau từ 144M đến 27B tham số. Thử nghiệm từ cộng đồng cho thấy mô hình Laya 421M tham số hoạt động gần bằng Qwen 4B trong khi tốc độ nhanh gấp 12 lần."
---

# Llama\.cpp hỗ trợ multimodal decision model trong v0\.6\.0

> [Open the canonical story](<https://aidr.today/834458a9?lang=vi>)

**Published:** 2026-10-08T13:25:16.000Z
**Category:** Open Source
**Topics:** meta, inference, open\-source

## Summary

Các mô hình Clef và Clef\-Flash hiện đã có sẵn để triển khai cục bộ trên phiên bản mới nhất của công cụ suy luận llama\.cpp\. Bản cập nhật này, được phát hành dưới dạng v0\.6\.0, giới thiệu hỗ trợ multimodal cho các decision model và bao gồm các cải tiến hiệu suất cho Metal API nhằm tăng tốc thực thi trên thiết bị phần cứng Apple\. Người dùng giờ đây có thể phục vụ các mô hình này bằng một lệnh llama serve duy nhất để phân tích hình ảnh và văn bản\. Công cụ này tận dụng một điểm cuối /v1/systemone cho suy luận kiểu Jev, cho phép các agent định tuyến ticket, kiểm duyệt nội dung hoặc xếp hạng tùy chọn bằng cách cung cấp xác suất mà không cần tạo văn bản\. Dự án hỗ trợ nhiều mô hình mở khác nhau từ 144M đến 27B tham số\. Thử nghiệm từ cộng đồng cho thấy mô hình Laya 421M tham số hoạt động gần bằng Qwen 4B trong khi tốc độ nhanh gấp 12 lần\.

## Sources

- [Story source](<https://huggingnews.com/ai/llamacpp-ships-multimodal-decision-model-support-in-v060-83953cb8>)
- [Story source](<https://x.com/ngxson/status/2106027722019394048>)
- [Story source](<https://x.com/ggerganov/status/2106029758350032937>)
- [Supporting source](<https://x.com/mervenoyann/status/2108180061627019735>)
- [Supporting source](<https://x.com/vanstriendaniel/status/2106039777778876778>)
- [Supporting source](<https://x.com/victormustar/status/2107400052612145396>)
- [Supporting source](<https://x.com/lucataco/status/2107296837774500296>)
- [Supporting source](<https://x.com/calebfahlgren/status/2106036451150536895>)