PrismML ra mắt Bonsai 2 mô hình AI địa phương bắt đầu từ 0.43 GB

Các công cụ phần mềm ba trạng thái này mang khả năng lập luận và hiểu biết hình ảnh tiên tiến trực tiếp đến điện thoại thông minh và thiết bị đeo, giảm sự phụ thuộc vào máy chủ bên ngoài. PrismML đã ra mắt gia đình mô hình AI Bonsai 2 dựa trên Qwen3.5 với các phiên bản từ 2B đến 27B tham số dưới giấy phép Apache 2.0. Các phiên bản 2B, 4B và 9B có trọng lượng lần lượt là 0.43GB, 0.95GB và 2.0GB, trong khi phiên bản 9B sử dụng 40% ít token hơn cho toán học và tuân thủ hướng dẫn so với các thế hệ trước.

Là người kế nhiệm của Bonsai 1.7B, 4B và 8B đầu tiên, những mô hình này hướng đến khả năng thực thi trên thiết bị với khả năng tập trung vào gọi công cụ và thị giác. Trong một bản demo quy trình lai lẫn trên Mac, Bonsai 2 đã xử lý dữ liệu nhạy cảm trên thiết bị và chỉ gửi 8.6% thông tin đến đám mây, giảm chi phí đám mây lên đến 86%. Các benchmark người dùng cho thấy mô hình 9B giải mã ở tốc độ 114 tok/s trên RTX 3060, trong khi mô hình 2B đạt 500 tok/s trên M4 Max thông qua trình duyệt, và PrismML đã khởi động một cuộc thi trên Yukon Research để tối ưu hóa thêm phiên bản 9B.