Recursive chạy bốn agent AI research swarm trên một chiếc Mac 48GB duy nhất với mô hình Flint
marketbrief.nowRecursive phát hành mã nguồn và demo cho phép một research swarm gồm tám agent chạy cục bộ trên một chiếc Mac M4 Pro 48GB duy nhất bằng cách sử dụng một bản sao chia sẻ của mô hình Flint 40B parameter của họ. Khi nhận được một vấn đề và điểm số mục tiêu, các agent sẽ viết mã, thử nghiệm ý tưởng và xây dựng dựa trên các thí nghiệm thành công trực tiếp trên thiết bị mà không cần tính toán bên ngoài.
Bản cài đặt này dựa trên Eureka Machine của Recursive, một hệ thống nghiên cứu AI tự động đã giúp xây dựng Flint từ đầu trong dưới bốn tháng qua pre-training, post-training, reinforcement learning và inference. Đồng sáng lập Tim Shi cho biết startup "thực sự chưa có bất kỳ effort pre-training, post-training nào cho đến khoảng một tháng trước", dựa vào hệ thống tự động để chọn kiến trúc mixture of experts với 2,5B parameters hoạt động và quantize đầu mô hình ngôn ngữ xuống 4 bits, một bước thường bị các nhà nghiên cứu con người tránh nhưng vẫn giữ độ chính xác trong 0,7 điểm so với BF16.
Được phát hành dưới giấy phép Apache 2.0 với context window 262K token, Flint đạt 54,9% trên Terminal-Bench 2.1, 89,7% trên SWE-bench Pro v2 và 74,2% trên SWE-bench Verified, xếp hạng ngay sau mô hình Inkling lớn hơn 10 lần. Mô hình tạo ra hơn 125 token mỗi giây.
Nguồn chính
- SOURCE@cong_ml“Eight agents share one local 40B Flint model on a 48 GB M4 Pro: writing code, testing ideas and building on whatever works.”x.com
- SUPPORT@richardsocher“Introducing Flint, @Recursive_SI’s first model: a fast local coding model built with our automated research system, the Eureka Machine.”x.com
- SUPPORT@tydsh“Strong performance. 54.9% on Terminal-Bench 2.1, 89.7% on SWE-bench Pro v2, and 74.2% on SWE-bench Verified.”x.com
- SUPPORT@spolen23“Flint did 110 tok/s vs 28 and nailed every one. Qwen thought for 7 minutes on one and never answered.”x.com
- SUPPORT@thom_wolf“an AI researcher looking at the lm_head (that *everyone* tells you to keep in high precision) deciding to quantize it to 4 bits AND being actually right (0.7pt from bf16) is definitely impressive.”x.com
- SUPPORT@roberttlange“NVFP4 incl. a 4-bit lm_head (12% of active weights), self-distilled to within 0.7 pts of BF16”x.com
- SUPPORT@altryne“Tim Shi from @Recursive_SI: "We actually didn't have any pre-training, post-training effort until like 1 month ago"”x.com
- SUPPORT@_rockt“Great news for doing science on autoresearch swarms at home.”x.com