Open Source17.11.2026 · 19:55

Program-as-Weights: Một mô hình lập trình cho các hàm mờ

Từ arxiv.org

Ảnh: arxiv.org
AI;DR

Nhiều tác vụ lập trình hàng ngày rất khó thực hiện bằng các quy tắc thuần túy, chẳng hạn như cảnh báo các dòng log quan trọng, sửa lỗi JSON bị sai định dạng, hoặc xếp hạng kết quả tìm kiếm theo ý định. Các tác vụ này đang ngày càng được chuyển sang dùng các APIs của LLM, nhưng phải đánh đổi bằng tính cục bộ, khả năng tái lập và chi phí. Nhóm tác giả đề xuất lập trình hàm mờ: biên dịch một hàm như vậy từ đặc tả ngôn ngữ tự nhiên thành một artifact thần kinh nhỏ gọn, có thể thực thi cục bộ. Nhóm tác giả hiện thực hóa mô hình này với Program-as-Weights (PAW), trong đó một trình biên dịch 4B được huấn luyện trên FuzzyBench, một bộ dữ liệu 10M-example mà nhóm công bố, sẽ tạo ra các adapter tiết kiệm tham số cho một trình thông dịch nhẹ đã được đóng băng. Một trình thông dịch Qwen3 0,6B thực thi các chương trình PAW đạt hiệu suất tương đương với việc dùng prompt trực tiếp trên Qwen3-32B, trong khi chỉ dùng khoảng 1/50 bộ nhớ inference và chạy ở tốc độ 30 token/s trên MacBook M3. PAW tái định nghĩa foundation model từ một bộ giải quyết vấn đề theo từng đầu vào thành một công cụ xây dựng công cụ: chỉ cần gọi một lần cho mỗi định nghĩa hàm, nó sẽ tạo ra một artifact nhỏ có thể tái sử dụng, giúp các lần gọi sau cho mỗi lần áp dụng hàm trở nên rẻ và có thể chạy offline.

Đọc bài gốcĐăng nhập để góp ý

Nguồn

+ 1 nguồn khác
  1. THẢO LUẬNlr0lobste.rs

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay