Research18.11.2026 · 12:12
Classical Energies học cách suy luận nhanh hơn 1.000 lần so với các looped models
Từ arxiv.org
Các looped models đã nổi lên như một mô hình tiêu biểu cho khả năng suy luận, với những thành công trên các câu đố suy luận đơn giản như Sudoku-Extreme và Maze-Unique. Tuy nhiên, các mô hình này có thể không ổn định, huấn luyện chậm, đồng thời tiêu tốn nhiều tham số và FLOPs để giải các câu đố đơn giản. Việc hạ thấp năng lượng không chỉ giảm thiểu các vấn đề này mà còn mang lại nhiều lợi thế: tích hợp sẵn cơ chế dừng sớm, tính toán thích ứng với độ khó của vấn đề, huấn luyện nhanh mà không cần vi phân qua một bộ giải, và các trọng số có thể giải thích được giúp học các ràng buộc của câu đố. Tại đây, nhóm tác giả chứng minh điều này bằng một phiên bản học được từ năng lượng của Hopfield & Tank từ những năm 80, được gọi là CRAM, có thể giải 99,996% câu đố Sudoku-Extreme và 100% câu đố Maze-Unique sau 42 ms và 132 ms huấn luyện trên một GPU, nhanh hơn ít nhất 1.000 lần so với các looped models trong các tác vụ này. CRAM cũng đạt độ chính xác tương đương với các mô hình looped baseline trên Sudoku-Extreme nhưng sử dụng ít hơn ít nhất 282 lần inference FLOPs. Nghiên cứu của nhóm tác giả gợi mở hai điều. Thứ nhất, năng lượng là một hướng đi cực kỳ hứa hẹn để huấn luyện khả năng suy luận từ dữ liệu. Thứ hai, cần thận trọng khi dùng các benchmark dễ giải như Sudoku và Maze để kiểm tra khả năng mở rộng của các kỹ thuật suy luận dạng looped.
Nguồn
+ 1 nguồn khác
- THẢO LUẬNespeednews.ycombinator.com
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay