← Về trang chính1 tin
1
Kỹ thuật Prefix Sliding giúp tăng tốc mô hình AI gấp 3 lần khi xử lý chuỗi suy luận trên 100.000 token
Research35 ngày trướcPhương pháp Prefix Sliding mới cho phép các mô hình AI xử lý các chuỗi suy luận dài hơn 100.000 token với tốc độ nhanh gấp 3 lần so với trước đây.
Đăng nhập để góp ý, chỉnh sửa
Nguồn chính
- SOURCE@muennighoff“vanilla full attention OOMs on long tasks & compaction loses important details”x.com
- SUPPORT@iscienceluvr“Training with Prefix Sliding using reinforcement learning can achieve better performance by enabling scaling to reasoning traces beyond a hundred thousand tokens”x.com
- SUPPORT@percyliang“Prefix Sliding for efficient test-time scaling”x.com