Research17.11.2026 · 12:001 nguồn
Check token: Tự xác minh thời gian thực và cắt tỉa chính xác trong LLM reasoning
Từ arxiv.org
Bộ nhớ ECC nhúng 8 bit kiểm tra cho mỗi 64 bit dữ liệu, giúp tự động phát hiện và sửa lỗi trong mỗi lần đọc. Các bit kiểm tra này không mang dữ liệu mà chỉ bảo vệ tính toàn vẹn với mức chi phí khoảng 12,5%. Tuy nhiên, các chuỗi reasoning của LLM lại thiếu khả năng tự xác minh tích hợp như vậy: một khi lỗi xảy ra, nó sẽ lan truyền dọc theo chuỗi, và các phương pháp hiện tại chỉ có thể xác minh từ bên ngoài sau khi quá trình tạo hoàn tất. Chúng tôi đề xuất check token, lần đầu tiên thiết lập khả năng tự xác minh tích hợp cho các luồng tạo văn bản của mô hình ngôn ngữ: một dấu mốc chức năng được thêm vào từ vựng, và mô hình sẽ kích hoạt quá trình tự kiểm tra (phân tích, định vị, cắt tỉa, viết lại) bằng cách xuất token này tại bất kỳ vị trí nào. Check token không mang nội dung reasoning (sẽ bị loại bỏ sau khi kích hoạt) mà chỉ bảo vệ tính chính xác của reasoning, đóng vai trò tương tự như các bit kiểm tra ECC, với mức chi phí chỉ khoảng 13%. Ngoài ra, kỹ thuật speculative forking giúp loại bỏ độ trễ do dương tính giả, và segmented reward giúp việc xác định thời điểm kích hoạt có thể học được từ đầu đến cuối.
Nguồn
Lịch sử nội dung (2)
- 2026-11-17 · Tóm tắt · vi · Thay nội dung đã lưuNghiên cứu về Check Token giới thiệu phương pháp tự xác minh trong thời gian thực và cắt …Bộ nhớ ECC nhúng 8 bit kiểm tra cho mỗi 64 bit dữ liệu, giúp tự động phát hiện và sửa lỗi…
- 2026-11-17 · Tiêu đề · vi · Thay nội dung đã lưuCheck Token: tự xác minh thời gian thực và cắt tỉa chính xác trong LLM reasoningCheck token: Tự xác minh thời gian thực và cắt tỉa chính xác trong LLM reasoning
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay