Research21.11.2026 · 23:231 nguồn
Các nhà nghiên cứu Nvidia cho rằng context window AI khổng lồ là một ngõ cụt
Từ the-decoder.com
Các nhà nghiên cứu tại Nvidia lập luận rằng các mô hình ngôn ngữ thường không cần dùng hết context window của chúng—vốn chậm, đắt đỏ và dễ xảy ra lỗi—đồng thời đề xuất một giải pháp thay thế. Trong các thử nghiệm, việc tóm tắt định kỳ và tìm kiếm từ khóa mục tiêu thường cho kết quả tương đương với việc dùng toàn bộ context nhưng với chi phí chỉ bằng một phần nhỏ. Nhóm nghiên cứu thậm chí còn đề xuất một dòng mô hình mới hoạt động với các ghi chú ngắn thay vì context dài.
Đọc bài gốcĐăng nhập để góp ý
Nguồn
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay