Research21.11.2026 · 23:231 nguồn

Các nhà nghiên cứu Nvidia cho rằng context window AI khổng lồ là một ngõ cụt

Từ the-decoder.com

Ảnh: the-decoder.com
AI;DR

Các nhà nghiên cứu tại Nvidia lập luận rằng các mô hình ngôn ngữ thường không cần dùng hết context window của chúng—vốn chậm, đắt đỏ và dễ xảy ra lỗi—đồng thời đề xuất một giải pháp thay thế. Trong các thử nghiệm, việc tóm tắt định kỳ và tìm kiếm từ khóa mục tiêu thường cho kết quả tương đương với việc dùng toàn bộ context nhưng với chi phí chỉ bằng một phần nhỏ. Nhóm nghiên cứu thậm chí còn đề xuất một dòng mô hình mới hoạt động với các ghi chú ngắn thay vì context dài.

Đọc bài gốcĐăng nhập để góp ý

Nguồn

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay