--- format: "aidr-story-markdown/v1" id: "bc00e1abe23c7a7329aa814fe5150dfaef6f5ba5421ddaf868c92523c290ff65" canonical_url: "https://aidr.today/bc00e1ab?lang=vi" title: "Memorilla latent semantic memory for LLMs" lang: "vi" requested_lang: "vi" available_langs: ["en","vi"] translation_fallback: null fallback_fields: [] published_at: "2026-11-06T18:03:33.000Z" category: "Data" topics: ["llm","data-engineering"] source_urls: ["https://arxiv.org/abs/2610.21375","https://news.ycombinator.com/item?id=50395919"] summary: "Memory giúp các LLM dùng thông tin ngoài tham số của chúng như hội thoại người dùng trước, tài liệu dài hoặc hành động trước đó của agent. Với LLM bị đóng băng, việc truy cập kiến thức tích lũy này chỉ giới hạn trong context window mà hệ thống memory đặt vào. Tuy nhiên, việc thu thập và kết hợp thông tin liên quan cho mỗi query trong khi giữ context của mô hình ngắn vẫn là thách thức với các hệ thống hiện tại. Chúng tôi giới thiệu Memorilla, một hệ thống memory thu thập thông tin từ toàn bộ bộ sưu tập tài liệu thành một số lượng cố định 'memory token' phụ thuộc query cho LLM bị đóng băng. Memorilla mã hóa tài liệu (như chat người dùng, chương sách) một lần thành embedding tái sử dụng, sau đó học cách truy xuất và đặt thông tin cụ thể cho query vào không gian embedding đầu vào của LLM. Chỉ dùng 16 memory token, Memorilla đạt hiệu suất tốt nhất so với các baseline bao gồm Mem0 và MemoRAG trên năm trong tám benchmark về cá nhân hóa, trả lời câu hỏi kiến thức và tài liệu dài. Đáng chú ý, trên FactKG, nó đạt độ chính xác 84,33% so với 80,43% khi dùng full-context inference, trong khi chỉ dùng ít hơn 108 lần token để đại diện tài liệu nguồn. Hơn nữa, Memorilla hỗ trợ continual learning…" --- # Memorilla latent semantic memory for LLMs > [Open the canonical story]() **Published:** 2026-11-06T18:03:33.000Z **Category:** Data **Topics:** llm, data\-engineering ## Summary Memory giúp các LLM dùng thông tin ngoài tham số của chúng như hội thoại người dùng trước, tài liệu dài hoặc hành động trước đó của agent\. Với LLM bị đóng băng, việc truy cập kiến thức tích lũy này chỉ giới hạn trong context window mà hệ thống memory đặt vào\. Tuy nhiên, việc thu thập và kết hợp thông tin liên quan cho mỗi query trong khi giữ context của mô hình ngắn vẫn là thách thức với các hệ thống hiện tại\. Chúng tôi giới thiệu Memorilla, một hệ thống memory thu thập thông tin từ toàn bộ bộ sưu tập tài liệu thành một số lượng cố định 'memory token' phụ thuộc query cho LLM bị đóng băng\. Memorilla mã hóa tài liệu \(như chat người dùng, chương sách\) một lần thành embedding tái sử dụng, sau đó học cách truy xuất và đặt thông tin cụ thể cho query vào không gian embedding đầu vào của LLM\. Chỉ dùng 16 memory token, Memorilla đạt hiệu suất tốt nhất so với các baseline bao gồm Mem0 và MemoRAG trên năm trong tám benchmark về cá nhân hóa, trả lời câu hỏi kiến thức và tài liệu dài\. Đáng chú ý, trên FactKG, nó đạt độ chính xác 84,33% so với 80,43% khi dùng full\-context inference, trong khi chỉ dùng ít hơn 108 lần token để đại diện tài liệu nguồn\. Hơn nữa, Memorilla hỗ trợ continual learning… ## Sources - [Story source]() - [Discussion]()