--- format: "aidr-story-markdown/v1" id: "270eaf07b93973c26edc09e4bf1a67090614a4dbcacf4d2fc4e4441425d5855f" canonical_url: "https://aidr.today/270eaf07?lang=vi" title: "OpenESM: Energy-Steered Models Are Scalable Foundation Learners" lang: "vi" requested_lang: "vi" available_langs: ["en","vi"] translation_fallback: null fallback_fields: [] published_at: "2026-10-27T04:00:00.000Z" category: "Research" topics: ["llm"] source_urls: ["https://arxiv.org/abs/2610.33005"] summary: "Các mô hình dựa trên năng lượng đã cho thấy những tính chất đáng hứa cho các tác vụ chuyên ngành nhưng vẫn gặp thách thức trong mô hình hóa các kịch bản sử dụng chung. Để kết nối khoảng trống này, chúng tôi thiết kế các mô hình điều khiển năng lượng (ESMs) cho mô hình ngôn ngữ nền tảng. Các ESMs tích hợp điều khiển năng lượng và sinh token trong một kiến trúc duy nhất để tận dụng tìm kiếm dẫn dắt bởi năng lượng nhằm tinh chỉnh sinh token. Cụ thể, các ESMs đầu tiên tối ưu một trạng thái tiềm nhiên trên phương trình năng lượng, sau đó sử dụng trạng thái tiềm nhiên được tinh chỉnh để sinh token. Bằng cách thực hiện huấn luyện sơ cấp dựa trên tìm kiếm dẫn dắt bởi năng lượng trên các khoanh dữ liệu quy mô lớn, các ESMs học được một phương trình năng lượng chung hiệu quả nơi các token ưu tiên tương ứng với giá trị năng lượng thấp. Để khám phá hành vi mở rộng của các ESMs, chúng tôi tiến hành huấn luyện sơ cấp các ESMs trên ba khoanh dữ liệu quy mô lớn, sau đó đánh giá trên 26 nhiệm vụ phụ thuộc bao phủ nhiều lĩnh vực khác nhau. Kết quả của chúng tôi cho thấy các ESMs có hành vi mở rộng đáng hứa với sự tăng kích thước mô hình và dữ liệu huấn luyện, đồng thời vượt trội hơn GPTs trên hầu h…" --- # OpenESM: Energy\-Steered Models Are Scalable Foundation Learners > [Open the canonical story]() **Published:** 2026-10-27T04:00:00.000Z **Category:** Research **Topics:** llm ## Summary Các mô hình dựa trên năng lượng đã cho thấy những tính chất đáng hứa cho các tác vụ chuyên ngành nhưng vẫn gặp thách thức trong mô hình hóa các kịch bản sử dụng chung\. Để kết nối khoảng trống này, chúng tôi thiết kế các mô hình điều khiển năng lượng \(ESMs\) cho mô hình ngôn ngữ nền tảng\. Các ESMs tích hợp điều khiển năng lượng và sinh token trong một kiến trúc duy nhất để tận dụng tìm kiếm dẫn dắt bởi năng lượng nhằm tinh chỉnh sinh token\. Cụ thể, các ESMs đầu tiên tối ưu một trạng thái tiềm nhiên trên phương trình năng lượng, sau đó sử dụng trạng thái tiềm nhiên được tinh chỉnh để sinh token\. Bằng cách thực hiện huấn luyện sơ cấp dựa trên tìm kiếm dẫn dắt bởi năng lượng trên các khoanh dữ liệu quy mô lớn, các ESMs học được một phương trình năng lượng chung hiệu quả nơi các token ưu tiên tương ứng với giá trị năng lượng thấp\. Để khám phá hành vi mở rộng của các ESMs, chúng tôi tiến hành huấn luyện sơ cấp các ESMs trên ba khoanh dữ liệu quy mô lớn, sau đó đánh giá trên 26 nhiệm vụ phụ thuộc bao phủ nhiều lĩnh vực khác nhau\. Kết quả của chúng tôi cho thấy các ESMs có hành vi mở rộng đáng hứa với sự tăng kích thước mô hình và dữ liệu huấn luyện, đồng thời vượt trội hơn GPTs trên hầu h… ## Sources - [Story source]()