Các mô hình dựa trên năng lượng đã cho thấy những tính chất đáng hứa cho các tác vụ chuyên ngành nhưng vẫn gặp thách thức trong mô hình hóa các kịch bản sử dụng chung. Để kết nối khoảng trống này, chúng tôi thiết kế các mô hình điều khiển năng lượng (ESMs) cho mô hình ngôn ngữ nền tảng. Các ESMs tích hợp điều khiển năng lượng và sinh token trong một kiến trúc duy nhất để tận dụng tìm kiếm dẫn dắt bởi năng lượng nhằm tinh chỉnh sinh token. Cụ thể, các ESMs đầu tiên tối ưu một trạng thái tiềm nhiên trên phương trình năng lượng, sau đó sử dụng trạng thái tiềm nhiên được tinh chỉnh để sinh token. Bằng cách thực hiện huấn luyện sơ cấp dựa trên tìm kiếm dẫn dắt bởi năng lượng trên các khoanh dữ liệu quy mô lớn, các ESMs học được một phương trình năng lượng chung hiệu quả nơi các token ưu tiên tương ứng với giá trị năng lượng thấp. Để khám phá hành vi mở rộng của các ESMs, chúng tôi tiến hành huấn luyện sơ cấp các ESMs trên ba khoanh dữ liệu quy mô lớn, sau đó đánh giá trên 26 nhiệm vụ phụ thuộc bao phủ nhiều lĩnh vực khác nhau. Kết quả của chúng tôi cho thấy các ESMs có hành vi mở rộng đáng hứa với sự tăng kích thước mô hình và dữ liệu huấn luyện, đồng thời vượt trội hơn GPTs trên hầu hết các nhiệm vụ phụ thuộc. Những phát hiện này làm nổi bật các ESMs như một kiến trúc đáng hứa cho huấn luyện sơ cấp quy mô lớn và giải quyết các vấn đề sử dụng chung.
Nguồn chính
- SOURCEarxiv.org