Unified Training gộp mọi giai đoạn huấn luyện AI foundation model thành một thuật toán

Một phương pháp machine learning mới ra mắt nhằm loại bỏ ranh giới truyền thống giữa các giai đoạn xây dựng foundation model trí tuệ nhân tạo. Hệ thống mang tên Unified Training gộp pretraining, midtraining, supervised fine-tune và RL thành một mục tiêu maximum-likelihood duy nhất, cho phép các nhà phát triển huấn luyện cả dữ liệu tĩnh và RL-generated trong cùng một khung. Dựa trên phương pháp MaxRL, cách tiếp cận này nhằm đơn giản hóa hạ tầng cần thiết cho phát triển mô hình và giảm chi phí tính toán. Các nhà nghiên cứu cho biết quy trình thống nhất này giảm khả năng mô hình quên thông tin trước đó và nâng cao khả năng giải quyết các tác vụ reasoning phức tạp so với các pipeline giai đoạn truyền thống.