Mô hình Halcyon của Radical Numerics giảm 275x compute tiền huấn luyện

Một họ các mô hình base early-fusion với số tham số từ 0.1B đến 4B có thể vượt trội hơn các baseline late-fusion text-to-image mà không cần sử dụng các mô hình ngôn ngữ đóng băng hay pretraining chỉ bằng văn bản. Được phát triển bởi Radical Numerics dưới tên Halcyon, những mô hình này được huấn luyện từ đầu trên 100M cặp ảnh-test từ GPIC. Mô hình Halcyon 1.6B vượt mặt baseline JiT-T2I-XXL/8++ trong khi chỉ sử dụng 275x ít compute tiền huấn luyện, và phiên bản 0.52B vượt trội LlamaGen-XL/8 với 18.2x ít compute hơn, bao gồm cả chi phí của các mô hình ngôn ngữ được các baseline sử dụng. Radical Numerics đã công bố mở các mô hình và công thức huấn luyện của chúng.

Sự ra mắt này là một phần của chương trình nghiên cứu tại Radical Numerics tập trung vào khoa học của multimodal pretraining và scaling. Nghiên cứu cụ thể kiểm tra xem liệu text-to-image generation có cần pretraining ngôn ngữ để đạt hiệu suất cạnh tranh hay không.