--- format: "aidr-story-markdown/v1" id: "aa65eb3ab36b5eef10afd8013f57ac938e7f406160eadcec57c2cf92b2630f43" canonical_url: "https://aidr.today/aa65eb3a?lang=vi" title: "Không gian thiết kế của các mô hình phân tán mặt nạ ba dạng" lang: "vi" requested_lang: "vi" available_langs: ["en","vi"] translation_fallback: null fallback_fields: [] published_at: "2026-10-14T00:00:00.000Z" category: "Research" topics: ["llm"] source_urls: ["https://machinelearning.apple.com/research/tri-modal-masked-diffusion"] summary: "Không gian thiết kế của các mô hình phân tán mặt nạ ba dạng Tác giả Louis Béthune, Victor Turrisi, Bruno Kacper Mlodozeniec†**, Pau Rodriguez Lopez, Lokesh Boominathan, Nikhil Bhendawade, Amitis Shidani, Joris Pelemans, Theo X. Olausson‡**, Devon Hjelm, Paul Dixon, João Monteiro, Pierre Ablin, Vishnu Banna, Arno Blaas, Nick Henderson, Kari Noriy, Dan Busbridge, Josh Susskind, Marco Cuturi, Irina Belousova, Luca Zappella, Russ Webb, Jason Ramapuram§** Các mô hình phân tán rời rạc đã trở thành lựa chọn mạnh mẽ thay thế cho các mô hình ngôn ngữ tự động hóa, với những công trình gần đây khởi tạo và fine-tune một mô hình cơ sở đơn dạng cho sinh ra hai dạng. Khác biệt với các cách tiếp cận trước đó, chúng tôi giới thiệu các mô hình phân tán mặt nạ ba dạng (MDM) đầu tiên được pretrain từ đầu trên dữ liệu văn bản, hình ảnh-văn bản và âm thanh-văn bản. Chúng tôi phân tích hệ thống các luật mở rộng đa dạng thức, tỷ lệ pha trộn dạng, lịch trình nhiễu, hiệu ứng kích thước lô và cung cấp các giá trị mặc định mẫu suy diễn tối ưu. Phân tích kích thước lô của chúng tôi cho ra một cách biến đổi mới dựa trên phương trình vi phân thống kê (SDE), loại bỏ nhu cầu điều chỉnh kích thước lô tối ưu như đã…" --- # Không gian thiết kế của các mô hình phân tán mặt nạ ba dạng > [Open the canonical story]() **Published:** 2026-10-14T00:00:00.000Z **Category:** Research **Topics:** llm ## Summary Không gian thiết kế của các mô hình phân tán mặt nạ ba dạng Tác giả Louis Béthune, Victor Turrisi, Bruno Kacper Mlodozeniec†\*\*, Pau Rodriguez Lopez, Lokesh Boominathan, Nikhil Bhendawade, Amitis Shidani, Joris Pelemans, Theo X\. Olausson‡\*\*, Devon Hjelm, Paul Dixon, João Monteiro, Pierre Ablin, Vishnu Banna, Arno Blaas, Nick Henderson, Kari Noriy, Dan Busbridge, Josh Susskind, Marco Cuturi, Irina Belousova, Luca Zappella, Russ Webb, Jason Ramapuram§\*\* Các mô hình phân tán rời rạc đã trở thành lựa chọn mạnh mẽ thay thế cho các mô hình ngôn ngữ tự động hóa, với những công trình gần đây khởi tạo và fine\-tune một mô hình cơ sở đơn dạng cho sinh ra hai dạng\. Khác biệt với các cách tiếp cận trước đó, chúng tôi giới thiệu các mô hình phân tán mặt nạ ba dạng \(MDM\) đầu tiên được pretrain từ đầu trên dữ liệu văn bản, hình ảnh\-văn bản và âm thanh\-văn bản\. Chúng tôi phân tích hệ thống các luật mở rộng đa dạng thức, tỷ lệ pha trộn dạng, lịch trình nhiễu, hiệu ứng kích thước lô và cung cấp các giá trị mặc định mẫu suy diễn tối ưu\. Phân tích kích thước lô của chúng tôi cho ra một cách biến đổi mới dựa trên phương trình vi phân thống kê \(SDE\), loại bỏ nhu cầu điều chỉnh kích thước lô tối ưu như đã… ## Sources - [Story source]()