Kiến trúc mới trả lời câu hỏi có cấu trúc song song, cung cấp điểm tin cậy và lựa chọn kiểu dữ liệu thay vì sinh từng token. TypeSafe cho biết mô hình Jev trả lời trong 70 đến 500 mili giây, nhanh 20 đến 200 lần và rẻ 40 đến 400 lần so với các mô hình ngôn ngữ lớn tương đương. Cách tiếp cận System One này cho phép phần mềm hành động trực tiếp dựa trên phán định AI mà không cần lớp dịch để phân tích hoặc xác thực văn bản tuần tự.
Quá trình huấn luyện dựa trên Học tăng cường cho Quyết định Được hiệu chuẩn (RLCD) để căn chỉnh xác suất đầu ra với độ chính xác câu trả lời. Hệ thống cung cấp token đầu ra miễn phí và được xây dựng bởi Diogo - người đồng phát minh ChatGPT - để hỗ trợ tự động hóa AI. Trong một tuần thử nghiệm bởi các nhà phát triển...
Nguồn chính
- SOURCE@stocksavvyshay“first “System One” model built to answer structured questions in parallel instead of generating text token by token”x.com
- SUPPORT@omarsar0“TypeSafe built a new architecture that answers structured questions in parallel, with RLCD training its probabilities”x.com
- SUPPORT@rohanpaul_ai“TypeSafe reports 70-500ms responses and 40-200x faster performance than comparable LLMs”x.com
- SUPPORT@danshipper“in our testing was 25x faster and 600x lower priced”x.com
- SUPPORT@ryan_t_lowe“enable a new paradigm of AI automation (that will grow alongside the current LLM + reasoning paradigm, which is complementary)”x.com
- SOURCEmarketbrief.now