Baseten và Goodfire AI ra mắt bộ công cụ an toàn mô hình mở tích hợp đầu tiên

Khách hàng doanh nghiệp giờ đây có thể giám sát thời gian chạy AI để nhận diện rủi ro từ trí tuệ nhân tạo bên thứ ba thông qua bộ công cụ cộng tác mới. Baseten và Goodfire AI ra mắt Project Beacon vào ngày 9 tháng 10 để tích hợp lần đầu tiên quy trình suy luận thời gian thực và giám sát nội tuyến, giúp nhà vận hành chủ động bắt các tín hiệu an toàn trong quá trình thực thi các mô hình open-weight. Hợp tác này hướng tới việc cung cấp một bộ công cụ căn chỉnh chuẩn biên giới để đảm bảo hạ tầng an toàn nhất quán bất kể nguồn gốc mô hình. Các hãng đang cung cấp hệ thống này cho khách hàng doanh nghiệp và khẳng định các công cụ như vậy sẽ trở nên thiết yếu khi các mô hình trí tuệ nhân tạo mở ngày càng mạnh mẽ hơn.