Goodfire cho biết bộ giám sát bên trong ra ngoài mới giúp bắt các rogue AI agent với chi phí thấp hơn nhiều

Goodfire vừa ra mắt cái mà họ gọi là cách tiết kiệm hơn để kiểm soát các AI agent: thay vì trả tiền cho một AI thứ hai đọc mọi việc agent làm, các bộ giám sát của họ nhìn thẳng vào bên trong mô hình khi nó hoạt động và chỉ gọi hỗ trợ khi có dấu hiệu bất thường.