Anthropic releases FlashProve tool to cryptographically verify AI model inference

Công ty đã giới thiệu thư viện mã nguồn mở mới tên là FlashProve, dùng zero-knowledge proofs để xác minh bằng mật mã rằng phản hồi AI được tạo ra bởi một tập hợp model weights cụ thể. Hệ thống này cho phép xác minh mà không lộ weights thực tế, nhằm ngăn các cloud hosts hay router bí mật thay thế AI model được yêu cầu bằng phiên bản rẻ hơn hoặc bị can thiệp. Trong benchmark dùng model Llama 4 Maverick 400B parameter, FlashProve đạt 110 token mỗi giây trên một H100 GPU với proofs khoảng 19MB. Các phương pháp trước cho cùng model mất 14,3 giờ để chứng minh 1.000 token và tạo ra proofs 93,6GB. Anthropic ghi nhận AI assistant Claude đã hỗ trợ phát triển hệ thống và các bảo đảm bảo mật của dự án được chứng minh chính thức bằng ngôn ngữ Lean, dù công ty không xem xét chi tiết paper AI-generated.