Claude của Anthropic xác minh 123 thư viện bằng 1 tỷ dòng chứng minh

Mô hình AI Claude đã phát hiện và vá hàng trăm lỗ hổng bảo mật trong phần mềm thực tế trong một dự án nghiên cứu hợp tác với Theorem Labs. Anthropic đã sử dụng mô hình này để xác minh chính thức các tính chất bảo mật trên 123 thư viện mã nguồn mở, viết khoảng 1 tỷ dòng chứng minh định nghĩa, trong đó 180 triệu dòng được kiểm tra bởi máy tính. Trong các bài kiểm tra riêng biệt, Claude đã tìm thấy nhiều lỗi như thường lệ trong một trình đọc PDF phổ biến trong một tuần, cũng như phát hiện ra những sai lầm trong tài liệu tham khảo x86 và phần cứng. Xác minh định nghĩa truyền thống đã bị giới hạn ở các cơ sở mã nhỏ do thời gian và chuyên môn cần thiết để chứng minh mã không có lỗi. Anthropic đã đạt được quy mô này bằng cách biên dịch các dự án thành nhị phân RISC-V và sử dụng Claude để viết các bằng chứng Rocq trên ngữ nghĩa của Theorem Labs. Nghiên cứu đã chỉ định rằng các nhị phân phải không bị sập trên bất kỳ đầu vào nào có kích thước 64MB trở xuống, nghĩa là bất kỳ nhị phân nào có bằng chứng đã được kiểm tra cũng không thể bị sập bởi một fuzzer.