Anthropic là phòng thí nghiệm lớn duy nhất xác nhận việc AI lập trình đệ quy tại phiên điều trần ở NYC

Trong phiên điều tra về an toàn diễn ra vào ngày 5/10, đại diện của OpenAI và Google đã từ chối cho biết liệu các hệ thống của họ có tạo ra mã nguồn cho các phiên bản thế hệ tiếp theo của chính chúng hay không. Anthropic là công ty hàng đầu duy nhất thừa nhận rằng AI của mình sử dụng một vòng lặp đệ quy, nơi đầu ra của một mô hình được dùng trong các vòng huấn luyện tiếp theo để tạo ra một phiên bản kế nhiệm thông minh hơn. Đại diện từ Meta không thể trả lời liệu các mô hình của họ có tự tạo mã nguồn hay không, trong khi các thành viên Hội đồng thành phố NYC chất vấn các công ty về cách họ định lượng rủi ro và liệu họ có các sự cố an ninh mạng chưa được tiết lộ hay không.

Các cựu nghiên cứu viên từ Anthropic và OpenAI làm chứng rằng việc tự động hóa nghiên cứu AI hiện là mục tiêu chính của ngành, với các cột mốc cho một nhà nghiên cứu tự động có thể đạt được vào năm 2027 hoặc 2028, đang đi đúng tiến độ hoặc sớm hơn dự kiến. Coxon, một cựu nhân viên Anthropic, cho biết phần lớn mã nguồn hiện đã là AI-written mà không có sự kiểm duyệt đầy đủ từ con người. Những tiết lộ này diễn ra khi toàn bộ 51 thành viên hội đồng đang xem xét một dự luật nhằm cấm bán các mô hình AI trong thành phố mà không có sự xác thực từ bên ngoài, bao gồm mức phạt 25.000 USD cho mỗi lần triển khai không được xác thực và yêu cầu bắt buộc phải có khả năng tắt máy do con người vận hành.