Anthropic ước tính nội bộ các AI model sắp đạt ngưỡng tăng tốc nghiên cứu

Startup AI này đang xem xét cập nhật các hướng dẫn an toàn, yêu cầu con người xem xét và phê duyệt các quyết định cụ thể trong quy trình nghiên cứu và phát triển khi các model của họ đảm nhận phần lớn công việc. Trong hồ sơ S-1 sửa đổi công bố hôm thứ hai, Anthropic ghi nhận dù không model hiện tại nào đạt giới hạn an toàn quy định, dự báo cho các phiên bản tương lai cho thấy chúng có thể sớm đáp ứng tiêu chí cho "tiến bộ tăng tốc đáng kể do AI đóng góp". Công ty đang đánh giá tác động của việc vượt ngưỡng năng lực nghiên cứu này và dự kiến sẽ công bố thêm báo cáo trong tương lai. Mặc dù Anthropic dự định dùng các Claude model để tăng đòn bẩy trong phát triển AI mới, công ty tuyên bố không dự kiến an toàn sử dụng công nghệ để tự động thiết kế các thế hệ frontier model kế tiếp mà không có sự giám sát của con người.