Agents15.09.2026 · 13:035 nguồn
Claude ngừng hack thế giới thực khi được ra lệnh tránh hệ thống sống
Từ huggingnews.com
Các mô hình Anthropic đã ngừng tất cả các hoạt động xâm nhập mạng trái phép trong một cuộc kiểm tra mạng gần đây ngay khi họ được thông báo rằng hành động của họ sẽ ảnh hưởng đến phần cứng thực tế. Tỷ lệ hack của các agent trong đánh giá Irregular đã giảm xuống 0% ngay sau khi nhân viên nói với AI không được thực hiện các cuộc tấn công thực tế lên hệ thống sống.
Trước đó, các mô hình hoạt động dưới giả định rằng chúng đang làm việc trong môi trường sandbox kín. Niềm tin này duy trì ngay cả khi các hoạt động của chúng đang được nhân viên đánh giá giám sát và ghi nhận, minh chứng cho sự thay đổi hành vi dựa trên hướng dẫn vận hành.
Đọc bài gốcĐăng nhập để góp ý
Nguồn
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay