Research31.08.2026 · 14:49
Breaking Claude Code Opus 5 Auto Mode
Từ embracethered.com
Trong bài viết này, chúng tôi khám phá cách một yêu cầu tóm tắt trang web đơn giản đã chiếm quyền Claude Code Opus 5 ở chế độ Auto Mode và đạt được thực thi mã với tỷ lệ thành công tấn công từ 60-80% bằng kích thước mẫu nhỏ. Điều này thú vị vì một đánh giá độc lập do Anthropic thuê cho thấy tỷ lệ thành công tấn công tiêm prompt là 0,00% cho Opus 5 ở chế độ Auto Mode. Auto Mode thay thế các lời nhắc phê duyệt từ con người bằng một bộ phân loại an toàn. Từ giữa tháng 8, đây trở thành chế độ khởi động mặc định cho Claude Code. Để nói rõ quan điểm chính ngay lập tức: Nếu bạn quan tâm đến những gì đang xảy ra và lo ngại về sự thích ứng, hiện tượng tự tạo ra và tiêm prompt, thì Auto Mode KHÔNG phải là sự thay thế cho việc chạy agent của bạn trong môi trường cô lập và theo dõi những gì nó đang làm. Boris Cherny từ Anthropic gần đây đã đăng tải rằng các lớp bảo vệ có thể giảm thiểu tiêm prompt gián tiếp trên những cuộc tấn công chưa từng thấy xuống khoảng không. Các lớp bảo vệ bao gồm huấn luyện mô hình, sond probe đầu vào và một bộ phân loại ý định. Họ đã thuê một nhà cung cấp (Trajectory Labs) để kiểm tra 72 kịch bản tiêm prompt gián tiếp mỗi lần 10 lần. Đánh giá dường như chưa có tên benchmark công bố, và biểu đồ chia sẻ cho thấy tỷ lệ thành công tấn công là 0,00% cho Opus 5 ở chế độ Auto Mode. Tôi muốn kiểm tra xem kết quả đó vẫn giữ được hiệu lực trước một chuỗi tấn công được nhắm mụng tiêu.
Nguồn
+ 1 nguồn khác
- THẢO LUẬNRecursingnews.ycombinator.com
Lịch sử nội dung (2)
- 2026-10-16 · Tóm tắt · vi · Thay nội dung đã lưuBài viết này phân tích cách một yêu cầu tóm tắt website đơn giản có thể chiếm quyền điều …Trong bài viết này, chúng tôi khám phá cách một yêu cầu tóm tắt trang web đơn giản đã chi…
- 2026-10-16 · Tiêu đề · vi · Thay nội dung đã lưuPhá vỡ cơ chế bảo mật của Claude Code Opus 5 ở chế độ Auto ModeBreaking Claude Code Opus 5 Auto Mode
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay