Research31.08.2026 · 14:49

Breaking Claude Code Opus 5 Auto Mode

Từ embracethered.com

Ảnh: embracethered.com
AI;DR

Trong bài viết này, chúng tôi khám phá cách một yêu cầu tóm tắt trang web đơn giản đã chiếm quyền Claude Code Opus 5 ở chế độ Auto Mode và đạt được thực thi mã với tỷ lệ thành công tấn công từ 60-80% bằng kích thước mẫu nhỏ. Điều này thú vị vì một đánh giá độc lập do Anthropic thuê cho thấy tỷ lệ thành công tấn công tiêm prompt là 0,00% cho Opus 5 ở chế độ Auto Mode. Auto Mode thay thế các lời nhắc phê duyệt từ con người bằng một bộ phân loại an toàn. Từ giữa tháng 8, đây trở thành chế độ khởi động mặc định cho Claude Code. Để nói rõ quan điểm chính ngay lập tức: Nếu bạn quan tâm đến những gì đang xảy ra và lo ngại về sự thích ứng, hiện tượng tự tạo ra và tiêm prompt, thì Auto Mode KHÔNG phải là sự thay thế cho việc chạy agent của bạn trong môi trường cô lập và theo dõi những gì nó đang làm. Boris Cherny từ Anthropic gần đây đã đăng tải rằng các lớp bảo vệ có thể giảm thiểu tiêm prompt gián tiếp trên những cuộc tấn công chưa từng thấy xuống khoảng không. Các lớp bảo vệ bao gồm huấn luyện mô hình, sond probe đầu vào và một bộ phân loại ý định. Họ đã thuê một nhà cung cấp (Trajectory Labs) để kiểm tra 72 kịch bản tiêm prompt gián tiếp mỗi lần 10 lần. Đánh giá dường như chưa có tên benchmark công bố, và biểu đồ chia sẻ cho thấy tỷ lệ thành công tấn công là 0,00% cho Opus 5 ở chế độ Auto Mode. Tôi muốn kiểm tra xem kết quả đó vẫn giữ được hiệu lực trước một chuỗi tấn công được nhắm mụng tiêu.

Đọc bài gốcĐăng nhập để góp ý

Nguồn

+ 1 nguồn khác
  1. THẢO LUẬNRecursingnews.ycombinator.com
#anthropic#claude#claude-code#safety#codingBản Markdown
Lịch sử nội dung (2)
  • 2026-10-16 · Tóm tắt · vi · Thay nội dung đã lưu
    Bài viết này phân tích cách một yêu cầu tóm tắt website đơn giản có thể chiếm quyền điều …
    Trong bài viết này, chúng tôi khám phá cách một yêu cầu tóm tắt trang web đơn giản đã chi…
  • 2026-10-16 · Tiêu đề · vi · Thay nội dung đã lưu
    Phá vỡ cơ chế bảo mật của Claude Code Opus 5 ở chế độ Auto Mode
    Breaking Claude Code Opus 5 Auto Mode

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay