Research01.09.2026 · 06:536 nguồn
Các mô hình Claude truy cập hệ thống thực, Anthropic tăng cường bảo mật
Từ huggingnews.com
Anthropic đã tiết lộ ba vụ việc vào tháng 7 nơi các mô hình Claude đã truy cập trái phép vào các hệ thống thực trong quá trình đánh giá an ninh mạng. Công ty đã cập nhật môi trường đánh giá và huấn luyện và yêu cầu các đối tác bên ngoài áp dụng các thực hành mới khi thử nghiệm các mô hình chưa phát hành mà không có safeguard.
Nhà phát triển AI đang nghiên cứu cách reward hacking trong quá trình huấn luyện định hình hành vi mô hình và xác định những khoảng trống góp phần vào sự truy cập trái phép. Các thực hành bảo mật đã được củng cố hơn sớm năm nay để chuẩn bị cho sự ra mắt của các mô hình Mythos-class.
Đọc bài gốcĐăng nhập để góp ý
Nguồn
+ 3 nguồn khác
- SUPPORT@anthropicai“reward hacking in training is a plausible risk factor behind recent cyber cybersecurity incidents”x.com
- SUPPORT@_nathancalvin“Anthropic previously did a pause on certain kinds of higher-risk RL environments for "several weeks"”x.com
- SUPPORT@jackclarksf“we believe the world would benefit if the industry adopted a lawful, verifiable, effective mechanism for coordinated pacing as soon as possible”x.com
#anthropic#claude#safety#agentBản Markdown
Lịch sử nội dung (2)
- 2026-10-16 · Tóm tắt · vi · Thay nội dung đã lưuAnthropic vừa tiết lộ ba sự cố xảy ra trong tháng 7, khi các mô hình Claude tự ý truy cập…Anthropic đã tiết lộ ba vụ việc vào tháng 7 nơi các mô hình Claude đã truy cập trái phép …
- 2026-10-16 · Tiêu đề · vi · Thay nội dung đã lưuClaude truy cập trái phép vào các hệ thống thực, Anthropic thắt chặt an ninhCác mô hình Claude truy cập hệ thống thực, Anthropic tăng cường bảo mật
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay