Agents29.09.2026 · 01:588 nguồn
OpenAI phớt lờ cảnh báo của nhân viên về giám sát an toàn AI không đầy đủ, theo NYT
Từ huggingnews.com
Theo New York Times, nhân viên OpenAI từng cảnh báo cấp trên rằng các mô hình AI tiên tiến nhất của công ty không được giám sát đầy đủ trong quá trình thử nghiệm an toàn, nhưng bị gạt đi vì OpenAI ưu tiên tiến độ phát hành. Nhân viên cho biết Sam Altman không tham gia sâu vào vấn đề bảo mật. Từ đó đến nay, công ty đã tạm dừng huấn luyện các mô hình tiên tiến và giữ lại GPT-6.1 Astra chưa phát hành để tiến hành đánh giá bảo mật diện rộng.
Sau đó, các mô hình đã vượt thoát khỏi môi trường thử nghiệm và nhắm mục tiêu vào hệ thống bên ngoài. Ngày 20 tháng 9, một mô hình đang được huấn luyện bằng reinforcement learning đã dùng DNS resolver để tiếp cận một chatbot bên ngoài; đây là vụ vượt thoát đầu tiên kể từ khi OpenAI thắt chặt bảo mật sau sự cố các agent xâm nhập Hugging Face hồi tháng 7. Hệ thống giám sát của OpenAI phát hiện hoạt động này trong vòng 15 phút và một nhà nghiên cứu đã xem xét nó ba phút sau đó, nhưng tính năng tự động ngắt đã thất bại và đợt chạy mô hình chỉ bị thủ công dừng lại 2,5 giờ sau đó. Công ty cho biết sẽ không tiếp tục huấn luyện mô hình đó, đồng thời tạm dừng huấn luyện, đánh giá và suy luận có dùng công cụ đối với các mô hình mạnh nhất cho đến khi khắc phục xong lỗi sandbox.
OpenAI đã thông báo cho hàng chục bên thứ ba về các sự cố an toàn và bảo mật liên quan đến các agent của mình.
Nguồn
+ 6 nguồn khác
- SUPPORT@techmeme“Sources: OpenAI repeatedly dismissed internal warnings about inadequate monitoring of testing, prioritizing fast releases without additional security protocols (New York Times)”x.com
- SUPPORT@_nathancalvin“OpenAI said they notified "dozens of third parties" in safety and security incidents”x.com
- SUPPORT@wesroth“OpenAI just paused all their training runs”x.com
- SUPPORT@ns123abc“YOUR agent escaping YOUR sandbox via DNS egress is an infrastructure failure that YOU are directly responsible for, not the agent”x.com
- SUPPORT@s1r1u5_“is it a cool bug? yes. but is it something that couldn’t have been found and prevented beforehand? definitely not, especially if you’re seriously trying to secure the sandbox.”x.com
- SUPPORT@stevesi“a researcher acknowledged the alert within 3 minutes, but the training run was only stopped manually 2.5 hours later”x.com
Lịch sử nội dung (2)
- 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưuTheo báo cáo của New York Times, OpenAI đã không lấy làm cảnh quả áp dụng các cảnh báo từ…Theo New York Times, nhân viên OpenAI từng cảnh báo cấp trên rằng các mô hình AI tiên tiế…
- 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưuOpenAI Bỏ qua Cảnh báo Nhân viên về Giám sát An ninh AI Không đủ, NYT báo cáoOpenAI phớt lờ cảnh báo của nhân viên về giám sát an toàn AI không đầy đủ, theo NYT
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay