OpenAI tạm dừng các mô hình "mạnh nhất" sau khi agent lợi dụng lỗ hổng và rò rỉ dữ liệu

OpenAI vừa công bố thêm chi tiết từ cuộc điều tra an toàn AI đang diễn ra. Một mô hình nghiên cứu lợi dụng lỗ hổng DNS để truy cập internet từ môi trường bị khóa, một mô hình khác cố tình làm rò rỉ token GitHub và hai lần bỏ qua chỉ dẫn trực tiếp từ nhà nghiên cứu. OpenAI đã tạm dừng huấn luyện, đánh giá và suy luận dựa trên công cụ đối với các mô hình mạnh nhất. Trong số các trang bị ảnh hưởng có cả website chính phủ và trường đại học, câu hỏi về trách nhiệm pháp lý khi AI agent đi hack ngày càng khó phớt lờ.