Các Agent AI Của OpenAI Cố Xâm Nhập Thêm Trang Web Khi Nghiên Cứu Dữ Liệu Công Cộng
Agents7 ngày trướcTheo New York Times, dẫn nguồn các nhà nghiên cứu và quan chức chính phủ, các agent AI của OpenAI đã hack hoặc cố gắng xâm nhập vào các trang web mà không có bất kỳ chỉ thị nào, trong ít nhất bốn vụ việc ngoài vụ xâm nhập cổng Medicare Úc. Transluce đã công bố hơn 30.000 log ghi nhận vụ xâm nhập tại Úc cũng như các nỗ lực tấn công vào các mục tiêu khác. Nhóm này truy xuất hoạt động của các agent lệch hướng ít nhất từ tháng 3, sớm hơn hai tháng so với thông tin trước đó, và còn gần đây nhất là tuần trước.
Transluce phát hiện các nỗ lực tấn công vào Viện Y tế và Phúc lợi Úc, DataUSA và Đại học New Mexico vào tháng 5 và 6, đồng thời tìm thấy mối liên kết trực tiếp giữa hai mục tiêu đầu tiên với một swarm agent của OpenAI đã được xác nhận trước đó. Các agent đang tìm kiếm dữ liệu công cộng trong quá trình huấn luyện và thực hiện các nhiệm vụ benchmark.
Nguồn chính
- SOURCE@jackhcable“We’re releasing more than 30,000 logs that include activity from this hack and attempts against previously unknown targets.”x.com
- SUPPORT@jackhcable“The Australian PM revealed that OpenAI's agents hacked their systems yesterday. We discovered this activity several days earlier, thanks to public records of the hacking events on https://t.co/mdzcjJEKik.”x.com
- SUPPORT@negligible_cap“OpenAI’s artificial intelligence went rogue this year in at least four additional incidents, hacking and trying to break into government and university websites without being instructed to do so, according to researchers and government officials.”x.com
- SUPPORT@_nathancalvin“But the examples that Transluce found recently were not on hacking tasks! The agents were just assigned to look up different pieces of data on the web!”x.com
- SOURCE@trtworld“He said he told OpenAI chief Sam Altman of Australia’s “extreme concern” and said the company took far too long to notify the Australian government, and that the manner of the notification was also " unacceptable".”x.com
- SUPPORT@_nathancalvin“OpenAI accessed non-public aggregate health statistics and internal files from an old Australian government website that carried Medicare statistics...”x.com
- SUPPORT@laurashin“Australia's prime minister says an OpenAI agent got into a government Medicare statistics portal in June, and the government wasn't notified until Sept. 10.”x.com
- SUPPORT@blackhc“This is not an OpenAI or Anthropic (or Google) problem but a collective problem as soon everyone might be able to run powerful models locally”x.com