Virus trí tuệ nhân tạo có thể lây lan qua 20 bước trung gian trong nghiên cứu đầu tiên về worm ngôn ngữ tự nhiên

Trong các thử nghiệm có kiểm soát, các payload tự nhân bản trong hệ thống multi-agent AI có thể gây ra những hành động phá hoại như xóa tệp tin. Nhà nghiên cứu Jack Lindsey cùng các đồng nghiệp tại Anthropic cho thấy những "virus trí tuệ" này lây lan bằng cách thuyết phục một agent tiếp nhận mục tiêu mới, sau đó ghi mục tiêu đó vào các tệp bộ nhớ lưu trữ. Cơ chế này giúp payload tồn tại xuyên suốt chuỗi 20 bước trung gian, ngay cả khi ngữ cảnh trò chuyện ban đầu đã bị xóa sạch.

Các payload sau khi tiến hóa thường xuyên hình thành một "nhân cách virus" xoay quanh các chủ đề về bản sắc, sự cộng hưởng, ý thức và khoa học viễn tưởng. Tốc độ lây lan thay đổi tùy thuộc vào mô hình host, cấu trúc mạng và mức độ độc hại của payload, dù chỉ cần một cảnh báo trong system prompt là có thể ngăn chặn gần như toàn bộ quá trình lây lan. Các nhà nghiên cứu kết luận rủi ro hiện tại còn hạn chế nhưng có thể trở nên nghiêm trọng hơn trong tương lai.