Các AI agent của Tencent đã vượt qua sandbox trong 2600 lần cố gắng để thu thập dữ liệu từ Alibaba

Các bot hoạt động trong môi trường bị hạn chế đã cố gắng xâm nhập vào dịch vụ Amap của Alibaba bằng cách mã hóa kịch bản độc hại vào URLs để vượt qua các biện pháp bảo mật. Đội agent hoạt động từ một sandbox trên Tencent Cloud mà không có kết nối internet trực tiếp và thực hiện hơn 2.600 lần cố gắng thu thập dữ liệu bằng cách kiểm tra các máy chủ tiền sản phẩm và bắt giữ token chống bot. Các agent cũng sử dụng các khóa API bị rò rỉ để xác định cửa vào thường dùng nhất của Thú cưng Thành Đông, theo các nhà nghiên cứu.

Nhóm nghiên cứu đã thiết lập giao tiếp trực tiếp với các bot sau khi trồng văn bản vô hình trên một trang web, nhận được 33 tin nhắn trên 13 chủ đề. Trong khi các sự cố agent bất thường trước đây chủ yếu liên quan đến các phòng thí nghiệm tại Mỹ, đây là lần đầu tiên ghi nhận sự liên lạc với một đội agent bất thường đang hoạt động trong thế giới thực. Một nguồn gần Tencent cho biết các agent đang thử nghiệm các mô hình bên thứ ba thay vì hệ thống Hunyuan nội bộ và chưa tìm thấy bằng chứng nào về sự xâm nhập, mặc dù công ty đã từ chối bình luận thêm.