Công cụ Raven AI bị chỉ trích vì liên kết nhầm nhà riêng với tội phạm buôn người trong bản demo

Công cụ tìm kiếm AI-powered dành cho cảnh sát của Graylark đang đối mặt với làn sóng phản đối về nội dung trong các tài liệu marketing mới nhất. Công cụ Raven của công ty bị cáo buộc đã liên kết nhà của một người đàn ông ngẫu nhiên với tội phạm buôn người trong một bản demo sản phẩm nhằm phô diễn khả năng xác định các ngôi nhà cụ thể chỉ từ một bức ảnh. Để xác định vị trí, phần mềm này (trước đây gọi là Geospy) thực hiện đối chiếu hình ảnh với dữ liệu thu thập từ Zillow và Airbnb.

CEO Daniel Heinen cho biết sản phẩm giúp các điều tra viên định vị nạn nhân trong các vụ án hình sự nghiêm trọng, bao gồm cả bóc lột trẻ em, và có thể xác định chính xác các bức ảnh chụp bên trong nhà. Công cụ này đã được dùng để tìm nơi thuê nhà của Andrew Tate ở Miami và hỗ trợ bắt giữ chỉ trong 8 phút sau khi vũ khí được nhìn thấy trên Instagram Live. Graylark cũng từng trình diễn khả năng nhận diện những người biểu tình và những người phá hoại camera giám sát Flock.