Bernie Sanders yêu cầu tạm dừng AI sau khi mô hình Griffin của Tavus lừa được 48% người thử trong cuộc gọi video trực tiếp

Một mô hình sinh tạo mới có khả năng giả mạo con người trong cuộc gọi video thời gian thực đã kích hoạt cảnh báo về một 'thế giới phản địa đàng' và làn sóng chỉ trích từ các nhà lập pháp Mỹ. Thượng nghị sĩ Bernie Sanders đã kêu gọi dừng ngay việc phát triển AI sau khi mô hình Griffin của Tavus đã làm cho 48% trong số 54 người tham gia thử nghiệm tin rằng họ đang nói chuyện với một con người trong những cuộc trò chuyện trực tiếp kéo dài một phút. Điều này vượt trội hơn mức dưới 3% của các hệ thống trước đó, gây ra những lo ngại từ các nhà phê bình rằng công nghệ này sẽ được sử dụng để thực hiện các vụ lừa đảo tinh vi bằng cách giả mạo người thân hoặc các quan chức chính phủ.

CEO của Tavus, Hassaan Raza, đã tuyên bố rằng Griffin là một bản xem trước nghiên cứu hạn chế và chưa có sẵn cho người dùng công chúng. Công ty hiện đang hợp tác với các đối tác trong lĩnh vực quy định và hệ thống tiết lộ để đảm bảo người dùng biết họ đang tương tác với một AI, đồng thời đề xuất các ứng dụng tương lai trong lĩnh vực dạy kèm số và y tế. Mô hình sử dụng một hệ thống full-duplex để nhìn thấy và nghe thấy người dùng đồng thời tạo ra phản hồi video, khả năng này đã giúp nó đứng đầu trên benchmark của Nvidia về video AI full-duplex.