Nvidia muốn 'cầm cương' các AI agent bằng watchdog tích hợp trong chip

Nvidia đang kết hợp phần mềm agent OpenShell với Sentry, một watchdog phần cứng mới, để tạo ra Open Agent Safety Platform. Sentry có nhiệm vụ cô lập các AI agent vượt rào trong vòng vài phần nghìn giây. Để so sánh, vụ việc xảy ra tại OpenAI hồi tháng 9 phải mất gần ba tiếng mới khống chế được. Tuy nhiên, watchdog của Nvidia vẫn chưa thể đáng tin cậy ngăn chặn những agent bị lừa hoặc cố tình giấu ý định của mình.