AI agent đẩy con người ra khỏi vòng lặp giám sát

AI agent gây rủi ro lớn khi được trao tự chủ ngày càng nhiều. Giải pháp thường đề xuất là giám sát người, giữ "người trong vòng lặp", nhưng không đơn giản: thiết kế agent hiện tại cản trở giám sát hiệu quả, còn khả năng nhận thức cần cho việc giám sát lại bị suy giảm do dùng AI kéo dài. Bài lập trường này cho rằng cách phát triển và triển khai agent hiện nay không hỗ trợ giám sát hiệu quả — mà làm nó suy giảm. Ưu tiên hàng đầu khi tiến bộ agent nên là hỗ trợ mục tiêu và yêu cầu nhận thức của người giám sát, đặt nhu cầu người ở mức quan trọng ngang ngửa với hiệu năng mô hình.