Việc mở rộng hướng tới AGI có phụ thuộc vào những gì System-1 cho System-2 thực thi không

Tiến bộ hướng tới AGI phần lớn dựa vào việc mở rộng System-2 vốn tốn nhiều tài nguyên thông qua các model lớn hơn, nhiều dữ liệu và compute hơn, reasoning dài hơn và nhiều agent hơn. Chúng tôi đặt câu hỏi liệu giai đoạn tiếp theo có thể đến từ việc đồng thiết kế nó với System-1, một predictor nhẹ, nhận biết ngữ nghĩa đánh giá các tương tác ứng viên trước khi thực thi, để System-2 chỉ hành động trên những tương tác đáng giá so với chi phí. Câu trả lời của chúng tôi là có điều kiện. Chúng tôi nghiên cứu conditional interaction, một vòng lặp predict--gate--execute--update: System-1 ước tính utility của từng ứng viên, System-2 thực thi những cái được chấp nhận bởi một ngưỡng thích ứng, và kết quả cập nhật System-1. Vòng lặp này bao gồm training, reasoning thời gian test, decision-making thích ứng và agentic tool use, với utility và cost được xác định bởi ứng dụng. Trong điều kiện sàng lọc lý tưởng và chi phí thực thi bằng nhau, compute thực thi giảm theo hệ số gần 1/ρ_u, trong đó ρ_u là mật độ các tương tác liên quan đến utility (có trọng số chi phí khi chi phí khác nhau); lỗi dự đoán, exploration và distribution shift làm giảm mức tiết kiệm. Chúng tôi giới hạn selection regret bằng lỗi predictor và biên độ utility. Các từ khóa được giữ là AGI, System-1, System-2, agent, agentic