1

Structured Authority Injection: Kiểm soát con người bền vững cho LLM agent thông qua MCP override có kiểu

arxiv.org

Các agent dựa trên LLM ngày càng được dùng làm các bộ điều phối tự động trong các hệ thống phân tán và đa agent, nhưng vẫn tồn tại khoảng trống kiểm soát: không có cơ chế nào ở cấp giao thức cho phép các vận hành viên con người tiêm các chỉ thị ràng buộc duy trì suốt các chu trình lập kế hoạch. Các override dạng văn bản tự do dễ bị giải thích mơ hồ do thiếu xác thực schema và mất uy lực vì các chỉ thị của vận hành viên giảm ảnh hưởng trong bối cảnh ngữ cảnh tích lũy. Nhóm đề xuất Structured Authority Injection (SAI), một giao thức giải quyết những vấn đề này bằng cách đưa các chỉ chỉnh sửa của vận hành biên qua các lời gọi công cụ MCP có kiểu và xác thực schema, đồng thời duy trì một bối cảnh quyền lực được xếp hạng được chèn vào đầu mỗi prompt LLM. SAI định nghĩa ba lớp override (Constraint, Priority và Strategy) với ngữ nghĩa duy trì khác nhau và thứ tự ưu tiên rõ ràng được thực thi qua một kênh quyền lực hướng thẳng không thể truy cập bởi quá trình lập kế hoạch. Phương pháp này không yêu cầu fine-tune mô hình hay truy cập trọng lượng mô hình và áp dụng cho các LLM hỗ trợ sử dụng công cụ MCP.

Đăng nhập để góp ý

Nguồn chính

  1. SOURCEarxiv.org
Bản Markdown