---
format: "aidr-story-markdown/v1"
id: "203cb704a0200cf0999b4e14a8905fc93509dadb6bc556f06d2513d4acfcb5f4"
canonical_url: "https://aidr.today/203cb704?lang=vi"
title: "SPILLWAY: Tách biệt việc chấp nhận mục tiêu khỏi quá trình làm sạch để bảo vệ các agent dùng công cụ trước tấn công prompt injection"
lang: "vi"
requested_lang: "vi"
available_langs: ["en","vi"]
translation_fallback: null
fallback_fields: []
published_at: "2026-11-17T00:00:00.000Z"
category: "Research"
topics: ["safety"]
source_urls: ["https://huggingface.co/papers/2611.07222"]
summary: "Các agent dùng công cụ có khả năng thực hiện các tác vụ trên email, tệp tin và thanh toán, vì vậy một chỉ dẫn ẩn trong trang web hoặc tài liệu dùng chung có thể khiến agent gửi dữ liệu hoặc tiền cho kẻ tấn công. Nhiều cơ chế phòng thủ khi thực thi sẽ đặt một mô hình ngôn ngữ vào bước đưa ra quyết định cho phép một hành động diễn ra, khiến quyết định phụ thuộc vào một mô hình có khả năng đọc văn bản của kẻ tấn công và làm tăng số lượng lệnh gọi mô hình trong mỗi bước. Các cơ chế phòng thủ dựa trên nguồn gốc (provenance) giúp loại bỏ mô hình khỏi bước kiểm tra cuối cùng nhưng vẫn cần một mô hình để lập kế hoạch hoặc điều hướng từng tác vụ trước đó. Thay vào đó, nơi một hành động hướng tới có thể được đọc từ các giá trị trả về có kiểu dữ liệu của công cụ: người gửi email hoặc tài khoản thanh toán sẽ xuất hiện trong một trường dữ liệu có kiểu, trong khi các chỉ dẫn bị chèn vào sẽ xuất hiện dưới dạng văn bản tự do. SPILLWAY chuyển quan sát này thành một lớp bảo vệ xác định mà không cần lập kế hoạch cho từng tác vụ. Bước kiểm tra sẽ chấp nhận một lệnh gọi khi mỗi giá trị mục tiêu xuất hiện trong đầu ra của công cụ nhưng không có trong tác vụ của người dùng được trả về bởi một công cụ ch…"
---

# SPILLWAY: Tách biệt việc chấp nhận mục tiêu khỏi quá trình làm sạch để bảo vệ các agent dùng công cụ trước tấn công prompt injection

> [Open the canonical story](<https://aidr.today/203cb704?lang=vi>)

**Published:** 2026-11-17T00:00:00.000Z
**Category:** Research
**Topics:** safety

## Summary

Các agent dùng công cụ có khả năng thực hiện các tác vụ trên email, tệp tin và thanh toán, vì vậy một chỉ dẫn ẩn trong trang web hoặc tài liệu dùng chung có thể khiến agent gửi dữ liệu hoặc tiền cho kẻ tấn công\. Nhiều cơ chế phòng thủ khi thực thi sẽ đặt một mô hình ngôn ngữ vào bước đưa ra quyết định cho phép một hành động diễn ra, khiến quyết định phụ thuộc vào một mô hình có khả năng đọc văn bản của kẻ tấn công và làm tăng số lượng lệnh gọi mô hình trong mỗi bước\. Các cơ chế phòng thủ dựa trên nguồn gốc \(provenance\) giúp loại bỏ mô hình khỏi bước kiểm tra cuối cùng nhưng vẫn cần một mô hình để lập kế hoạch hoặc điều hướng từng tác vụ trước đó\. Thay vào đó, nơi một hành động hướng tới có thể được đọc từ các giá trị trả về có kiểu dữ liệu của công cụ: người gửi email hoặc tài khoản thanh toán sẽ xuất hiện trong một trường dữ liệu có kiểu, trong khi các chỉ dẫn bị chèn vào sẽ xuất hiện dưới dạng văn bản tự do\. SPILLWAY chuyển quan sát này thành một lớp bảo vệ xác định mà không cần lập kế hoạch cho từng tác vụ\. Bước kiểm tra sẽ chấp nhận một lệnh gọi khi mỗi giá trị mục tiêu xuất hiện trong đầu ra của công cụ nhưng không có trong tác vụ của người dùng được trả về bởi một công cụ ch…

## Sources

- [Story source](<https://huggingface.co/papers/2611.07222>)

