---
format: "aidr-story-markdown/v1"
id: "fc6e9233f9cb2ed29d5105bd49a1ea4a8898e58c4a174a069d5e9d15309a9d23"
canonical_url: "https://aidr.today/fc6e9233?lang=vi"
title: "IDEA: Kiểm định Intent-Dominance Evidence để phát hiện backdoor tại thời điểm inference cho GUI agent"
lang: "vi"
requested_lang: "vi"
available_langs: ["en","vi"]
translation_fallback: null
fallback_fields: []
published_at: "2026-11-19T00:00:00.000Z"
category: "Research"
topics: ["safety"]
source_urls: ["https://huggingface.co/papers/2611.24102"]
summary: "Các tổ chức đang ngày càng triển khai nhiều GUI agent dạng open-weight được tải về. Một agent bị cài backdoor có thể vượt qua các bài kiểm tra chấp nhận trên dữ liệu sạch nhưng lại hoạt động sai lệch khi xuất hiện một tác nhân kích hoạt hình ảnh trên màn hình, biến một checkpoint chưa qua kiểm duyệt thành rủi ro chuỗi cung ứng. Tuy nhiên, các bộ phát hiện cấp độ mẫu hiện nay thường nhắm vào các bộ phân loại hình ảnh và bộ mã hóa kiểu CLIP-style, khiến việc phát hiện backdoor cấp độ bước cho các GUI agent vẫn chưa được giải quyết. Ở các bước sạch, chỉ dẫn sẽ điều khiển hành động; khi một vùng màn hình không liên quan chiếm quyền kiểm soát bước đó, chỉ dẫn sẽ mất quyền kiểm soát trạng thái decision model hoặc vùng đó sẽ thay thế điều khiển nó. Chúng tôi gọi đặc điểm này là sự đảo ngược chiếm ưu thế giữa ý định và bằng chứng, đồng thời đề xuất IDEA (Intent-Dominance Evidence Audit) để phát hiện việc kích hoạt backdoor tại thời điểm inference cho mỗi bước mà không cần biết trước tác nhân kích hoạt hay dữ liệu tấn công. Cụ thể, Intent Counterfactual Probing (ICP) đo lường mức độ dịch chuyển của trạng thái decision model khi các chỉ dẫn bị chuyển hướng, và Region Causal Audit (RCA) định…"
---

# IDEA: Kiểm định Intent\-Dominance Evidence để phát hiện backdoor tại thời điểm inference cho GUI agent

> [Open the canonical story](<https://aidr.today/fc6e9233?lang=vi>)

**Published:** 2026-11-19T00:00:00.000Z
**Category:** Research
**Topics:** safety

## Summary

Các tổ chức đang ngày càng triển khai nhiều GUI agent dạng open\-weight được tải về\. Một agent bị cài backdoor có thể vượt qua các bài kiểm tra chấp nhận trên dữ liệu sạch nhưng lại hoạt động sai lệch khi xuất hiện một tác nhân kích hoạt hình ảnh trên màn hình, biến một checkpoint chưa qua kiểm duyệt thành rủi ro chuỗi cung ứng\. Tuy nhiên, các bộ phát hiện cấp độ mẫu hiện nay thường nhắm vào các bộ phân loại hình ảnh và bộ mã hóa kiểu CLIP\-style, khiến việc phát hiện backdoor cấp độ bước cho các GUI agent vẫn chưa được giải quyết\. Ở các bước sạch, chỉ dẫn sẽ điều khiển hành động; khi một vùng màn hình không liên quan chiếm quyền kiểm soát bước đó, chỉ dẫn sẽ mất quyền kiểm soát trạng thái decision model hoặc vùng đó sẽ thay thế điều khiển nó\. Chúng tôi gọi đặc điểm này là sự đảo ngược chiếm ưu thế giữa ý định và bằng chứng, đồng thời đề xuất IDEA \(Intent\-Dominance Evidence Audit\) để phát hiện việc kích hoạt backdoor tại thời điểm inference cho mỗi bước mà không cần biết trước tác nhân kích hoạt hay dữ liệu tấn công\. Cụ thể, Intent Counterfactual Probing \(ICP\) đo lường mức độ dịch chuyển của trạng thái decision model khi các chỉ dẫn bị chuyển hướng, và Region Causal Audit \(RCA\) định…

## Sources

- [Story source](<https://huggingface.co/papers/2611.24102>)

