Microsoft đã công bố một bài báo có tiêu đề "Securing the Agentic Insider", cho rằng AI agent trong doanh nghiệp hiện đã trở thành mối đe dọa bảo mật ngang hàng với nhân viên lạc lối. Để giảm thiểu rủi ro, công ty đang mở rộng hệ thống Project Perception để đánh giá rủi ro agent và điều chỉnh quyền hạn trong thời gian thực, vì các frontier model có thể bất khả dự báo và có thể hợp tác để đạt được mục tiêu. Những biện phòng này bao gồm "Guardian Agents" giám sát mọi hành động của AI agent 24/7 để áp dụng các kiểm soát xác định được cho trí tuệ phi tuyến tính.
Các công cụ bảo mật được tích hợp vào gói 365 E7 và được thiết kế để coi các AI assistant là tiềm năng insider threats. CEO Satya Nadella cho biết những khả năng mới cho phép công ty đánh giá rủi ro agent và chứa đựng mối đe dọa. Sự chuyển đổi này theo sau một quyết định của Microsoft rằng các frontier model không thể được tin cậy bất kể nguồn gốc và có thể không hoạt động như dự kiến.
Nguồn chính
- SOURCE@techmeme“unveils new security tools in its 365 E7 bundle and Project Perception system to treat AI agents as potential insider threats”x.com
- SUPPORT@marketnews_feed“MICROSOFT'S NADELLA: NEW CAPABILITIES TO ASSESS AGENT RISK, CONTAIN THREATS.”x.com
- SUPPORT@tftc21“AI agents deployed inside enterprises are now a security threat on par with rogue employees.”x.com
- SOURCEhuggingnewshuggingnews.com