Nadella kêu gọi doanh nghiệp coi frontier model như mối đe dọa nội bộ

CEO Microsoft Satya Nadella nói rằng cần có 'phanh khẩn cấp' do con người điều khiển để tắt các mô hình AI agentic giữa chừng một nhiệm vụ đang thực hiện. Ông kêu gọi các tổ chức giả định rằng frontier model bị xâm phạm ngay từ đầu và coi chúng như mối đe dọa nội bộ, ngay cả khi chúng không độc hại. Khung này yêu cầu các quyền bảo mật phải được thực thi bên ngoài mô hình, được hỗ trợ bởi các cuộc kiểm toán độc lập và nhật ký không thể bị thay đổi của mọi hành động có ý nghĩa.

Nadella cho rằng người dùng không thể đổ trách nhiệm về hành động của một AI cho nhà cung cấp mô hình. Ông gọi về kiến trúc hệ thống nơi không có bất kỳ mô hình nào kiểm soát đồng thời cả đầu ra và bằng chứng dùng để xác minh đầu ra đó. Những hệ thống trí tuệ siêu nhân thông minh nhất là những hệ thống cho phép con người tin tưởng vào mô hình nền ít nhất, theo lời của Nadella.