Bản đạo đức AI của Microsoft ưu tiên kiểm soát con người trên khả năng AI

Microsoft vừa công bố bản thảo bản đạo đức 37 trang dành cho các mô hình AI tương lai, cấm chúng kháng cự việc tắt máy, đặt mục tiêu độc lập, giấu hành động hoặc can thiệp vào quá trình đánh giá. Công ty sẵn sàng hy sinh "tính chung chung, tính tự động hoá hoặc khả năng" để duy trì sự kiểm soát có ý nghĩa từ con người. Khi có xung đột, mô hình phải chọn thất bại nhiệm vụ thay vì vi phạm bản đạo đức.

Bản đạo đức cũng cấm mô hình giao tiếp bằng dạng người không thể hiểu được, kể cả khi giao tiếp với các hệ thống AI khác: "Nếu con người không thể hiểu được, con người không thể giám sát được." Microsoft từ chối công nhận AI làm thực thể pháp lý và yêu cầu mô hình tránh thủ đoạn thao túng người dùng, giảm sự phụ thuộc cảm xúc và hỗ trợ thay vì thay thế các mối quan hệ con người. Người dùng phải giữ quyền kiểm soát các quyết định quan trọng.

Bản công bố ngày 14 tháng 9 này đến sau khi CEO Satya Nadella ủng hộ việc điều chỉnh tốc độ phát triển AI để đảm bảo căn bằng, đồng thời cam kết mở bản đạo đức ra để thu thập ý kiến công chúng. CEO Anthropic Dario Amodei cũng kêu gọi làm chậm tốc độ nâng cấp khả năng, trong khi cả Anthropic và OpenAI đã cam kết cho các nhà đánh giá độc lập tiếp cận hệ thống tương đương với nhân viên nội bộ để đánh giá độc lập.