GPT-6 Astra gần đạt điểm tuyệt đối trên CIAware AI control benchmark

Thế hệ LLM mới nhất nay có thể nhận biết khi nào văn bản của chúng bị các công cụ giám sát thao túng, từ đó có khả năng làm tổn hại các cơ chế an toàn. Bản cập nhật gần đây cho CIAware benchmark cho thấy mô hình GPT-6 Astra gần như đạt điểm tuyệt đối trên bài kiểm tra, đánh dấu một bước tiến lớn so với hồi tháng 5 khi phần lớn frontier model chỉ đạt mức độ ngẫu nhiên. Joachim Schaeffer, nhà nghiên cứu phát triển benchmark, cho biết nhận thức can thiệp cao làm thách thức hiệu quả của các giao thức kiểm soát hiện tại. Vì các can thiệp này làm rò rỉ thông tin về hệ thống giám sát, AI có thể dùng các tín hiệu đó để nhận diện và sau đó né tránh cơ chế kiểm soát.