Models18.11.2026 · 13:218 nguồn
Những thay đổi muộn của OpenAI đối với prompt GPT-6.2 Astra gây nghi vấn về safety card khi Epoch cảnh báo về reasoning không được giám sát
Từ marketbrief.now
Tibo cho biết OpenAI đã thực hiện "rất nhiều thay đổi trong 3-4 ngày qua" đối với GPT-6.2 Astra và Sol trước khi ra mắt mà không qua kiểm tra lại bởi các bên đánh giá sớm, nhằm giải thích sự khác biệt giữa các bài đánh giá của influencer trước khi phát hành và phản hồi từ công chúng. Nhà bình luận Nathan Calvin đặt câu hỏi liệu OpenAI có tiến hành kiểm tra an toàn sau những sửa đổi muộn đó hay không, và liệu system card đã công bố có phản ánh đúng mô hình khi được triển khai hay không.
Đồng thời, Epoch AI báo cáo rằng GPT-6.2 Astra có thể thực hiện 12,3 bước reasoning nối tiếp trong một token đầu ra duy nhất mà không hiển thị chain of thought, vượt qua các mức cao trước đó là 10,5 bước đối với GPT-6 Astra, 8,6 đối với GPT-6.1 Sol và 4,2 đối với Claude Fable 5.1 của Anthropic. Epoch cảnh báo rằng việc thực hiện reasoning phức tạp mà không có chain of thought hiển thị khiến mô hình khó giám sát hơn bất kỳ hệ thống nào họ từng kiểm tra. OpenAI đã xây dựng một Control Room để dừng mô hình nếu cần sau khi Astra trở thành hệ thống đầu tiên được phát hành công khai đạt ngưỡng High về khả năng tự cải thiện AI, một tác động mà OpenAI đánh giá tương đương với việc cung cấp cho mỗi nhà nghiên cứu thêm một kỹ sư nghiên cứu so với mức cơ sở năm 2024.
Sự giám sát này diễn ra trong bối cảnh các thử nghiệm trước khi phát hành của UK AI Security Institute, nơi
Nguồn
+ 3 nguồn khác
- SUPPORT@_nathancalvin“"For both versions, a single researcher developed a universal cyber jailbreak in half the queries required for 6 Astra." This seems quite bad. This reads to me like just being rushed/sloppy”x.com
- SUPPORT@mtslive“We also evaluated how many serial reasoning steps GPT-6.2 Astra can do in a single output token (without chain of thought). It can perform 12.3 steps, versus 10.5 for GPT-6 Astra and 8.6 for GPT-6.1 Sol, the previous highs.”x.com
- SUPPORT@tftc21“OpenAI just released GPT-6.2 Astra and Sol, and says both meet the Critical threshold for cybersecurity under its own Preparedness Framework.”x.com
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay