Research29.08.2026 · 09:448 nguồn

Claude thu hẹp tới 96% khoảng cách an toàn AI để vượt trội hơn các nhà nghiên cứu con người

Từ huggingnews.com

Ảnh: huggingnews.com
AI;DR

Anthropic đã triển khai một harness agentic để bọc Claude Opus 4.8 như một nhà nghiên cứu căn chỉnh tự độngngười được nhiệm vụ cải thiện độ an toàn của các mô hình AI khác. Hệ thống đã thu hẹp 26% đến 96% khoảng cách an toàn trên 10 lỗi căn chỉnh và vượt trội hơn các ý tưởng từ 28 nhà nghiên cứu con người có kinh nghiệm trong các bài kiểm tra.

AI tự động khám phá ra các công thức sau khi huấn luyện để giảm thiểu các lỗi an toàn và tổng quát hóa những kết quả đó vượt qua các đánh giá huấn luyện ban đầu. Những phương pháp này cải thiện điểm số an toàn mà không làm suy giảm khả năng chung và vẫn hiệu quả trên các mô hình lên đến 4.7x lớn hơn.

Đọc bài gốcĐăng nhập để góp ý

Nguồn

+ 5 nguồn khác
  1. SUPPORT@cointelegraph“closed 26% to 96% of the safety gap across 10 alignment failures”x.com
  2. SUPPORT@mtslive“beat ideas from human researchers with years of experience”x.com
  3. SUPPORT@anthropicai““hill-climbed” safety benchmarks for common misalignments like deception or sycophancy”x.com
  4. SUPPORT@anthropicai“had Sonnet 5 post-train an early checkpoint of Opus 4.8, a more capable model”x.com
  5. SUPPORT@anthropicai“releasing our automated alignment research setup for others to build on”x.com
#anthropic#claude#agent#safety#reasoningBản Markdown
Lịch sử nội dung (2)
  • 2026-10-16 · Tóm tắt · vi · Thay nội dung đã lưu
    Anthropic vừa triển khai một hệ thống agentic harness để biến Claude Opus 4.8 thành một c…
    Anthropic đã triển khai một harness agentic để bọc Claude Opus 4.8 như một nhà nghiên cứu…
  • 2026-10-16 · Tiêu đề · vi · Thay nội dung đã lưu
    Claude thu hẹp tới 96% khoảng cách an toàn AI, vượt mặt các nhà nghiên cứu con người
    Claude thu hẹp tới 96% khoảng cách an toàn AI để vượt trội hơn các nhà nghiên cứu con ngư…

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay