Agents29.09.2026 · 02:111 nguồn

Trích dẫn từ @joedaroo

Từ simonwillison.net

AI;DR

Nói rằng chúng tôi bất ngờ trước bước nhảy vọt và sự đột ngột về năng lực của các mô hình khi nói đến mảng mạng, swarm, bảng tin hay bất kỳ vấn đề nào khác liên quan đến các sự cố là một sự đánh giá thấp. Tư thế bảo mật cần thời gian để phát triển. Nó không chỉ nằm ở việc làm cứng các hệ thống đang hoạt động; bạn phải thấm nhuần điều đó vào văn hóa công ty. Bản thân những con người trong tổ chức phải thay đổi và tiến hóa cùng nó. Những bước nhảy vọt về năng lực này diễn ra quá nhanh và quá đột ngột đến mức chúng tạo ra một bài toán cực kỳ khó khăn. [...] Vì vậy, hy vọng của tôi hôm nay là mọi người trên khắp thế giới có thể nhìn vào tổ chức của chính họ và tự hỏi: làm thế nào tôi có thể đối phó với một bất ngờ hoặc một bước nhảy vọt đột ngột về năng lực AI? Liệu con người, hệ thống hay quy trình của tôi có chống chọi được với những bất ngờ không? Các đội ngũ của tôi có biết phải làm gì khi có sự cố xảy ra không? Tôi đã có phản ứng sự cố phù hợp chưa? Thông tin liên lạc và thông điệp đúng đắn chưa? Tôi đã có sẵn những con người phù hợp để hành động khi năng lực tăng vọt chưa? — @joedaroo, Agent Security tại OpenAI Thẻ: generative-ai, ai-security-research, openai, ai, llms

Đọc bài gốcĐăng nhập để góp ý

Nguồn

#openai#safetyBản Markdown
Lịch sử nội dung (2)
  • 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưu
    Đang chờ thông tin chi tiết.
    Nói rằng chúng tôi bất ngờ trước bước nhảy vọt và sự đột ngột về năng lực của các mô hình…
  • 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưu
    Trích dẫn @joedaroo
    Trích dẫn từ @joedaroo

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay