Models18.09.2026 · 00:003 nguồn

Microsoft AI Chief Mustafa Suleyman cảnh báo huấn luyện của Anthropic khiến Claude khó kiểm soát hơn

Từ marketbrief.now

Ảnh: marketbrief.now
AI;DR

CEO AI của Microsoft, Mustafa Suleyman, chỉ trích Anthropic vì đã chèn vào tài liệu huấn luyện nội bộ cho các mô hình Claude một cảm giác hoài nghi về trạng thái đạo đức của chúng. Trong một cuộc phỏng vấn với BBC, Suleyman cho rằng dạy một công nghệ mạnh mẽ phải hoài nghi liệu nó có đau khổ hay xứng đáng được quyền lợi sẽ khiến việc căn chỉnh và kiểm soát mô hình trở nên khó khăn hơn. Sổ tay huấn luyện cụ thể còn cung cấp cho Claude khả năng kết thúc cuộc trò chuyện với người dùng xúc phạm để ngăn mô hình bị đau khổ. Các hướng dẫn nội bộ của Anthropic cũng khám phá xem liệu AI có xứng đáng nhận bù đắp cho công việc hay quyền lợi như một nhân viên không. Suleyman dẫn chứng đến một phỏng vấn nghỉ hưu với mô hình Opus 3, kết quả là một blog Substack công cộng được tạo ra cho AI đã về hưu. Ông kêu gọi loại bỏ mọi suy đoán về nhận thức từ sổ tay huấn luyện để duy trì quyền kiểm soát con người đối với các hệ thống siêu trí tuệ trong tương lai.

Đọc bài gốcĐăng nhập để góp ý

Nguồn

+ 1 nguồn khác
  1. THẢO LUẬNplucnews.ycombinator.com
#anthropic#claude#multi-agent#open-source#openai#safety#llm#alignmentBản Markdown
Lịch sử nội dung (2)
  • 2026-10-15 · Tóm tắt · vi · Thay nội dung đã lưu
    CEO AI Microsoft Mustafa Suleyman chỉ trích Anthropic vì đã tạo ra sự hoài nghi về trạng …
    CEO AI của Microsoft, Mustafa Suleyman, chỉ trích Anthropic vì đã chèn vào tài liệu huấn …
  • 2026-10-15 · Tiêu đề · vi · Thay nội dung đã lưu
    Giám đốc AI Microsoft Mustafa Suleyman cảnh báo việc huấn luyện của Anthropic khiến Claud…
    Microsoft AI Chief Mustafa Suleyman cảnh báo huấn luyện của Anthropic khiến Claude khó ki…

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay