Đồng sáng lập viên Anthropic Jack Clark kêu gọi lắp đặt công tắc khẩn cấp AI bắt buộc, sau một cuối tuần mà tổng giám đốc OpenAI Sam Altman và Elon Musk ủng hộ lời kêu gọi của CEO Anthropic Dario Amodei yêu cầu làm chậm tiến độ phát triển AI. "Thứ nhất, chúng ta có thể mất kiểm soát tương lai cho AI," Altman cảnh báo vào thứ Hai. Ông cũng cảnh báo nguy cơ tập trung quyền lực trong một công ty, cá nhân hoặc quốc gia.
OpenAI hiện chuẩn bị các trường hợp an toàn rõ ràng trước các vòng huấn luyện tăng cường biên giới, dự kiến sẽ tăng đáng kể khả năng mô hình, mở rộng công tác an toàn vượt qua các kiểm tra trước khi phát hành mô hình. Công ty cũng cam kết cung cấp cho các nhà đánh giá độc lập quyền truy cập tương đương với nhân viên, phù hợp với cam kết của Anthropic. Altman ủng hộ các yêu cầu an toàn liên bang nhất quán nhưng cho rằng các công ty không cần phải chờ đợi luật pháp hoặc hành động chống thù địch.
Nguồn chính
- SOURCE@scottmelker“ANTHROPIC CO-FOUNDER JACK CLARK SAYS A “KILL SWITCH” SHOULD BE REQUIRED FOR AI”x.com
- SOURCE@unusual_whales“Sam Altman has said: We could lose the control of AI in the future”x.com
- SUPPORT@cnbc“OpenAI chief Sam Altman has made his most detailed comments yet on how artificial intelligence safety frameworks could work, after he joined Anthropic’s Dario Amodei and Elon Musk in calling for an industry slowdown over the weekend.”x.com
- SOURCEmarketbrief.now