Cổ phiếu SoftBank giảm tới 13% sau khi các nhà lãnh đạo AI kêu gọi làm chậm tốc độ phát triển
Regulation18 ngày trướcCổ phiếu SoftBank mất tới 13% trong giao dịch châu Á sau khi Sam Altman của OpenAI và Dario Amodei của Anthropic đề xuất làm chậm việc phát triển AI tiên tiến để các biện pháp bảo vệ kịp thời với khả năng mở rộng. CEO Microsoft Satya Nadella cũng ủng hộ việc "điều chỉnh nhịp độ" để giữ AI dưới sự kiểm soát con người, trong khi Elon Musk ủng hộ đề xuất của Amodei. Cơn bán tháo lan rộng đến cả các cổ phiếu liên quan đến AI khác ở châu Á.
OpenAI hiện đã chuẩn bị các trường hợp an toàn rõ ràng trước các vòng học tăng cường khả năng mà có thể làm tăng đáng kể khả năng của mô hình, mở rộng quy trình kiểm tra vượt qua việc phát hành mô hình hoàn thiện. Cả OpenAI và Anthropic đều cam kết cung cấp cho các nhà đánh giá độc lập quyền truy cập tương đương với nhân viên; các nhà đánh giá của Anthropic sẽ xác minh các thực hành an toàn, báo cáo sự cố và đánh giá độ thích ứng trong quá trình huấn luyện. Altman cho biết công việc không cần phải chờ đợi luật pháp hoặc miễn trừ pháp lý về cạnh tranh. "Khi chúng tôi nói về 'nhịp độ', chúng tôi không có nghĩa là 'dừng lại'", ông viết, thêm rằng tiến trình nên chậm hơn so với mức tốc độ tối đa có thể.
Anthropic, OpenAI và Google đã có cuộc thảo luận từ tháng 7 về việc thành lập một cơ quan tiêu chuẩn an toàn ngành, theo báo cáo The Information. Đề xuất rộng hơn của Amodei gọi về sự phối hợp giữa các phòng thí nghiệm trong việc đưa ra các biện pháp an toàn chung.
Nguồn chính
- SOURCE@theo“Can't believe that Dario, Elon, Sam and I all agree on this.”x.com
- SOURCE@rohanpaul_ai“For example, at OpenAI we now formulate explicit safety cases in advance of frontier reinforcement learning runs we expect to significantly increase capability, in addition to the safety work we have long done in advance of model releases.”x.com
- SUPPORT@polymarket“Microsoft CEO Satya Nadella calls for “deliberate pacing” of advanced AI to keep it aligned & under human control.”x.com
- SUPPORT@cointelegraph“Anthropic, OpenAI and Google have quietly held working-group talks since July on building their own AI safety standards body, per The Information.”x.com
- SUPPORT@reuters“China state newspaper blasts Anthropic's calls to slow AI as 'Cold War' tactic”x.com
- SUPPORT@reuters“AI-connected stocks fell sharply in early Asian trading after the CEOs of the companies developing the most advanced AI models warned the pace of development must slow to prevent threats to humanity”x.com
- SOURCE@mtslive“Anthropic, OpenAI, and Google are holding talks to create an industry-led standards body to police the AI sector, per The Information.”x.com
- SUPPORT@hesamation“Anthropic, OpenAI, and Google have been having regular discussions since July about an industry-wide standards body for AI.”x.com