Theo The Information, ba công ty công nghệ hàng đầu OpenAI, Anthropic và Google đã nhiều lần thảo luận từ tháng 7 về việc thành lập một tổ chức ngành để đưa ra các giao thức an toàn mô hình AI chung. Cuộc đàm phán vẫn đang tiếp diễn và bắt đầu trước khi CEO Anthropic Dario Amodei công khai kêu gọi làm chậm tốc độ phát triển AI vào ngày 12/9.
Amodei cho rằng cần phải làm chậm tốc độ nâng cấp khả năng của các mô hình AI, đồng thời đề xuất dành thời gian để bảo vệ hệ thống thay vì dừng huấn luyện hoàn toàn. Anthropic cam kết cho phép các nhà đánh giá bên ngoài truy cập vĩnh viễn với quyền tương đương nhân viên để kiểm chứng các thực hành an toàn, báo cáo sự cố và đánh giá mô hình trong quá trình huấn luyện. OpenAI cũng đồng ý cho các nhà đánh giá độc lập truy cập tương tự, trong khi CEO Sam Altman ủng hộ lời kêu gọi của Amodei.
Tuy nhiên, các đề xuất phối hợp này đã gây ra tranh cãi về luật chống tranh chủng. Amodei đề nghị chính phủ Mỹ đưa ra một "miễn trừ hẹp" cho một số cuộc trò chuyện an toàn giữa các đối thủ cạnh tranh. David Sacks đồng ý với việc các công ty tự làm chậm phát triển nhưng bác chối yêu cầu này, cho rằng: "Hãy dừng việc giả vờ luật chống tranh chủng phải bị đình chỉ chỉ để các bạn có thể thành lập một cuộc đồng lệnh." Riêng Elon Musk đề xuất các công ty AI cạnh tranh nên kiểm tra lẫn nhau thông qua đánh giá chéo.
Nguồn chính
- SOURCE@mtslive“Anthropic, OpenAI, and Google are holding talks to create an industry-led standards body to police the AI sector, per The Information.”x.com
- SUPPORT@hesamation“Anthropic, OpenAI, and Google have been having regular discussions since July about an industry-wide standards body for AI.”x.com
- SUPPORT@andrewcurran_“OpenAI, Anthropic and Google have been holding talks since before Dario's essay to create an industry led standards body for shared model safety protocols.”x.com
- SOURCE@ben_burtenshaw“Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our systems, so that they can verify adherence to our safety measures, report on incidents, and assess models’ alignment during training.”x.com
- SOURCE@clashreport“Anthropic CEO Dario Amodei: We need to make this technology carefully, and we need to make sure that our safeguards, our ability to understand it, our ability to control it, keeps up with the pace at which the technology is happening.”x.com
- SUPPORT@wallstengine“ANTHROPIC CEO DARIO AMODEI: WE NEED TO HAVE THE GOVERNMENT IN THE ROOM THE NEXT STEP IS FOR MULTIPLE INDUSTRY PLAYERS TO ALSO AGREE TO HAVE THIRD-PARTY EVALUATORS.”x.com
- SUPPORT@mossadil“Anthropic says it disrupted malicious use of Claude by suspected state-backed actors, criminals, spyware vendors and propagandists across cyberattacks, surveillance, influence operations, weapons development, biological misuse and fraud.”x.com
- SUPPORT@clashreport“Anthropic CEO Dario Amodei: It has always been very strange that this technology is being built by a private company. People ask me that question all the time: "Why isn’t this being built by government?" And the strangest thing about it is I agree with them. I’m uncomfortable.”x.com