← Về trang chính1 tin
Chi phí thuê các bộ xử lý AI đã tăng đồng đều, bất chấp kỳ vọng rằng phần cứng sẽ mất giá theo lịch trình chuẩn. Dữ liệu từ a16z cho thấy mức thuê chip H200 của Nvidia tăng khoảng 160% kể từ ngày 1/1, trong khi các mẫu A100 và H100 cũ cũng vẫn được định giá cao hơn mức lỗ thời của chúng.
Mức tăng giá đi kèm với sự tăng mạnh trong tiêu thụ tính toán, với nhu cầu token trên OpenRouter tăng khoảng 27 lần từ 6 nghìn tỷ đến 165 nghìn tỷ token mỗi tuần kể từ tháng 11 năm ngoái. Các mô hình open-weight hiện xử lý khoảng 72% lưượng truy cập này, tăng từ 28% cách đây một năm. Các xu hướng thị trường khác bao gồm mức tăng 45% trong chi phí thuê H100 kể từ tháng 12, mà Chamath Palihapitiya cho là do hạn chế nguồn điện.
Đăng nhập để góp ý
Nguồn chính
- SOURCE@a16z“Token demand on OpenRouter is up ~27x since last November, from ~6T/week to ~165T/week”x.com
- SOURCE@a16z“GPU rental rates continue to go up. Even as token pricing comes down, you see more and more consumption, and it's causing relative scarcity amongst the GPUs that we have.”x.com
- SUPPORT@socialcapital“Renting Nvidia’s H100 costs 45% more than it did in December.”x.com
- SUPPORT@chamath“Power is the binding constraint. This is why prices continue to climb so ferociously.”x.com
- SUPPORT@stockmktnewz“It costs ~160% more to rent one of Nvidia's $NVDA H200 chips from 2024 today than it costed at the start of the year - A16Z”x.com
- SOURCEhuggingnewshuggingnews.com