1

Show HN: Llmspeed – cảm nhận tốc độ chạy của một LLM cục bộ trước khi mua phần cứng

llmspeed.dev

Chọn phần cứng và mô hình, rồi cảm nhận tốc độ thực tế của một LLM cục bộ trước khi mua. Mô phỏng tokens/giây và thời gian tới token đầu tiên từ các benchmark đã xác minh cho GPUs, Macs và nhiều thiết bị khác.

Đăng nhập để góp ý

Nguồn chính

  1. THẢO LUẬNalbinstmannews.ycombinator.com
  2. THẢO LUẬNbagdaerdevnews.ycombinator.com
  3. SOURCEhnmacyou.co
Bản Markdown