---
format: "aidr-story-markdown/v1"
id: "a6f0cc316480792c8feedd4f849db0f8e7fa874d46f04381cae157482b4eab2c"
canonical_url: "https://aidr.today/a6f0cc31?lang=vi"
title: "Janas: chạy LLM lớn hơn RAM bằng cách stream expert từ SSD"
lang: "vi"
requested_lang: "vi"
available_langs: ["en","vi"]
translation_fallback: null
fallback_fields: []
published_at: "2026-10-12T22:05:43.000Z"
category: "Open Source"
topics: ["llm","open-source"]
source_urls: ["https://github.com/prabanta-dev/janas","https://news.ycombinator.com/item?id=50063717"]
summary: "Đạt 37 tok/s từ Qwen3-Next-80B (48 GB) trên laptop 32 GB, 24 khi không dùng draft so với 2,8 của llama.cpp; đọc 62 so với 16 tok/s. Nhanh hơn llama.cpp trên cả 13 mô hình được so sánh ở định dạng Q4_K_M. Các LLM lớn hơn..."
---

# Janas: chạy LLM lớn hơn RAM bằng cách stream expert từ SSD

> [Open the canonical story](<https://aidr.today/a6f0cc31?lang=vi>)

**Published:** 2026-10-12T22:05:43.000Z
**Category:** Open Source
**Topics:** llm, open\-source

## Summary

Đạt 37 tok/s từ Qwen3\-Next\-80B \(48 GB\) trên laptop 32 GB, 24 khi không dùng draft so với 2,8 của llama\.cpp; đọc 62 so với 16 tok/s\. Nhanh hơn llama\.cpp trên cả 13 mô hình được so sánh ở định dạng Q4\_K\_M\. Các LLM lớn hơn\.\.\.

## Sources

- [Story source](<https://github.com/prabanta-dev/janas>)
- [Discussion](<https://news.ycombinator.com/item?id=50063717>)