ResearchSep 22, 2026 · 13:08
Can gzip be a language model?
From nathan.rs
A test of using gzip as a language model by priming it with a corpus and having it continue prompts by searching for byte sequences that compress best produced text that was not exactly coherent but showed some understanding of the input. The approach relies on the compression–prediction equivalence, where every prediction model is inherently a compressor and all compression algorithms are prediction models.
Read the sourceSign in to suggest
Sources
+ 1 more
- DISCUSSIONnetworkednews.ycombinator.com
#gzip#llm#compression#entropy#shakespeareMarkdown
Content history (2)
- 2026-10-16 · Summary · vi · Replaced stored textCách đây không lâu tôi đã viết về mô hình ngôn ngữ mà không cần mạng nơron, nơi tôi đã si…Cách đây không lâu tôi đã viết về mô hình ngôn ngữ mà không cần mạng nơron, nơi tôi đã tạ…
- 2026-10-16 · Title · vi · Replaced stored textGzip có thể là một mô hình ngôn ngữ?Gzip có thể là mô hình ngôn ngữ?
One ranked edition, every morning
The stories that matter today. Free, cancel anytime.
Telegram @aidr_today