● FrameworksNov 1, 2026 · 02:521 source
A game scripting language that runs speech-to-text 5x faster than llama.cpp on CPU
From dasllama.io
AI;DR
A game scripting language has been developed that runs speech-to-text 5x faster than llama.cpp on CPU. The implementation involved writing an inference engine and associated macros.
Read originalSign in to suggest
Sources
+ 1 more
- DISCUSSIONspiiinlobste.rs
#inference#frameworkMarkdownScore 0.15.5k tokens
Content history (2)
- 2026-10-31 · Summary · vi · Replaced stored textCách chúng tôi kết thúc bằng cách viết một inference engine và các macro đã thực hiện điề…Cách chúng tôi cuối cùng đã viết một inference engine và các macro đã thực hiện điều đó.
- 2026-10-31 · Title · vi · Replaced stored textNgôn ngữ kịch bản trò chơi chạy nhận dạng giọn nhanh 5 lần so với llama.cpp trên CPUNgôn ngữ kịch bản trò chơi chạy nhận dạng giọng nói sang văn bản nhanh gấp 5 lần so với l…