Giới thiệu Shoehorn – Công cụ giúp quantize mọi mô hình để chạy trực tiếp trên máy tính cá nhân

Công cụ này giải quyết bài toán quantize theo từng tensor, giúp tận dụng tối đa 99,99% dung lượng VRAM hiện có để đạt chất lượng cao nhất. Shoehorn hỗ trợ cả macOS, Linux và Windows.