llm-echo 0.5

Phát hành: llm-echo 0.5 Tôi đang hướng tới một bản phát hành LLM mới, và việc kiểm tra PRs đã khiến tôi quay lại xem xét lại plugin gỡ lỗi llm-echo. Plugin này cung cấp một "model" không liên quan đến LLM nào cả - nó chỉ lặp lại những prompt đã được đưa vào. Bản phát hành mới này cập nhật các số đếm token sử dụng mô phỏng để tính đến cả lời gọi công cụ, prompt hệ thống và token lý luận. Ví dụ sử dụng: uvx --with llm-echo llm -m echo 'hi there' -o thinking 1 --usage Đầu ra: Trước tiên tôi cân nhắc prompt, sau đó tôi quyết định nên nói gì. { "prompt": "hi there", "system": "", "attachments": [], "stream": true, "previous": [] } Sử dụng token: 2 đầu vào, 24 đầu ra Nhãn: llm