第 2026-11-16 期 · 行业追踪 · 开源 · 产品

开源工具inside-llm可视化LLM内部与量化差异

开发者发布开源工具inside-llm,基于llama.cpp加载一至两个GGUF模型,在浏览器中逐token展示概率、采样链路、熵与散度,并可对比同一模型两种量化的分歧点。工具还支持分支回溯与logit lens。

r/LocalLLaMA17 小时前
查看原文 ↗