社区尝试为Qwen 3.8 Flash Next使用完整n-gram表
LocalLLaMA用户称,常见GGUF中置于SSD的PLE(n-gram表)被大幅量化,影响模型表现;其用ple_fp8_pack.py打包FP8版PLE后,iq3_s量化模型出错明显减少且速度不变,仅多占磁盘。所需safetensors文件来自Qwen FP8仓库,打包后通过--ple-gguf参数加载。
仅显示 2026年10月18日 周日 的内容 · 查看全部日期 →
LocalLLaMA用户称,常见GGUF中置于SSD的PLE(n-gram表)被大幅量化,影响模型表现;其用ple_fp8_pack.py打包FP8版PLE后,iq3_s量化模型出错明显减少且速度不变,仅多占磁盘。所需safetensors文件来自Qwen FP8仓库,打包后通过--ple-gguf参数加载。
开发者介绍Otaku,一个可连接本地引擎的LLM前端,主打长故事中的写作质量、精简上下文与网页/终端双界面。新功能包括双向角色库、类似NovelAI的故事模式、图片上下文、联网搜索、向模型提问及作者注释式注入,并可在故事超长时将中段替换为摘要。