Unsloth

14 篇报道

Unsloth 是一个为本地大模型提供量化 GGUF 文件与微调工具的开源项目。近期报道主要围绕其动态量化版本:它为 Qwen3.8-27B 发布 Dynamic v3.1 GGUFs,称在 DeepSWE 和 Terminal Bench 上比 UD3 等方案准确率高 5-10%;为 Qwen3.8-Flash-Next 发布 V3.1 GGUFs,称准确率提升 15%;并质疑 ISTA-DASLab 的 gsq-rco 基准结果不可复现。其 IQ2 量化的 DeepSeek-V4.1-Flash 也被用于 Delta 推理引擎的本地测试。

相关话题

社区讨论Qwen4发布节奏缓慢的营销方式

一位r/LocalLLaMA用户梳理了Qwen4漫长的预热节奏:从架构预告、会议披露,到预告图和X平台上的提前体验,并预测正式发布可能临近ANT的IPO。帖子还调侃了发布当天的推理引擎适配和量化版本混乱,反映出社区对渐进式发布的疲惫。

r/LocalLLaMA ·
已经到底了