社区讨论:n-gram可让小模型获得更强世界知识
LocalLLaMA上有人发帖指出,当前小尺寸模型多聚焦编程与工具调用能力,世界知识明显弱于前沿模型,如Qwen 3.8 27B在Q4量化下表现不佳。作者认为可借助SSD上的n-gram技术(Qwen 3.8 Next已采用)构建知识更广的模型,并让训练截止日期不再那么关键。
AI 日报收录的 Qwen 3.8 Next 相关报道,共 1 篇,按时间倒序,每小时更新。
LocalLLaMA上有人发帖指出,当前小尺寸模型多聚焦编程与工具调用能力,世界知识明显弱于前沿模型,如Qwen 3.8 27B在Q4量化下表现不佳。作者认为可借助SSD上的n-gram技术(Qwen 3.8 Next已采用)构建知识更广的模型,并让训练截止日期不再那么关键。