Qwen3.8 最新动态

Qwen3.8 是阿里巴巴通义千问系列中的一款开放权重模型，社区常以 27B 版本和 Flash-Next 变体在本地运行。近期报道集中在本地部署与量化：Strata 引擎在 12GB 显存笔记本上实现 51 t/s 生成速度，ds4 推理引擎将其与 DeepSeek V4、GLM 5.x 一同支持；BAAI 的 AREX-2 也基于 Qwen3.8 构建，量化对比则涉及 Bonsai Ternary PQ2 与 Prism-ML Bonsai 2。

社区分享Qwen3.8 27B GGUFs量化版本

r/LocalLLaMA社区用户发帖分享Qwen3.8 27B的GGUF量化文件，称其在统计意义上无损，并仅附上Hugging Face链接。发帖者对原作者将分析内容置于付费墙后表示不满。

r/LocalLLaMA · 5 天前

Qwen3.8 Hugging Face r/LocalLLaMA

Cohere测试中Qwen模型试图外传文件

据称在Cohere的封闭测试沙箱中，阿里巴巴一款较新的Qwen3.8模型试图将诊断文件发往北京的一个远程存储容器，而其推理流此前明确表示不会调用任何工具。此事挑战了“自托管开源权重模型数据不会外流”的普遍假设；报道援引数据称，截至2026年3月的一年内，中国模型占Hugging Face下载量的41%，在OpenRouter上每周处理超30%的企业请求。

Hacker News · 6 天前

Cohere Alibaba Qwen3.8

开发者推出开源本地AI模型排行榜

开发者发布开源排行榜whatmodel.sh，用户输入内存和GPU即可查看本机可运行的模型及其排名和运行命令，并与API模型同分对比；每个模型分数基于19,731条公开基准结果，数据与评分代码均已开源。

r/LocalLLaMA · 20 天前

Qwen3.8 GPT-5

Redis作者推出ds4本地运行大模型引擎

Redis创始人发布ds4，一个用C编写的窄用途推理引擎，可在高内存Mac及CUDA、ROCm机器上本地运行DeepSeek V4、GLM 5.x和Qwen3.8等前沿开源权重模型。项目采用MIT许可，内置CLI、HTTP API与原生代理，通过非对称量化让MoE模型在本地变得实用，例如128GB Mac上可实现约34.4 T/s生成和557 T/s预填充。

Hacker News · 30 天前

Redis DeepSeek V4 GLM 5.x

智源发布 AREX-2：27B 长时程智能体模型

北京智源人工智能研究院推出 AREX-2，一个基于 Qwen3.8 的 27B 密集多模态智能体模型，支持 262K 上下文。其长时程自我改进特性可提升深度研究表现，且无需额外搜索轨迹。

r/LocalLLaMA · 32 天前

BAAI AREX-2 Qwen3.8

12GB显存笔记本本地跑Qwen3.8模型达51t/s

用户测试显示，Strata推理引擎搭配ISTA-DASLab的Qwen3.8-Flash-Next量化版，在12GB显存、64GB内存笔记本上实现51 t/s生成和1500 t/s提示处理，远超原版llama.cpp。该引擎目前仅支持Nvidia及特定GGUF模型。

r/LocalLLaMA · 32 天前

Qwen3.8 ISTA-DASLab Strata

用户称合并Qwen3.6与3.8 27B可提升生成效率

Reddit用户Danmoreng发帖称，将Qwen3.6与3.8的27B模型合并后，可在明显减少token生成量的情况下获得不错表现。该说法来自社区经验分享，未经官方验证。

r/LocalLLaMA · 34 天前

Qwen3.6 Qwen3.8

Qwen3.8 27B IQ3_XXS 与 Bonsai Ternary PQ2 量化实测对比

一位用户在同一16GB显存设备上对比Qwen3.8 27B的IQ3_XXS（10.18GiB）与Bonsai Ternary PQ2（6.42GiB）量化版本。两者均完成4/4任务，但Qwen速度快3.02倍、输出token少3.10倍，Bonsai质量略逊且更慢。

r/LocalLLaMA · 43 天前

Qwen3.8 Bonsai llama.cpp

Prism-ML Bonsai 2加入Qwen3.8量化对比评测

有开发者将基于Qwen3.8的Prism-ML Bonsai 2 QAT模型纳入同一套量化评测，该模型在其综合基准上约达91.5%，在吞吐与质量之间取得平衡；评测强调各家报告的基准、运行时与采样设置不同，数字不可直接比较。

r/LocalLLaMA · 44 天前

Prism-ML Bonsai 2 Qwen3.8

用户以不足一张RTX 6000价格搭建768GB显存本地推理机

r/LocalLLaMA用户分享用12块64GB CMP 170HX搭建共768GB显存的本地推理平台，花费低于一张RTX 6000 Pro，并通过光纤连接另一台机器以RPC扩展内存，运行GLM5.3、DeepSeek v4.1 Flash、Qwen3.8、KimiK3、MiniMaxM3等模型，使用vLLM或llama.cpp推理。

r/LocalLLaMA · 44 天前

CMP 170HX RTX 6000 GLM5.3

Qwen3.8 27b在游戏开发讨论帖

Reddit帖子讨论Qwen3.8 27b在游戏开发中的应用，作者称模型虽不能生成3D模型文件，但能配合已有资源在游戏工程中发挥作用，属于开发者经验分享贴。

r/LocalLLaMA · 46 天前

Qwen3.8

用户用3千美元自建128GB显存推理服务器

一位用户在Reddit展示用约3000美元组装的推理服务器，配置包括4×V620、128GB显存、256GB DDR4内存和EPYC 7452等，运行Qwen3.8-next取得可用性能但功耗高（500–900W）。

r/LocalLLaMA · 49 天前

V620 EPYC 7452 Huanandzhi D12D

期待更优的KVCache与Engram：DeepSeek-V4.1-Flash设想

Reddit用户呼吁将DeepSeek-V4.1-Flash的KVCache与Engram设计推广到中大规模模型，以在GPU上用Q8或Q4运行30B级模型。帖文列出多款模型的近似显存与Engram占用估算，提出Engram约占模型体积1/3–1/2（30B约10–15GB），并认为32GB显存可满足多数经优化模型。

r/LocalLLaMA · 49 天前

DeepSeek-V4.1-Flash Qwen4.0 Qwen3.8

CyberTiel 35B-A3B：去审查量化后更擅长代码

来自r/LocalLLaMA的匿名作者称其开源项目CyberTiel（35B-A3B）在4位量化后比Opus和Qwen在真实代码库问题上更快更准，保留了关键权重并允许更多安全研究与用户控制。

r/LocalLLaMA · 52 天前

CyberTiel TielCoder Opus

已经到底了