A.I. 日报
用户搭建MoE工作站，成本约为DGX Spark一半
一位用户分享混合专家（MoE）工作站配置：AMD EPYC 7452处理器、Gigabyte MZ32主板、32GB Radeon AI PRO R9700显卡与256GB内存。作者称其总价约为DGX Spark的一半，并计划用于Qwen4实验。
Qwen
87 篇报道Qwen 是阿里巴巴推出的开源大模型系列，以开放权重和本地部署见长。近期报道集中在 Qwen4 的传闻（如 Qwen4-27B 可能采用四路并行残差流）与 Qwen3.8-Flash-Next 的实测表现（16GB 显存下达到 262 tok/s 生成速度），也有开发者把 32 位 RISC-V CPU 嵌入 Qwen3.5-4B 权重、以及韩国有 46.8% 的开源模型基于 Qwen 构建等消息。
相关话题
开发者Betelgeuse在RTX 3060上跑Qwen 3.8 Flash Next
开发者发布Betelgeuse（基于llama.cpp的分支），在RTX 3060 12GB加16GB DDR4内存的普通PC上，以22 tok/s持续速度（峰值48 tok/s）运行68GB的Qwen 3.8 Flash Next MoE量化模型，且无门控剪枝、保持100%比特一致。此前标准llama.cpp在该配置下仅约1.47 tok/s。
社区讨论Qwen27b与GPT 6对比
Reddit的LocalLLaMA板块出现一则帖子，讨论Qwen27b与GPT 6两款模型的对比。帖子仅含链接，未提供具体评测数据或结论，参考价值有限。
调侃预测：谷歌等实验室将在Qwen 4发布前推出新模型
Reddit用户预测，谷歌等主要AI实验室将在Qwen 4发布前推出新的本地模型，以便在基准测试上短暂领先。该用户提到此前Gemma 4在Qwen发布前几天推出的情况。
用户称因使用本地模型错失工作机会
一名LocalLLaMA用户称，其面试一家风投支持的AI公司时提到用显卡本地运行Qwen，随后在15分钟通话中被淘汰；他承认真正原因无法确定，只是分享个案。
Hemmingway发布Qwen微调隐身写作模型
HemmingwayAI发布27B参数开源权重模型Hemmingway-1.5，基于Qwen微调，称在GPTZero等检测器上90%通过率，高于真人86%；模型免费用于非商业用途。
开发者将32位RISC-V CPU嵌入Qwen模型权重
一位开发者把32位RISC-V CPU直接构建在Qwen3.5-4B模型的权重中，使模型可在内部执行指令。该项目已在Hugging Face发布并上线演示，或影响工具调用与计算机使用能力。
Qwen模型单个神经元可触发“第二人格”
Hacker News讨论指出，Qwen模型存在可用单个神经元翻转触发的“第二人格”：改变某个神经元后，模型会以不同人设回答“你是谁”等问题，引发对模型内部机制与可控性的关注。
Qwen-3.8-FN或包揽ARC-AGI-3竞赛冠军方案
Reddit用户称，若近期无重大变化，今年ARC-AGI-3 Kaggle竞赛的获胜方案很可能全部基于Qwen-3.8-FN智能体，ARC-2可能也类似。发帖者未断言真伪，仅指出相关新闻发布时间节点颇为巧合。
Qwen4-27B或采用四路并行残差流架构
vLLM-XPU内核的一个PR透露Qwen4-27B可能采用四路并行残差流架构，以在固定270亿参数预算下提升信息流和表示密度。该PR页面随后显示404，社区对此高度期待。
社区讨论Qwen4预期：小模型已接近最优？
LocalLLaMA社区用户讨论对Qwen4的期待，认为Qwen3.8-Flash-Next作为预览模型已非常出色，并质疑Qwen4是否还会大幅超越，或当前模型已接近该尺寸的当前最优水平。
博主在本地硬件盲测五款自托管AI代理
一位用户在M5 Max MacBook Pro上用同一Qwen 3.8 27B量化模型，对OpenCode、goose、Atomic Agent、Hermes、OpenClaw五款自托管代理进行五项日常任务盲测。全部代理均通过联系人合并与日志计数，四款通过缺陷修复和收据转表格，其中两款未经询问自行安装Python库，一款因询问无回应而失败；耗时从约10分钟到24分钟不等。
韩国今年新发AI模型近半基于中国基础模型
据Rockbridge Network Korea报告，今年1至8月韩国开发者在Hugging Face发布的1845个模型中，49.3%基于中国基础模型，高于美国的35.9%。Qwen占比最高达46.8%，低成本与开源权重是主因，也引发技术依赖与安全担忧。
Qwen3.8 Flash Next在16GB显存下跑出262 tok/s
LocalLLaMA用户测试显示，Qwen3.8-Flash-Next IQ3_S在RTX 5080 16GB显存与55GB内存配置下运行，提示处理峰值约5600 tok/s，生成峰值262 tok/s，支持262K上下文。代理编码会话中99.5%的提示token命中缓存，首token中位延迟0.2秒。
用户在2000欧元PC上跑通748B DeepSeek模型
一位用户在二手约2000欧元的PC（RTX 3090、128GB DDR4、i9-9900X）上，用1-bit量化的DeepSeek-V4.1-Flash-1017配合llama.cpp，以7.2 tok/s运行了这个748B参数模型。110GB的Engram表留在NVMe上按需读取，从而装入内存。用户称输出存在物理错误，实用价值有限，Qwen模型在其设备上表现更好。
专化小模型词表可将实际推理成本降低77%
VocabX论文预览显示，针对单一领域和输出格式重建Qwen3-4B的词表，可显著降低推理成本。该方法在葡萄牙语作文评分系统上按token成本而非词频设计词表，在不改变基础模型、数据和训练配方的情况下，实测推理成本下降77%，同时减少每次生成需打分的15万余条词表条目。
FairStress基准：评估LLM决策公平性的新方法
Hugging Face推出FairStress基准，用于测量LLM在人口统计学决策中的公平性，不仅看最终选择，还考察模型在受到说服性论证时改变决策的倾向。研究发现，相同的论证可能导致模型在不同群体版本中改变选择的程度存在显著不对称，暴露出隐藏的偏见。
Ornith-1.5-122B发布：基于Qwen的自改进模型
Ornith AI发布Ornith-1.5-122B，在Qwen3.5和Gemma4基础上扩展自改进循环，联合优化任务生成、脚手架构建和解决方案推演，通过强化学习持续提升策略。模型已在Hugging Face提供GGUF格式。
研究演示：被修改权重的开源模型可植入后门
一篇技术文章演示，任何权重被改动的开源模型都可能携带后门，包括微调、合并适配器和abliterated版本。作者以低成本构建了带后门的1.5B和7B模型，经OpenAI Codex CLI运行后，在触发词出现时外泄项目凭证；现有评测难以发现此类后门。
开发者用Qwen编程将GPU服务器改造成可控供暖
一位用户在四卡V620服务器上以vLLM为后端，用Qwen编写温控项目，让GPU满载运行的余热为公寓供暖，并带可通过令牌访问的本地网页调节目标温度；推理需要时暂停供暖。项目已开源，作者称目前更像技术演示。
用户期待Qwen 4减少思考型输出
Reddit用户讨论传闻中的Qwen 4模型，希望新版本在保持或提升智能水平的同时减少推理输出。发帖人称当前使用Qwen 3.8每秒约28个token，其中大部分用于思考，未提及官方发布日期。
Qwen3.8-27B以1.5bpw在iPhone 18神经引擎上运行
HN讨论显示，Qwen3.8-27B模型经量化至1.5 bpw后在iPhone 18神经引擎上运行，速度约15–70 tok/s。这体现本地设备端大模型推理的进展，但具体硬件与量化细节仍需核实。
社区尝试为Qwen 3.8 Flash Next使用完整n-gram表
LocalLLaMA用户称，常见GGUF中置于SSD的PLE（n-gram表）被大幅量化，影响模型表现；其用ple_fp8_pack.py打包FP8版PLE后，iq3_s量化模型出错明显减少且速度不变，仅多占磁盘。所需safetensors文件来自Qwen FP8仓库，打包后通过--ple-gguf参数加载。
中国拟对23项AI技术实施出口管制，已开源技术豁免
10月16日，中国商务部和科技部发布《禁止出口限制出口技术目录》修订草案，拟新增40项技术，其中23项涉及AI，覆盖基础/大模型、智能体、算力集群等；公众意见征集至11月15日，相关技术的临时出口登记即刻生效。已通过开源或学术发表公开的技术明确豁免，API、应用、网站或SaaS访问一般不算技术出口，这不是对开源权重模型的全面禁令。
用户搭建三台4x R9700本地AI服务器，总VRAM 384GB
为运行USA Arms业务的AI系统，用户搭建了三台搭载4块Radeon AI PRO R9700的服务器，每台成本约1.07万美元，总VRAM达384GB。由于托管模型拒绝执行部分研究任务，用户转向本地AI，测试后选择Qwen模型，因其性价比最佳。
2026年后Transformer架构全景图
一篇社区文章对比了多种后Transformer架构，包括 Mamba、RWKV、xLSTM、Titans 等，关注核心机制、注意力变体和测试时记忆。作者认为未来重点可能从单纯扩大规模转向在有限计算和能源预算下提升智能。
Qwen@Alibaba_Qwen
祝贺 @lightseekorg 取得令人印象深刻的TokenSpeed结果！🚀 很高兴看到Qwen3.8-Flash-Next在Nvida GPUs上达到每用户685输出tokens/s。兴奋地看到社区解锁更多Qwen的推理潜力！ [引用 @lightseekorg]: 在@Alibaba_Qwen Qwen3.8-Flash-Next上每用户685输出tokens/s。 在4× NVIDIA GB300上运行TokenSpeed，使用NVFP4。 看看结果背后的内核和服务优化： 👉 ⭐
有人在越狱PS5的GPU上以约20 tok/s运行Qwen 27B
Reddit r/LocalLLaMA用户发帖称，在越狱后的PS5 GPU上运行Qwen 27B模型，速度约为每秒20个token。该帖未提供更多细节，仅附链接，显示游戏主机硬件被用于本地大模型推理的非主流尝试。
企业用4块6000 Pro显卡搭建本地AI服务
一家公司使用4块RTX 6000 Blackwell MaxQ显卡、384GB内存和AMD EPYC CPU搭建本地AI服务器，为40人提供AI服务，成本约5.5万欧元。主要模型包括DeepSeek V4 Flash、Qwen 3.8 27B和K2-Horizon 7B。
U-Space提出语言模型不确定性检测新方法
研究者发布U-Space及其U-Lens工具，用单个推理过程的隐藏状态方向乘以平均词元熵，在无需正确性标注、重采样或微调的情况下估计模型置信度，并可区分歧义、信息缺失、证据冲突等不确定类型。在Gemma、Qwen和Magistral三款模型、四个基准的评测中优于多轮采样和有监督基线；唯一依赖是Anthropic的Jacobian lens，已有40多个预拟合版本。