社区讨论:推理优化后如何界定“质量中性”
一位Reddit用户引用NVIDIA Ling-3.0-flash在单台DGX Spark上的对比数据,GSM8K得分从96.89%降至96.82%(共1319题)。该配置同时更换MoE后端、加入FP8输出头和NEXTN投机解码,作者询问需要哪些证据才能宣称质量没有实质回退。
DGX Spark 是 NVIDIA 面向 Linux 开发者的本地 AI 工作站,搭载 GB10 Grace Blackwell 超级芯片和统一内存,可运行最高 1000 亿参数模型。近期报道集中在 64GB 版本的发布与定价争议:64GB 机型据称与 128GB 版本(售价 6,950 美元)价格接近,引发社区批评;同时 DGX Spark 被用于运行 Fish Drama 3 语音模型、Nemotron 与 Bolt 系列本地模型,并有用户搭建 20 节点集群运行 397B 模型。
一位Reddit用户引用NVIDIA Ling-3.0-flash在单台DGX Spark上的对比数据,GSM8K得分从96.89%降至96.82%(共1319题)。该配置同时更换MoE后端、加入FP8输出头和NEXTN投机解码,作者询问需要哪些证据才能宣称质量没有实质回退。
NVIDIA在GTC柏林展示RTX Spark、DGX Spark和DGX Station等本地AI硬件。64GB版DGX Spark于10月23日上市;DGX Station Windows版12月推出。NVIDIA Sync将支持八台DGX Spark,并对Nemotron、GLM、DeepSeek、Qwen等新模型提供首日支持。
英伟达发布Nemotron 3.5 Super VL等开放权重模型,1200亿参数版本面向企业智能体,声称指令遵循与工具调用准确率可媲美更大的Nemotron 3 Ultra。另有两款轻量Bolt模型可在搭载RTX Spark的AI PC和DGX Spark工作站本地运行。英伟达称Super VL在特定智能体任务上经后训练可快于Anthropic和OpenAI的竞品模型。
HP开售搭载128GB内存的新款RTX Spark笔记本,原价5109.99美元,使用优惠码后降至3832.49美元。该帖将其视为错过低价DGX Spark后的替代选择。
Fish推出文本转语音模型Drama 3,采用35B3A的MoE架构,可在DGX Spark上运行,4bit量化版本效果接近原模型。模型已上线Hugging Face Space并可本地部署。
Sipeed推出MaixStation,定位与AMD Strix Halo和英伟达DGX Spark相近。消息来自Reddit的LocalLLaMA社区,具体规格与上市信息尚未公布。
Reddit用户批评英伟达将64GB DGX Spark与128GB版本以几乎相同价格出售,称其为稀释产品的“掺假”行为。
一名用户在r/LocalLLaMA分享本地运行大模型的硬件升级经历:从单张RTX 3090起步,历经16卡3090集群,最终扩展到多台ASUS GB10(DGX Spark)节点,实现397B模型以FP8运行并提速20%,并在NVIDIA论坛发布首个8节点Spark方案。
据r/LocalLLaMA消息,新款64GB DGX Spark发布,原有128GB型号价格显著上调至6950美元。
英伟达本月将通过宏碁、华硕、戴尔、技嘉、惠普和微星推出配备64GB统一内存的DGX Spark,搭载GB10 Grace Blackwell超级芯片、DGX OS及完整AI软件栈,支持最高1000亿参数模型本地运行。两台设备可通过Sync Cluster Assistant集群,在Qwen 3.8 27B测试中性能提升至多1.7倍。
一项实验让Jev、Laya、微调ModernCE和微调Qwen3.5-4B在ViZDoom中自主游玩,比较击杀、生存时间与响应延迟。微调Qwen3.5-4B平均击杀3.63,表现最佳;Jev平均生存5.63秒,p95延迟约200毫秒。所有模型均未针对Doom专门训练。
曼彻斯特大学与NVIDIA合作,基于Earth-2生成式下采样模型在英国国家超算Isambard-AI上训练出用于全国空气质量预报的模型,能在不使用昂贵化学模式的情况下生成时空污染场景并支持情景模拟。研究展示了Earth-2 CorrDiff与StormCast在推理与观测融合上的可行性。