第 2026-10-09 期 · 社区音量
Simon Willison @simonw
最适合编程、能在少于 60GB 内存中运行的最佳开放权重专家混合(MoE)LLM 是什么? 我认为 MoE 可能是必要的,以便在我可访问的硬件上获得合理的交互速度——我想要比每秒 12 个 token 更快的东西。
查看原文 ↗最适合编程、能在少于 60GB 内存中运行的最佳开放权重专家混合(MoE)LLM 是什么? 我认为 MoE 可能是必要的,以便在我可访问的硬件上获得合理的交互速度——我想要比每秒 12 个 token 更快的东西。
查看原文 ↗