企业用4块6000 Pro显卡搭建本地AI服务
一家公司使用4块RTX 6000 Blackwell MaxQ显卡、384GB内存和AMD EPYC CPU搭建本地AI服务器,为40人提供AI服务,成本约5.5万欧元。主要模型包括DeepSeek V4 Flash、Qwen 3.8 27B和K2-Horizon 7B。
K2 Horizon 是基础模型研究所(IFM)发布的一组完全开源模型,共六个,参数规模从 0.9B 到 375B,并公开了训练数据、配方、代码、中间检查点和训练日志。近期讨论集中在社区对 7B 和 3.7B 等小尺寸版本性能的反馈,以及有公司用 4x RTX 6000 Blackwell MaxQ GPU 的本地服务器在 K2-Horizon 7B 等模型上为 40 人提供服务。IFM 团队还计划在 10 月 5 日举行 AMA 介绍该系列。
一家公司使用4块RTX 6000 Blackwell MaxQ显卡、384GB内存和AMD EPYC CPU搭建本地AI服务器,为40人提供AI服务,成本约5.5万欧元。主要模型包括DeepSeek V4 Flash、Qwen 3.8 27B和K2-Horizon 7B。
基础模型研究所(IFM)团队将于10月5日举行AMA,讨论其K2 Horizon系列——六个从0.9B到375B的完全开源模型。除权重外还开源了训练数据、配方、代码、中间检查点与训练日志。
Reddit 社区讨论 k2 horizon 系列模型,用户认为其 7B(及 3.7B)版本在性能上超越 muse glimmer 且开源全过程。帖子询问社区是否有人实测,称若表现属实可能成为新里程碑。