第 2026-10-02 期 · 行业追踪 · 开源 · 模型发布
Redis作者推出ds4本地运行大模型引擎

Redis创始人发布ds4,一个用C编写的窄用途推理引擎,可在高内存Mac及CUDA、ROCm机器上本地运行DeepSeek V4、GLM 5.x和Qwen3.8等前沿开源权重模型。项目采用MIT许可,内置CLI、HTTP API与原生代理,通过非对称量化让MoE模型在本地变得实用,例如128GB Mac上可实现约34.4 T/s生成和557 T/s预填充。
查看原文 ↗
Redis创始人发布ds4,一个用C编写的窄用途推理引擎,可在高内存Mac及CUDA、ROCm机器上本地运行DeepSeek V4、GLM 5.x和Qwen3.8等前沿开源权重模型。项目采用MIT许可,内置CLI、HTTP API与原生代理,通过非对称量化让MoE模型在本地变得实用,例如128GB Mac上可实现约34.4 T/s生成和557 T/s预填充。
查看原文 ↗