第 2026-11-01 期 · 行业追踪 · 开源 · 芯片 · 应用
单卡RTX 3090 Ti运行DeepSeek和Qwen模型获高速推理
用户分享在六年前的硬件(RTX 3090 Ti、128GB内存)上运行DeepSeek-V4.1-Flash-1017和Qwen3.8-Flash-Next模型,分别达到约35 tok/s和138 tok/s的解码速度,并通过开源工具解锁GPU性能限制。
查看原文 ↗用户分享在六年前的硬件(RTX 3090 Ti、128GB内存)上运行DeepSeek-V4.1-Flash-1017和Qwen3.8-Flash-Next模型,分别达到约35 tok/s和138 tok/s的解码速度,并通过开源工具解锁GPU性能限制。
查看原文 ↗