第 2026-11-01 期 · 行业追踪 · 开源 · 芯片 · 应用

单卡RTX 3090 Ti运行DeepSeek和Qwen模型获高速推理

用户分享在六年前的硬件(RTX 3090 Ti、128GB内存)上运行DeepSeek-V4.1-Flash-1017和Qwen3.8-Flash-Next模型,分别达到约35 tok/s和138 tok/s的解码速度,并通过开源工具解锁GPU性能限制。

r/LocalLLaMA5 天前
查看原文 ↗