单卡RTX 3090 Ti运行DeepSeek和Qwen模型获高速推理
用户分享在六年前的硬件(RTX 3090 Ti、128GB内存)上运行DeepSeek-V4.1-Flash-1017和Qwen3.8-Flash-Next模型,分别达到约35 tok/s和138 tok/s的解码速度,并通过开源工具解锁GPU性能限制。
AI 日报收录的 RTX 3090 Ti 相关报道,共 1 篇,按时间倒序,每小时更新。
用户分享在六年前的硬件(RTX 3090 Ti、128GB内存)上运行DeepSeek-V4.1-Flash-1017和Qwen3.8-Flash-Next模型,分别达到约35 tok/s和138 tok/s的解码速度,并通过开源工具解锁GPU性能限制。