第 2026-09-21 期 · 行业追踪 · 研究 · 开源

Qwen 27B在单张3090上自主运行三周

一位用户用单张RTX 3090本地运行Qwen 27B量化模型约21天，目标是让智能体自行编写CUDA推理引擎。期间共运行约2.3亿token、699次压缩耗时约83小时，最终预填充速度约为llama.cpp的一半，但产出了可用的kernel和测试。

r/LocalLLaMA33 小时前

查看原文 ↗

话题:Qwen llama.cpp RTX 3090

Heretic工具可移除语言模型限制2026-09-21
讨论：千美元级Qwen3.8-27B专用芯片会有市场吗2026-09-21
Qwen-Image-2.1发布：紧凑高效的统一图像生成模型2026-09-20
Qwen3.8 27B IQ3_XXS 与 Bonsai Ternary PQ2 量化实测对比2026-09-20
Qwen3.8-Omni-Flash低价对标Gemini2026-09-19