Qwen3

7 篇报道

Qwen3 是阿里云通义千问团队发布的开源大语言模型系列,涵盖多种参数规模与 MoE 架构。近期相关讨论集中在本地部署与生态应用:有用户在 64GB M4 Max 上以 256k 上下文运行 Qwen3 27B 做智能体编程,也有用户用旧 PC 加矿卡搭建家用服务器运行 Qwen3 27B;AWS 发布了在 Trainium 上用 torchtitan 训练 Qwen3 的教程,Pulse Local 则用微调的 Qwen3 0.6B 驱动 Mac 本地记账应用,另有调查显示 32 个音频模型家族采用 Qwen 系列骨干,其中 20 个为 Qwen3。

相关话题

64GB内存新定位:运行AI智能体已非死区

用户实测在64GB M4 Max上运行Qwen3 27B模型进行智能体编码,256k上下文下内存占用约48GB。提示缓存命中率93%,使每轮仅需处理1k新token而非160k,避免20分钟预填充。随着智能体普及,上下文内存开销与模型本身相当,64GB成为平衡点。

r/LocalLLaMA ·

Pulse Local 推出 Mac 端本地 AI 预算应用

Pulse Local 是面向 Apple Silicon Mac 的预算应用,AI 模型完全在本地运行,导入银行 CSV 后由微调的 Qwen3 0.6B 解析问题、由代码计算金额,4B 检查模型复核答案,将错误率从约五分之一降至 494 题中 5 题。首次启动需下载约 2.9GB 模型,开启检查时回答需 12-14 秒,目前仅支持英文和 Mac,应用免费,可选 $29/年 的联网同步模式。

Hacker News ·
已经到底了