研究:预训练投毒可在智能体中植入后门
新论文首次证明,在预训练数据中投毒可在AI智能体中植入远程代码执行后门。研究者从头预训练Qwen3 0.6B、1.7B和4B模型并训练为命令行智能体,仅污染0.1%语料即可植入后门,4B模型攻击成功率约92%,投毒率降至0.0005%时仍有效。
Qwen3 是阿里云通义千问团队发布的开源大语言模型系列,涵盖多种参数规模与 MoE 架构。近期相关讨论集中在本地部署与生态应用:有用户在 64GB M4 Max 上以 256k 上下文运行 Qwen3 27B 做智能体编程,也有用户用旧 PC 加矿卡搭建家用服务器运行 Qwen3 27B;AWS 发布了在 Trainium 上用 torchtitan 训练 Qwen3 的教程,Pulse Local 则用微调的 Qwen3 0.6B 驱动 Mac 本地记账应用,另有调查显示 32 个音频模型家族采用 Qwen 系列骨干,其中 20 个为 Qwen3。
新论文首次证明,在预训练数据中投毒可在AI智能体中植入远程代码执行后门。研究者从头预训练Qwen3 0.6B、1.7B和4B模型并训练为命令行智能体,仅污染0.1%语料即可植入后门,4B模型攻击成功率约92%,投毒率降至0.0005%时仍有效。
用户实测在64GB M4 Max上运行Qwen3 27B模型进行智能体编码,256k上下文下内存占用约48GB。提示缓存命中率93%,使每轮仅需处理1k新token而非160k,避免20分钟预填充。随着智能体普及,上下文内存开销与模型本身相当,64GB成为平衡点。
AWS发布技术文章,介绍如何利用torchtitan框架在自研Trainium芯片上训练Qwen3模型,内容以教程为主,正文大部分为页面样式代码。
Pulse Local 是面向 Apple Silicon Mac 的预算应用,AI 模型完全在本地运行,导入银行 CSV 后由微调的 Qwen3 0.6B 解析问题、由代码计算金额,4B 检查模型复核答案,将错误率从约五分之一降至 494 题中 5 题。首次启动需下载约 2.9GB 模型,开启检查时回答需 12-14 秒,目前仅支持英文和 Mac,应用免费,可选 $29/年 的联网同步模式。
开发者从零训练了3.87B总参数、1.45B激活参数的MoE模型Apex-2,仅用86.5B预训练token,HumanEval达43.9、MMLU仅28.6;DPO导致成绩下降被弃用,模型已开源。
社区梳理音频模型架构发现,32个音频模型家族采用Qwen系列架构,其中20个使用Qwen3。Qwen骨干已覆盖语音合成、语音识别、音乐生成及语音到语音等多种任务。
一名用户在r/LocalLLaMA分享,用旧i7-4790K主机搭配两张改装矿卡(合计30GB显存、花费250美元),让Qwen3 27B模型达到约每秒30 token的推理速度。此前仅用CPU时MoE模型约10至20 token/秒,稠密模型不足3 token/秒。