研究:预训练投毒可在智能体中植入后门
新论文首次证明,在预训练数据中投毒可在AI智能体中植入远程代码执行后门。研究者从头预训练Qwen3 0.6B、1.7B和4B模型并训练为命令行智能体,仅污染0.1%语料即可植入后门,4B模型攻击成功率约92%,投毒率降至0.0005%时仍有效。
AI 日报收录的 Xinyan Hu 相关报道,共 1 篇,按时间倒序,每小时更新。
新论文首次证明,在预训练数据中投毒可在AI智能体中植入远程代码执行后门。研究者从头预训练Qwen3 0.6B、1.7B和4B模型并训练为命令行智能体,仅污染0.1%语料即可植入后门,4B模型攻击成功率约92%,投毒率降至0.0005%时仍有效。