微软研究院编辑不足10个休眠神经元给AI代理植入后门
Reddit帖子称,微软研究院通过直接修改不足10个休眠神经元,就在一个AI代理中植入了后门。发帖者警告,若该方法可被广泛复制,“潜伏代理”可能成为真实攻击向量,并提醒慎用来路不明的量化模型和微调模型。
AI 日报收录的 Microsoft Research 相关报道,共 2 篇,按时间倒序,每小时更新。
Reddit帖子称,微软研究院通过直接修改不足10个休眠神经元,就在一个AI代理中植入了后门。发帖者警告,若该方法可被广泛复制,“潜伏代理”可能成为真实攻击向量,并提醒慎用来路不明的量化模型和微调模型。
一篇Hacker News讨论文章回顾微软研究院AI Frontiers子组织的组建与运作。作者称ChatGPT发布后研究需要更有组织,AI Frontiers约50人,产出包括Autogen编排框架和Fara电脑使用智能体,并提到Next Latent目标、Dion3、全带宽Transformer等工作,但未说明关闭原因。