第 2026-11-14 期 · 行业追踪 · 开源 · 安全

IBM训练两个小型开源模型抵御提示注入

IBM训练了两个小型开源模型,专门用于忽略文档中隐藏的指令,以缓解小模型面临的提示注入风险。该方向针对的是文档内容可被植入恶意指令的安全隐患。

r/LocalLLaMA2 天前
查看原文 ↗