Sumeet Ramesh Motwani

研究：AI模型可证明地隐藏任意能力

NeurIPS 2026接收论文提出，通过在宿主模型权重中嵌入加密神经网络、仅由秘密触发词解密执行的后门，可在密码学假设下让隐藏电路难以被诱导和解释，即使拥有完整权重。作者在PyTorch中实现并在化学反应预测任务上测试，结果抵抗微调、权重加噪、梯度触发搜索和潜在对抗训练，揭示基于诱导的能力审计存在局限。