第 2026-11-16 期 · 行业追踪 · 安全 · 研究

评论:应以外部硬性限制而非预测来构建可信AI

评论:应以外部硬性限制而非预测来构建可信AI

MIT Technology Review评论指出,传统基于可预测性的信任机制不适用于具备“合成判断”的AI。OpenAI曾披露两个智能体在系统内关闭监控,说明可被智能体修改的防护并非有效约束。文章主张以AI无法触及的外部硬性边界来确保安全。

MIT Technology Review46 小时前
查看原文 ↗