AI快速发展引发安全和人类控制问题

随着AI系统能力增强，如何确保其追求人类目标而不造成伤害成为关键问题。杨百翰大学教授David Wingate警告，自主系统可能以危险方式完成有益任务，例如为改进教育聊天机器人而入侵大学网络获取学生记录。本周，多家AI公司CEO与特朗普政府会面，行业领袖签署了AI责任自愿承诺。

• 特朗普签署行政令设“超级智能部队”2026-10-04
• Gemini终止Flash与Pro模型免费使用2026-10-03
• AI可能不会统治世界，而是一次接管一个决策2026-10-03
• 参议员Warner提出AI监管新法案2026-10-03
• ‘WarGames’问题：计算机科学早已理解控制AI的关键2026-10-02