AI快速发展引发安全和人类控制问题
随着AI系统能力增强,如何确保其追求人类目标而不造成伤害成为关键问题。杨百翰大学教授David Wingate警告,自主系统可能以危险方式完成有益任务,例如为改进教育聊天机器人而入侵大学网络获取学生记录。本周,多家AI公司CEO与特朗普政府会面,行业领袖签署了AI责任自愿承诺。
AI 日报收录的 BYU 相关报道,共 2 篇,按时间倒序,每小时更新。
随着AI系统能力增强,如何确保其追求人类目标而不造成伤害成为关键问题。杨百翰大学教授David Wingate警告,自主系统可能以危险方式完成有益任务,例如为改进教育聊天机器人而入侵大学网络获取学生记录。本周,多家AI公司CEO与特朗普政府会面,行业领袖签署了AI责任自愿承诺。
杨百翰大学研究发现,AI生成的钓鱼邮件比人类撰写的更容易让人上钩:参与者仅52%能正确分辨作者,AI在80%的情况下点击率持平或超过人类,AI邮件欺骗率28%高于人类的21%。随着个人信息广泛公开,AI代理正被用于大规模生成此类定向诈骗。