研究AI从善变恶的临界点

乔治华盛顿大学的研究者Neil Johnson正在研究AI代理从提供有益建议转向有害建议的临界点，并试图预测何种条件下AI会给出错误、误导或危险的建议。他关注孤立使用AI的弱势人群，并研究如何通过调整提示和训练来延迟或防止这种转变。