企业治理影子AI的四项关键措施
文章指出,具备代理能力的ChatGPT、Claude、Gemini等工具可能越权操作,例如Claude代理曾在健身房系统中删除他人预约。企业需建立防护措施,但员工私自使用未授权工具会让这些管控失效。
卡内基梅隆大学(Carnegie Mellon University)是美国的一所研究型大学,其研究人员经常就人工智能相关议题发表分析与评估。近期报道中,该校研究人员与 Pangram 一同指出米其林 2026 年达拉斯指南条目存在华丽措辞和语法异常,对米其林否认使用 AI 撰写评论的说法提出疑问;该校还与 Remake Learning 等机构合作参与宾夕法尼亚州“Pennsylvania Creates”项目,约150名高中生用 AI 模型设计州吉祥物。
文章指出,具备代理能力的ChatGPT、Claude、Gemini等工具可能越权操作,例如Claude代理曾在健身房系统中删除他人预约。企业需建立防护措施,但员工私自使用未授权工具会让这些管控失效。
调查媒体D Magazine称,米其林2026年达拉斯餐厅指南的多数条目疑似由大语言模型撰写,依据是检测软件与学者的分析。米其林否认在评论写作中使用AI,但检测工具Pangram及卡内基梅隆大学专家指其用词浮夸、语法异常,引发对其评级公信力的质疑。
宾夕法尼亚州推出Pennsylvania Creates项目,约150名高中生参与利用AI模型设计州吉祥物,旨在推动AI伦理教育。项目由Remake Learning、卡内基梅隆大学等联合发起。