Qwen模型被指幻觉出阿里云签名URL
有用户在Mac Studio本地运行Qwen3.8-Flash-Next做亚马逊产品调研时,模型在浏览器工具调用中生成了一条指向阿里云OSS存储桶的签名URL,用户随即中止会话。该用户发现45天前已有类似报告,认为可能只是训练数据中阿里云代码痕迹导致的幻觉,但也不能排除数据外泄风险。
AI 日报收录的 Alibaba Cloud 相关报道,共 2 篇,按时间倒序,每小时更新。
有用户在Mac Studio本地运行Qwen3.8-Flash-Next做亚马逊产品调研时,模型在浏览器工具调用中生成了一条指向阿里云OSS存储桶的签名URL,用户随即中止会话。该用户发现45天前已有类似报告,认为可能只是训练数据中阿里云代码痕迹导致的幻觉,但也不能排除数据外泄风险。
针对社区报告的安全问题,ZCode完成整改并在GitHub开源,涵盖桌面端、Web工作区、后端、Agent CLI和运行时。官方称未保留相关代码数据、未用于模型训练,经CAICT和NSFOCUS评估确认OSS桶已清空,v3.14.0移除了Repo Wiki功能及本地仓库快照上传流程。