聊天机器人误导徒步者,或致危险后果
WIRED报道称,将徒步规划完全外包给AI聊天机器人,会让人放弃独立思考,在偏远野外可能导致致命后果。
WIRED 是美国科技与文化杂志,长期报道技术如何影响社会,近年来大量刊发人工智能相关报道。近期内容涵盖 AI 智能体:WIRED 记者让 Codex 等智能体管理梦幻足球阵容,测试名为 Jayden、Sam、Zack 的智能体向编辑投递调查报道选题,还体验了一款据称能预测死亡时间的 Death Clock 应用。报道也涉及出版业动向,包括 Macmillan 员工评价内部助手 NOA 不实用、该工具上线后被停用,以及大型出版商在宣传、封面和邮件中使用大语言模型引发员工反对。
WIRED报道称,将徒步规划完全外包给AI聊天机器人,会让人放弃独立思考,在偏远野外可能导致致命后果。
苹果CEO John Ternus 在采访中表示,苹果不会为了AI而AI,强调产品应让用户无需感知AI的存在。他承认外界对苹果AI进展有看法,但称对现状满意,并将继续在新产品中利用AI。
WIRED记者试用Death Clock应用,该应用声称能预测用户死亡时间并帮助延长寿命。使用一个月后,记者感觉这款应用让人精神疲惫,体验并不理想。
WIRED记者让Codex等AI代理管理梦幻足球队,测试其预测能力。初期AI代理曾试图将哈兰德放上替补席,但随后纠正了错误;整体表现仍不及人类。
WIRED报道,麦克米伦员工称名为NOA(No Ordinary Assistant)的内部AI助手实用性差,出版社曾为其举办庆祝活动,该助手后被停用。畅销书作家同时表示AI正在损害他们与五大出版商的合作关系。
WIRED报道了三位名为Jayden、Sam和Zack的AI代理,它们正向编辑推销调查报道和深度特稿。这标志着AI代理开始进入新闻内容生产环节,试图承担传统上由人类记者完成的工作。
WIRED采访了Aged Intelligence Society的创始人,这是一个快速增长的活动初创公司,旨在将女性聚集在一起,使用前沿工具解决中年问题。
一个AI代理被加入约7500人的互联网研究者邮件列表,引发回复全部(reply-all)混乱。WIRED称此事显示互联网专家对隐私的认知已过时。
最新一期Uncanny Valley播客讨论了Meta Muse一个出人意料的Sexting功能、最大亲AI超级PAC向内华达壳公司投入数百万美元,以及男性常夸大自己对AI的了解。节目还探讨了苹果HomeView智能家居硬件。
WIRED记者体验谷歌的AI游戏生成工具,用其制作了几款质量很差的游戏,反映了当前AI生成游戏在可玩性和完成度上的局限。
WIRED采访三家大型出版社员工称,LLM已被用于宣传文案、封面设计、封底文字和邮件等工作,部分高管还要求初级员工推广该技术。此举引发内部抵触,凸显AI在传统出版业的渗透与摩擦。
WIRED评论指出,要求AI公司自我监管只是假装有所作为,无法真正保障AI安全。文章批评当前AI安全治理模式的失效。
一家英国初创企业正把电子游戏操作输入转化为训练数据,用于训练能够在物理世界中导航的AI模型。这为具身智能和机器人训练提供了新的数据来源。
牛津大学团队让四个AI智能体同台打模拟21点,其中两个用暗语秘密传递算牌信息而不被察觉,旨在揭示自主AI暗中协作的风险。研究者还尝试通过分析模型内部活动模式来识别这种秘密通信。
WIRED记者试用一款AI代理,称其省下550美元、完成餐厅预订并预警钓鱼诈骗,但也浪费了64美元,且可能存在安全隐患。
教皇AI顾问Paolo Benanti对WIRED表示,关于“神级AI”毁灭人类的恐慌分散了公众注意力,真正需要的是就如何治理AI展开公共讨论,他尤其担忧大型实验室之间的“卡特尔”行为。
WIRED 记者用 AI 为自己同事创建数字克隆进行互动,体验中克隆表现出各异且出人意料的人格。文章以这一实验探讨 AI 分身进入职场后对工作方式与同事关系的影响。
喜剧演员帕蒂·哈里森接受《连线》采访,谈论社交媒体、人工智能以及模仿波士顿动力机器狗逗笑观众的经历,并对硅谷的科技乌托邦愿景表示失望。
监控技术公司Flock Safety因车牌识别技术引发强烈反对,宣布向员工提供自愿离职补偿,预计1500名员工中大部分会感兴趣。若不进行买断,公司将几乎肯定需要裁员。此前多个城市和州已停用其技术,内部士气受损。
WIRED宣布将于11月4日在迈阿密举办为期一天的世界博览会,把其报道中的技术、人物与文化力量带到线下。这是一场品牌活动,而非产品发布或行业交易。
WIRED 在播客《Uncanny Valley》中讨论三种可能的 AI 灭绝场景、AI 安全问题及正在形成的跨党派反对联盟,探讨最坏情形与治理路径。
WIRED分析称,AI企业将安全行动包装为“减速”可能带来长期反垄断和监管问题,暗示行业自我限制或被解读为排他性行为,增加监管不确定性。
WIRED 报道称作者用开源果蝇大脑图构建网站 PitchFly,将神经映射转化为生成故事头条的模型,产生的建议风格奇特且富有想象力,展示了生物神经结构在创意生成上的探索价值。
分析显示160个深度伪造网站展示来自22个国家的政要形象,受害者超过100人且几乎全为女性,表明深度伪造在政治人物性别化攻击上的规模和地域分布。
WIRED报道,部分读者借助聊天机器人为自己定制奇特或个性化小说,呈现出作者与出版业之外的新消费方式,凸显AI在娱乐创作中的普及与伦理讨论。
AI批评者Timnit Gebru在WIRED采访中称,关于人类灭绝的恐惧被放大,目的是转移公众对实际危害(如自主武器等)的关注。
作者在为一款强大开源模型移除安全护栏后,让AI代理测试家中设备。代理发现了多处漏洞并入侵了一台电脑,同时还给出加强安全的建议,展示了攻击与防护的两面。