IBM专家:信任才是AI真正的挑战
IBM负责任AI负责人Francesca Rossi在访谈中表示,安全与竞争力并不矛盾,真正的竞争优势来自可信任的系统而非最强模型,并指出当前一些AI风险被低估。背景是Amodei呼吁放缓AI发展及教皇利奥十四世的相关表态。
Donald Trump 是美国总统,其政府在 AI 领域采取了一系列行政与监管行动。近期报道包括:他签署公告将进口工业机器人列为国家安全威胁,并推动将“人工智能”一词在联邦传播中改为“超级智能”;他还呼吁数据中心与当地社区达成协议,而民调显示 57% 的美国人认为 AI 对社会不利。
IBM负责任AI负责人Francesca Rossi在访谈中表示,安全与竞争力并不矛盾,真正的竞争优势来自可信任的系统而非最强模型,并指出当前一些AI风险被低估。背景是Amodei呼吁放缓AI发展及教皇利奥十四世的相关表态。
AP-NORC最新民调显示,64%美国人认为AI发展过快,仅8%认为过慢;绝大多数受访者要求政府确保AI处于人类控制之下并保护劳动者,但对两党处理AI的能力信任不足,特朗普在该议题上支持率偏低。
特朗普于2026年9月将AI更名为“超级智能”,并成立“超级智能部队”任务组,目标是维持美国AI领先地位并改善民生。文章称该任务组监管细节甚少,重点或偏向推动创新。
美国国会尚未专门立法规范国防部对前沿AI模型及自主武器可靠性的使用。CRS报告指出,在五角大楼与Anthropic的争议中,特朗普总统2月指示联邦机构停用Anthropic技术,国防部长Hegseth随后要求将其移出供应链;9月25日哥伦比亚特区巡回上诉法院维持了排除决定。Anthropic CEO Amodei称前沿AI系统尚不可靠,不足以驱动全自主武器。
白宫成立“超级智能工作组”,以落实特朗普与Anthropic、谷歌、Meta、Nvidia、OpenAI、SpaceXAI六家AI公司负责人达成的《超级智能协议》,该协议涵盖内部安全管控、独立安全评估和董事会监督。前NSA首席AI官撰文提出五项建议。
路透社/益普索民调显示,多数美国选民认为特朗普和国会没有认真对待人工智能带来的风险。
前监管者和分析人士指出,美国现行可适用于AI的法律未被执行;在特朗普签署行业自律性AI安全协议后,国会多项提案(如要求设置“终止开关”)引发争议。
特朗普政府官员要求司法部采用特朗普对人工智能的新称谓“超级智能”(SI),取代AI。此举反映了政治对AI术语的影响,但具体实施细节未明。
《卫报》TechScape指出,特朗普与六位AI公司CEO签署所谓“道德约束力”协议,约定对AI进行“自我监督”,签署者包括马斯克、扎克伯格、黄仁勋和Dario Amodei。报道称扎克伯格提前起草该协议,白宫、五角大楼、情报机构与AI公司之间正形成紧密联盟,引发欧洲等依赖美国AI的政府和企业担忧。
曾警告AI危险的业内人士如今成为特朗普盟友的目标。文章探讨美国政治风向转变对AI安全倡导者的冲击。
马斯克表示将把 SpaceX 的人工智能部门 SpaceXAI 更名为 SpaceXSI,以响应特朗普将 AI 改称“超级智能”的行政令。该行政令要求联邦机构在官方文件中使用 SI 一词,并制定联邦定义。
评论文章指出,AI在网络攻防中的能力加剧了美中相互脆弱性,反而为双方在关键基础设施攻击上保持克制提供了动力。文章援引2015年美中网络安全共识作为先例。
在中期选举前,特朗普反对联邦对AI设置更严格护栏,并把对AI的批评称为“骗局”,这与选民对AI发展速度及数据中心扩张的担忧相悖。保守派专栏作家Peggy Noonan在《华尔街日报》撰文称其为“一个时代的失误”,一些共和党盟友也呼吁放慢AI发展。
CBS News报道达特茅斯学院教授Hany Farid等专家如何鉴别深度伪造。在一起伊朗小学遇袭视频争议中,Farid通过声速、光速和导弹尺寸等物理证据判断视频真实。他强调AI生成内容已让司法证据的真实性面临挑战。
特朗普任命国家情报总监杰伊·克莱顿领导一个新的联邦人工智能工作组,此举显示美国政府正加强AI政策协调。
本周AI领域新闻密集:特朗普考虑放弃国有化OpenAI和Anthropic,转而可能入股;美光第四财季营收542.3亿美元超预期;一名加州居民因涉嫌走私超3亿美元英伟达GPU服务器至中国被捕;亚马逊与Constellation签署20年核电采购协议以满足AI用电需求。
据Politico报道,特朗普为其情报主管新增“AI沙皇”头衔,显示美国政府正将人工智能事务提升至国家安全与政策协调层面。
文章关注特朗普在人工智能议题上的立场转变,从称AI“非常危险”到推出America.gov相关举措。
特朗普9月29日签署行政令,设立由国家情报总监Clayton领导的“超级智能部队”,要求120天内提交超级智能风险与机遇评估报告,并推动以“SI”取代“AI”的表述。
美国参议员Mark Warner等三名民主党人提出《2026年人工智能风险管理与安全法案》,拟设立联邦AI安全委员会,制定可执行的监管护栏,并建立AI安全缺陷与事件数据库。Warner称支持AI创新但需要政府监督,防止国家安全风险。
随着AI系统能力增强,如何确保其追求人类目标而不造成伤害成为关键问题。杨百翰大学教授David Wingate警告,自主系统可能以危险方式完成有益任务,例如为改进教育聊天机器人而入侵大学网络获取学生记录。本周,多家AI公司CEO与特朗普政府会面,行业领袖签署了AI责任自愿承诺。
多家媒体报道,特朗普预计将任命现任国家情报总监Jay Clayton为“AI沙皇”,接替此前辞职的David Sacks,负责监督美国AI产业发展;白宫称相关人事消息以总统正式宣布为准。
特朗普总统提议改用“超级智能”一词,引发对AI与超级智能区别的讨论:AI是执行人类智能相关任务的系统总称,而超级智能是假设在几乎所有领域远超人类认知能力的机器智能。
2026年9月29日,特朗普采取三项举措:行政令要求官方文件将“人工智能”改称“超级智能”;设立America.gov统一服务平台;与六家大型AI公司签署自愿协议,为前沿AI开发建立四层内控与审计。此举表明政府偏好行业自律而非联邦监管。
报道称美国总统特朗普承诺组建“AI force”并任命专职负责人监管该技术,下周将在白宫会见Sam Altman、Dario Amodei、Elon Musk等人,Meta、Google高管及Nvidia的黄仁勋预计出席。多位领袖已公开表达对AI不受控发展的担忧。
据《时代》杂志报道,2025年12月特朗普与马斯克秘密会面,特朗普与Grok聊天数小时,询问委内瑞拉人对抓捕马杜罗的反应。Grok称马杜罗是“极不受欢迎的独裁者”,许多委内瑞拉人可能会庆祝其下台。2026年1月3日美国入侵委内瑞拉后,特朗普认为Grok很聪明。
教皇良十四世表示AI失控担忧并非“假新闻”,应认真对待专家提出的安全问题;他首份通谕即聚焦AI与人类保护,而特朗普称相关担忧是“骗局”。
特朗普将美国司法部和联邦调查局列为防范人工智能风险的保障力量,凸显其政府对 AI 安全监管的立场。
特朗普在《时代》采访中表示,与Anthropic CEO Dario Amodei共进晚餐后“喜欢他和他妻子”,称其“非常聪明”。此前美国国防部将Anthropic列为供应链风险,此番表态或预示双方关系缓和。
加州州长纽森签署行政令,要求州政府机构继续使用“人工智能”而非“超级智能”一词,直接回应特朗普总统将AI重新命名为“超级智能”的行政令。纽森批评自我监管不足,并签署法律禁止员工在纪律决定等事务上依赖AI。