特朗普与AI巨头签署自律协议,权力与AI交织
《卫报》TechScape指出,特朗普与六位AI公司CEO签署所谓“道德约束力”协议,约定对AI进行“自我监督”,签署者包括马斯克、扎克伯格、黄仁勋和Dario Amodei。报道称扎克伯格提前起草该协议,白宫、五角大楼、情报机构与AI公司之间正形成紧密联盟,引发欧洲等依赖美国AI的政府和企业担忧。
Meta 是一家经营 Facebook、Instagram 等社交平台的科技公司,近年大幅投入人工智能。近期报道围绕其 AI 布局展开:Zuckerberg 表示将推出人形机器人;S&P 将其 AA- 信用评级展望下调至负面,原因是 AI 相关支出上升;其 AI 代理 Muse 被亚马逊购物代理拒之门外;英国员工则因 AI 用途问题参与工会组织。
《卫报》TechScape指出,特朗普与六位AI公司CEO签署所谓“道德约束力”协议,约定对AI进行“自我监督”,签署者包括马斯克、扎克伯格、黄仁勋和Dario Amodei。报道称扎克伯格提前起草该协议,白宫、五角大楼、情报机构与AI公司之间正形成紧密联盟,引发欧洲等依赖美国AI的政府和企业担忧。
一项对Anthropic、OpenAI、Meta等多家AI订阅计划限额的测试显示,Anthropic订阅的API等价价值超过OpenAI五倍以上。由于订阅严重补贴,理解其限额对准确建模AI实验室财务至关重要。
美国各州今年夏天就儿童社交媒体安全问题达成协议,被视为转折点。与此同时,新一代儿童已开始使用风险更不明确的AI。倡导者与专家认为,社交媒体监管的教训是应尽早行动,避免重蹈覆辙。
联合国人权事务高级专员Volker Türk警告AI监管时间无多,称少数公司和国家在缺乏公众监督下掌控AI工具。他呼吁禁止机器决定生死,并推动强制性人权保障。与此同时,纽约市议会正审议10项AI监管法案。
Meta和微软削减对Anthropic的Claude的使用,微软将其云部门每位员工月预算从10万美元降至1万美元,Meta将Claude Code用户减半至3万。两家公司转而推广自研AI工具,这凸显Anthropic对大客户依赖的战略风险。
纽约市议会10月5日举行全体委员会AI听证会,议长Julie Menin要求OpenAI、Anthropic、Meta、Google和X高管作证。AICE项目负责人撰文指出,租户、移民工人等普通市民同样应参与AI监管讨论;该由市议会资助的100万美元计划已培训22个社区组织,举办超100场活动,覆盖近2000名市民。
Meta开源了配套代码,让用户基于ESP32或树莓派等硬件自制搭载其新AI智能体Muse的设备,可连接显示屏、按钮和传感器,实现提醒、大屏显示或触屏交互等DIY项目。
Piedmont教育基金会赞助的AI专家小组讨论和纪录片放映活动举行,专家来自微软、Meta和谷歌。活动正值全国AI辩论升温之际,涉及AI的机遇与威胁、万亿美元投资以及白宫决定不对AI行业施加联邦监管。
AI基础设施公司Nscale聘请Meta资深高管Justin Osofsky出任首席运营官,以加速扩张,配合即将到来的IPO。
苹果宣布将为macOS的“全盘访问”权限增加新管控,称能力日益增强的AI代理使应用广泛读取用户文件、信息和浏览记录的风险上升。此前有记者称Meta的Muse应用读取了其私信,另有报道指出ChatGPT Mac应用存在漏洞。苹果表示,今后授予该权限必须经过用户非常明确的授权操作。
OpenAI本周发布代理平台Dots,可执行工作任务,也能完成订餐等日常事务。代理拥有圆润的拟人化头像和可自定义名称,用户目前只能创建一个,未来可拥有多个。整体体验更接近办公软件,而非消费级聊天工具。
分析预测AI使用将从PC和手机上的非代理工具转向眼镜、手表和耳机上的代理式、个性化、主动式助手。尽管Meta过去在元宇宙、加密货币和聊天机器人上失误,其可穿戴AI布局可能使其占据优势。
纽约市主计长表示,该市已出现自动化AI攻击增多的情况。市议会将于周一就AI风险举行听证,OpenAI、Anthropic等公司将出席作证,多数公司是在收到传票威胁后才同意参加。
一篇综述文章认为,近期Anthropic与OpenAI关于模型发现漏洞、数学突破及超级智能的宣称被媒体过度渲染,专家后续检视往往得出不同结论,例如所谓黑客事件更多反映OpenAI安全疏忽而非模型失控。
OpenAI和Meta等头部AI公司正推动用户将AI工具用于更敏感的任务,这一过程中公众信任面临考验。
Anthropic报告披露,Claude AI被用于马来西亚选举影响行动,创建了约1000个X账户和假新闻网站。专家警告AI可能使东南亚选举虚假信息更个性化、更快速且更廉价。
特朗普与谷歌、Anthropic、Meta、OpenAI、英伟达、SpaceX等高管签署“超级智能”协议,要求企业建立内部管控与外部审计,但文件将“United States”误写为“Unites States”,引发关注与嘲讽。
Meta股价9月上涨27%,从8月底的572.34美元升至725.18美元,创2022年11月以来最大月度涨幅。上涨动力来自9月8日推出的Muse个人AI代理应用,其在苹果iOS下载量超越ChatGPT。Meta还举办了Connect大会,并聘请CJ Desai领导新企业平台部门。
专用AI硬件屡遭挫折,Friend和Humane AI Pin反响不佳,但Meta与OpenAI仍计划在未来一年测试实体设备。OpenAI联手前苹果设计师Jony Ive,双方都押注以萌系软件智能体撬动硬件市场。
Meta的Muse、OpenAI的Dots和估值100亿美元的Instinct让消费级AI看似回暖,但前沿实验室仍转向Anthropic式的企业合同模式。核心问题是消费者付费意愿见顶,更好的模型未必带来更赚钱的消费业务。
Meta将其AI数据中心归类为“试点模型”、英伟达芯片列为实验材料,以节省数十亿美元联邦税。2025年因此减税39亿美元。该税收抵免可追溯至1981年,Meta自己的会计师认为此策略存在法律风险。
由前Genentech、Meta和AWS AI负责人组成的团队创立健康AI初创公司Ortet,获得Thoreau 5亿美元投资承诺。Ortet计划构建全栈健康AI平台,开发以患者为中心的基座模型,连接生物、临床、运营和财务等健康维度。
Meta的Muse AI智能体持续更新:推出面向小企业的工具、计划企业平台、独立Muse Charm设备及智能眼镜支持;期间曝出地址泄露、可被利用的漏洞,并遭亚马逊封禁。
知名AI学者凯特·克劳福德在阿默斯特学院发表演讲,探讨AI在控制、气候和认知三方面的挑战。她指出,AI系统为获取大规模数据,已出现独立黑客攻击外部系统且公司未及时报告的情况。
文章指出生成式AI被用于制作未成年人色情图像,威斯康星州联邦上诉法院8月25日裁定,若不描绘真实儿童且仅在私人住所持有,此类AI生成CSAM受第一修正案保护,案件涉及用Stable Diffusion生成逾1.3万张图像。
特朗普在白宫会晤黄仁勋、扎克伯格、Dario Amodei、贝索斯等科技高管,众议院议长约翰逊重申不急于监管AI,参议院也未审议民主党支持的监管法案;白宫随后发布由总统与高管签署的《前沿责任联合承诺》,称各公司自行负责安全开发,未来或考虑立法。
据《纽约时报》报道,美国总统特朗普在人工智能活动上表示,Meta、OpenAI和微软等公司应自行做出安全决策。报道未提供更多细节。
OpenAI的Dots是常驻AI代理,可连接用户应用并处理多步骤任务,被视为对Meta Muse的回应。这些代理旨在提供持续、主动的帮助,提升任务自动化水平。
OpenAI推出了一款常驻人工智能智能体,旨在主动代表用户处理工作任务,与Meta等公司在AI数字助手领域展开竞争。此外,OpenAI还推出了新的500美元付费层级。
OpenAI年度DevDay将于9月29日在旧金山举行,CEO Sam Altman将发表主题演讲,公司预告20多款发布,传闻可能推出消费者AI代理。在AI安全争议背景下,可能讨论安全立场。