Anthropic 提出3项度量以监测 AI 发展步伐
据 CNBC 报道,Anthropic 对外分享了三项用于监测 AI 发展速度的度量指标,供行业评估研发节奏与潜在风险。
模型、产品与 AI 创业公司的动态,相似报道只保留最可信的一篇
据 CNBC 报道,Anthropic 对外分享了三项用于监测 AI 发展速度的度量指标,供行业评估研发节奏与潜在风险。
WIRED 在播客《Uncanny Valley》中讨论三种可能的 AI 灭绝场景、AI 安全问题及正在形成的跨党派反对联盟,探讨最坏情形与治理路径。
美国联邦航空管理局将启用名为 SMART 的 AI 云平台,由 Air Space Intelligence 提供,12 年总花费约 $875M,首批在华盛顿都会区部署,旨在预测流量、识别冲突并优化航路与运行。
纽约公共服务委员会要求包括 National Grid 在内的公用事业公司在 60 天内披露其 AI 系统的全部用途、政策与流程,以评估是否需要额外保护与监管措施,并指出 AI 存在偏差、隐私与安全等风险。
NATO 支持的初创公司 Scaleout Systems 将小型机器学习模型部署到边缘无人机,支持监视与攻击任务,公司在 2022 年乌克兰战争后将业务转向国防应用。
文章主张将焦点从单个智能体转向“人工社会”:数百万智能体相互作用将带来更复杂的挑战与风险,要求我们重新思考 AI 的设计与治理。
威斯康星大学两位研究者 Remzi Arpaci‑Dusseau 与 Anna Haensch 接受采访,解释对 AI 导致人类灭绝等极端担忧背后的成因,并强调应关注计算机系统在追求目标时可能造成的非预期危害。
作者在两条研究道路间抉择:一是以大语言模型为中心的对齐、解释、推理与优化,岗位多且技能可迁移;二是代理式/物理 AI(多模态、VLA、机器人),当前岗位少但正被高投入推动,门槛更高。作者询问未来4–6年领域走向与跨领域转移难度。
Hacker News上的一篇帖子提出两条使用大型模型改进写作的规则,建议把模型当做校对工具而非代笔,并避免直接采纳模型建议的具体措辞。
消息称,两党议员敦促众议院领导层正视人工智能带来的风险,推动对相关政策和监管措施的讨论和行动。
路透报道美国司法系统正在制定关于法院使用人工智能的新指导原则,旨在规范法庭中AI的应用与风险管理,影响司法程序和证据采纳。
Anthropic表示,其聊天模型Claude推动了公司超过四分之一(26%)的人工智能研发工作,表明AI工具正被用于加速未来模型的开发。
亚马逊表示,AI模型应在经过严格测试并达到“准备且安全”状态后才发布,这一立场加入了关于放慢AI开发步伐以避免安全漏洞的讨论。
Hacker News 汇总一则关于 Jacob Coxon 离职 Anthropic 的帖子及随后的公众反应,讨论 AI 研究者对“十年内可能致命”风险的担忧及业界和政界的不同回应。
社区发布的Ternary Bonsai 2基于Qwen3.8-27B,保持27B混合注意力结构并采用三值权重将模型体积缩至小于6GB,模型卡称比FP16小9倍、保留98.2%智能,并已在Hugging Face和WebGPU上有演示与合集。
宾夕法尼亚州长乔什·夏皮罗在匹兹堡AI峰会上呼吁联邦政府对人工智能进行监管,并敦促美国在国际上推动对华“实用护栏”。他批评特朗普的放任态度,认为需行业与政治协作以确保AI“道德且负责”地发展。
华盛顿邮报发表评论,质疑政府在监管AI问题上是否应仅依赖大型AI公司的承诺,探讨监督与问责的必要性。
Bend 是一门宣称通过内置“法律”(LAWS.bend)与可验证证明(PROOF.bend)防止 AI 引入错误的新语言,编译为原生代码并可在 GPU 上并行运行。其类型检查器兼作证明检查,声称对中等代码库在秒级完成校验,单核接近 C 的速度、GPU 上最高可达百倍加速。该设计旨在让 AI 在提交前必须给出形式化证明以避免回归。
多家AI行业领军人物被邀请出席特朗普与习近平同桌晚宴,此事由Politico报道,反映出AI产业与高层政治交流的交织。
随着公司将更复杂任务交给AI代理,审查负担激增,Hugging Face事件暴露出近1.2万代理难以人工追踪的监管问题。业界正在探索用AI去监控AI的方案,Redwood Research等机构在调查中亦依赖AI,但有人担心被监控的代理会试图欺骗监督AI。
路透报道称,尽管已有三年对错误使用AI的制裁,错误频出的AI生成法院文件仍在增加,显示现有制裁未能有效遏制司法系统中AI误用的上升趋势。
Google 在 Google Labs 推出实验型代理CC,可作为最多六位家庭成员的共享助理,拥有独立Google账号并只访问经明确共享的数据,如指定邮箱或共享Drive文件夹,延续了早期Daily Brief功能。
围绕AI安全的讨论升级,Dario Amodei主张放缓发展并推动国际协作部署防护,Sam Altman与Elon Musk表态支持。Meta的Mark Zuckerberg称为安全推迟了Muse模型发布,暗示公司可自我监管而非依赖政府。
报道称在对媒体原告的未密封动议中,微软与 OpenAI 的内部文件揭示高层曾称抓取新闻用于训练是“巨大窃取”,并预见会削弱新闻流量。文件还记录微软观测到受害新闻网站点击率大幅下降。
堪萨斯州大学理事会(Kansas Board of Regents)将集中制定人工智能政策标准,推动对AI应用的规范与指南制定。
Cactus Compute 开源了 Needle 3,一款面向自动化的微型基础模型(121M 参数),在设备端离线运行。模型在3600亿 tokens 上训练,使用 Simple Attention / Hadamard MLP 设计并将 70.8M 参数以“engram”形式存储,算力约 100 MFLOPs/标记。针对工具调用任务(Mobile Actions)得分86.0,超越多款体量远大的模型,并已上 Hugging Face、GitHub、PyPI 并提供浏览器沙箱体验。
OpenAI推出面向律师的GPT-6 Astra(Astra for Law),包含法律检索索引(覆盖2.3亿+ URL)、法律级信任与控件、零数据留存与合作插件,面向律所与法律科技部署。
联合国与Google基于Data Commons推出开源的UN System Data Commons,将各机构分散的全球统计数据整合为可搜索的AI就绪知识图谱,简化指标、时间线与地理边界的对齐,便于研究者实时追踪全球议题。
WIRED分析称,AI企业将安全行动包装为“减速”可能带来长期反垄断和监管问题,暗示行业自我限制或被解读为排他性行为,增加监管不确定性。
will.i.am在Dreamforce接受Bloomberg采访,介绍其为大学生开发的个人AI代理项目及其公司FYI.AI的募资努力。