桑德斯提出法案禁止超级智能并设立AI部
参议员伯尼·桑德斯和众议员格雷格·卡萨尔提出法案,永久禁止人工超级智能,并设立人工智能部监管先进AI;在安全规则出台前暂停开发,违规可能面临最高20年监禁。
Sam Altman 是 OpenAI 的首席执行官。近期报道集中在芯片与算力资源上:他在韩国与三星高管会面讨论存储芯片与 AI 基础设施,并在播客中称个人电脑闲置占用大量 DRAM 是“糟糕的”资源分配;同时他称 AI 正快速暴露安全漏洞并宣称已进入“奇点”。此外,有报道称华尔街预期 OpenAI 于 2027 年第一季度 IPO,德州总检察长 Paxton 亦就其 ChatGPT 安全性提起诉讼。
参议员伯尼·桑德斯和众议员格雷格·卡萨尔提出法案,永久禁止人工超级智能,并设立人工智能部监管先进AI;在安全规则出台前暂停开发,违规可能面临最高20年监禁。
初创公司天生擅长这一点;让大公司也擅长这一点很难,我认为这是一个未被充分探索的领域。 [引用 @prd_008]: OpenAI 的超能力是能够迅速组建一个被赋权的高能力团队,在任何时候处理最重要和最紧迫的事情。 没有人真正关心组织界限。这就是我们保持灵活、抓住机会并从错误中恢复的方式。
我们希望 OpenAI API 在每个价格点都拥有最好的模型,并在每种模态(文本、代码、图像、视频等)上都做到最好。 然后我们希望你们所有人提出伟大的想法并构建它们,并成为快乐的用户。最好的想法将来自你们所有人。
特别是按每任务定价比较,这才是应该重要的指标,我认为市场上没有任何有竞争力的东西。 我们希望人们能够大量使用 AI;这对于能够探索我们面前的新文艺复兴很重要。 [引用 @sama]: GPT-6 Sol 和 Luna 在智能、对齐、工作产出、编码、计算机使用等方面相比其 5.6 系列的前代产品有了巨大提升。 它们的每 token 价格也减半,每任务成本甚至更低!
GPT-6 Sol 和 Luna 在智能、对齐、工作产出、编码、计算机使用等方面相比其 5.6 系列的前代产品有了巨大提升。 它们的每 token 价格也减半,每任务成本甚至更低!
GPT-6 Sol 和 Luna 是出色的模型,但这些角色也太可爱了 [引用 @OpenAI]: 请欢迎 GPT-6 Sol 和 GPT-6 Luna 加入 GPT-6 宇宙。 GPT-6 Sol 和 Luna 基于 GPT-6 Astra 背后的进步,将其许多优势带入更快、更实惠的模型中,以支持大规模工作。 我们还提高了缓存和推理效率,并将节省直接传递给您:与 GPT-5.6 促销价格相比,Sol 和 Luna 的 API 价格降低了 50%…
Total Capital创始人、前微软Azure高管Sheila Gulati指出,AI安全领域投资严重不足,并谈到Sam Altman、Dario Amodei等人对AI风险的警告及行业监管担忧。
AI实验室之外的人应该对这项技术的发展有真正的发言权,并且有一个明确的方式来评判它是否在安全地发展。 标准应该有助于防止权力集中,包括确保新公司和开放模型公司能够竞争。 它们还应该帮助国家和公司比较证据并从失败中学习。 我们认为美国应该领导这项工作。以下是我们的提议:
Anthropic CEO Dario Amodei将于周三与OpenAI CEO Sam Altman一同向联合国安理会通报,会议主题为人工智能的未来。
在科技行业发出AI末日警告的背景下,康涅狄格州议员希望下届会议通过进一步AI监管法规。参议员马罗尼对伊利诺伊州要求第三方安全审计AI模型的立法感兴趣,并强调独立验证安全协议的重要性。
美国前总统奥巴马在科尔盖特大学演讲时呼吁政府尽快监管AI,批评特朗普政府依赖市场自行解决安全问题的立场,并建议选民关注候选人的AI政策。他还援引Anthropic与OpenAI高管的谨慎表态。
据乌克兰国家通讯社报道,OpenAI首席执行官Sam Altman将在联合国安理会就人工智能带来的风险发表讲话。此举凸显AI安全议题正被推向国际最高安全决策层面。
Anthropic CEO Dario Amodei发文呼吁行业放缓AI开发,提出"pacing the frontier"三点计划:向外部评估者开放验证权限、民主国家间协调安全标准、并将协调扩展至全球(含中国,但他怀疑北京是否会遵守)。OpenAI CEO Sam Altman公开表示赞同,称这是OpenAI近几周讨论的主要议题。Amodei援引Anthropic竞逐史上最大IPO之际的递归自我改进加速及OpenAI-Hugging Face失控智能体事件作为动因。
Anthropic CEO Dario Amodei提出三步计划放缓AI发展,包括在实验室嵌入第三方评估、国内产业协调及国际协议。OpenAI CEO Sam Altman、Google DeepMind联合创始人Demis Hassabis和Elon Musk公开表示认同部分内容。多家实验室正酝酿某种联合行动。
据路透社独家报道,OpenAI首席执行官Sam Altman下周将向联合国安理会作简报。报道未披露简报主题或具体安排。
Mashable 解释称,递归自我改进指 AI 帮助构建更强的 AI,从而加速能力提升。Anthropic CEO Dario Amodei 在 9 月 12 日的文章中警告需放缓模型能力提升速度,Sam Altman、Elon Musk 和 Demis Hassabis 均表示认同。核心担忧是 AI 可能改进得比人类测试和确保安全的速度更快。
投资机构认为AI投资远未达峰,当前投资浪潮影响或超20万亿美元,科技巨头资本支出有望到2032年达30万亿美元。尽管Dario Amodei、Sam Altman和Elon Musk等呼吁因安全风险放缓开发,但机构仍看好AI生态各环节的机会。
评论指出多位AI领袖(包括Anthropic的Dario Amodei、OpenAI的Sam Altman及Elon Musk)呼吁放慢开发并支持监管,但这可能有利于既有大公司固化优势,监管或进一步提高行业壁垒。
围绕AI安全的讨论升级,Dario Amodei主张放缓发展并推动国际协作部署防护,Sam Altman与Elon Musk表态支持。Meta的Mark Zuckerberg称为安全推迟了Muse模型发布,暗示公司可自我监管而非依赖政府。
Anthropic、OpenAI、Google、Microsoft与X等多家AI公司公开谈论放缓超级智能研发,强调安全与监管必要性,但外界质疑动机与执行力。该议题牵涉行业自律、国际竞争与监管监督。
多位业界人士辞职和公开言论将AI致命风险讨论推上风口,文章回顾Anthropic、OpenAI等内部警示与历史言论,并提到AI在攻克Navier‑Stokes问题与被滥用(如用Claude研究病毒)两方面的最新事例。该报道强调能力进展与安全风险并存。
Meta CEO 马克·扎克伯格表示各公司应自行确保技术安全,强调 Meta 已推迟发布以确保安全,并未呼吁对业界统一放缓开发节奏。
在伯克曼中心座谈会上,Anthropic与微软研究者就人工智能是否会达成通用智能出现分歧;Anthropic工程负责人强调模型缺乏“连续经验”并主张放慢能力推进以加强防护与测量,微软产品负责人则表示不相信会出现通用智能。
文章为评论称特朗普在人工智能议题上的立场正确,反驳了业内呼吁放慢前沿模型发展的声音,并引用了Anthropic与OpenAI高管的呼吁作为背景。这是意见类报道,无新政策或数据披露。
社论讨论AI监管的正确与错误方式,提到Anthropic的Dario Amodei、OpenAI的Sam Altman与xAI的Elon Musk呼吁监管,而前总统Trump反对,并分析政治人物对监管话语的影响。
Anthropic与开发商签署澳大利亚首个数据中心租约,覆盖总规划容量2.16GW的园区,拟于2027年开始上线,该项目由新加坡开发商Zerra DC推进并采用可再生电力采购。
OpenAI首席执行官Sam Altman在旧金山大会表示公众对AI恐惧有其理由,但应信任AI企业会做正确事;他的发言回应了此前一名离职Anthropic研究员的警告,业界亦有人呼吁放缓开发并讨论监管方式。
肯塔基众议员Adrielle Camuel提出法案草案,拟在州法中明确AI及相关系统非“人类”,且不得成为规避刑事责任的理由;法案提及2025年FBI IC3记录的AI相关投诉与损失数据。
媒体梳理近期关于AI灾难性风险与放缓呼吁的各种论断与反驳,引用Amodei、Bengio、Toby Ord与RAND的不同观点,并指出超级智能尚未出现且时间预期存在分歧。
Technion教授Yaniv Romano称,OpenAI与Anthropic领导人公开讨论风险并采取措施令人鼓舞,但他认为放缓并非解法,应在责任感下继续推进技术。报道援引Altman与Amodei近期关于放缓与安全的表态。