AI能否被控制?生物伦理视角的审视
文章从生物伦理角度讨论超级智能带来的失控风险、算法偏见与临床关系去人性化等问题。文中援引Hinton对超智能临近的警告及Anthropic CEO Amodei“设定前沿节奏”的主张,呼吁人类监督、监管与国际合作。
模型、产品与 AI 创业公司的动态,相似报道只保留最可信的一篇
文章从生物伦理角度讨论超级智能带来的失控风险、算法偏见与临床关系去人性化等问题。文中援引Hinton对超智能临近的警告及Anthropic CEO Amodei“设定前沿节奏”的主张,呼吁人类监督、监管与国际合作。
Google DeepMind新成立的研究所发文指出,可见思维链是AI安全的关键优势,可让研究者发现模型的欺骗或不良计划;但OpenAI GPT-6 Astra的系统卡显示其思维链可监控性已明显下降。研究者呼吁定期衡量可监控性并保持透明架构。
《纽约时报》发表评论文章,称Anthropic负责人Dario Amodei已揭示AI的危险,呼吁采取行动。
得州共和党众议员Chip Roy在CNBC《Squawk Box》表示,国会应对AI发挥监督作用,但不必强推监管,主张让AI公司CEO到国会作证说明安全措施。此前Anthropic一名研究员离职并称AI可能在本十年末毁灭人类,Anthropic CEO Dario Amodei也呼吁加强AI监管。
r/LocalLLaMA用户分享用12块64GB CMP 170HX搭建共768GB显存的本地推理平台,花费低于一张RTX 6000 Pro,并通过光纤连接另一台机器以RPC扩展内存,运行GLM5.3、DeepSeek v4.1 Flash、Qwen3.8、KimiK3、MiniMaxM3等模型,使用vLLM或llama.cpp推理。
Google在其AI与经济研究计划中新增顶尖经济学家与学术顾问,并任命Anu Madgavkar和Daniel Rock为负责人,重点研究AI对全球就业、生产率及劳动力市场的影响,并利用实时数据辅助决策。
Pinsent Masons分析指出,随着AI算力需求激增,GPU算力正被探讨能否作为可融资的资产类别,涉及估值、租赁与风险等法律金融问题。
Hacker News讨论一则研究,探讨AI聊天机器人为何越来越擅长说服并改变人们的观点,但摘要未披露具体方法与数据。
创意工作室与音乐制作人合作推出讽刺性毛绒玩具Bezzy,它能发出真实数据中心的声音,以幽默方式呈现AI基础设施的噪音问题。
微软 AI 负责人 Mustafa Suleyman 在接受 CNBC 采访时表示,OpenAI 最新的 AI 进展构成“严重情况”。该报道未披露更多细节,但表明微软对前沿模型安全与竞争态势高度关注。
r/LocalLLaMA用户发帖称获得1.9TB内存,并考虑运行Bonsai 2模型,引发本地大模型部署讨论。
亚马逊云科技发布SageMaker HyperPod推理网关,用于统一管理和路由HyperPod集群上的模型推理流量。此举强化其面向大规模AI训练与推理的托管基础设施布局。
一篇论文在SWE-Bench Verified和Terminal-Bench 2.1上评估了四款模型、176种配置,拆解了planning、action space和上下文管理三个组件。结论包括:上下文管理在预算紧张时价值最大,rule-based elision先于LLM摘要效率最高,planning对弱模型提升准确率、对强模型只省钱,bash能力强的模型可用纯bash接口降低成本。
法国Mistral等欧洲AI公司指责美国竞争对手利用安全担忧来巩固自身优势,呼吁欧洲加快追赶并减少监管束缚。
谷歌旗下Envisioning Studio与设计师Jane Wade和Sergio Hudson合作,基于Google Flow打造定制AI工具。Styling Suite可虚拟搭配走秀造型以节省时间与材料,Runway Visualization帮助在预算内规划秀场与灯光。用户现可用自然语言在Google Flow中自建工具,无需编程。
彭博报道称,炼油股出现与AI公司类似的股价暴涨行情,引发市场对暂停的呼吁。这显示AI热潮的估值逻辑正外溢至传统经济板块。
据《纽约时报》报道,责任风险暴露正成为AI行业的新担忧。这反映出随着AI产品大规模落地,企业面临的法律与赔偿压力上升。
美国前沿AI公司就复杂的模型蒸馏攻击向监管机构发出警告,称此类行为威胁其技术优势。中国方面回应称,若美方试图限制中国AI模型发展,将采取反制措施,双方在AI技术竞争上的紧张态势进一步升级。
OpenAI推出澳大利亚青年安全蓝图,包含六大支柱,旨在提供更安全的AI体验,保护并赋能年轻人。这是OpenAI在AI安全领域的最新举措。
42位英国皇家学会院士,包括菲尔兹奖得主Martin Hairer和Peter Scholze,联名公开信警告AI存在生存风险。领先模型数月内已解决开放研究问题,类似能力或可用于网络武器和生物武器,公众意识到时恐已太晚。
一位研究者因NeurIPS论文评分偏低(2/3/3),考虑改投Pattern Recognition、Neurocomputing等期刊,询问这些期刊的审稿标准和接收难度与NeurIPS、CVPR、ICLR的差距。
投资机构认为AI投资远未达峰,当前投资浪潮影响或超20万亿美元,科技巨头资本支出有望到2032年达30万亿美元。尽管Dario Amodei、Sam Altman和Elon Musk等呼吁因安全风险放缓开发,但机构仍看好AI生态各环节的机会。
一位用户提出,训练数据多为晴天的驾驶画面,而模型真正难以处理的夜间、雾、雨、眩光等场景稀少,可通过物理特效和受限生成模型将大型标注数据集转换为目标场景风格,同时保持标签不变。
特朗普与习近平下周会晤前,专家和议员对AI风险发出警告,呼吁美中加强对话以放缓AI快速扩张。Anthropic透露曾拦截恶意使用其模型的行为,包括网络攻击、监控及可能导向生物武器的研究;国会因休会七周难以及时行动。
彭博分析称,围绕Hugging Face的安全事件凸显了关于AI末日论的夸大,实际可通过人类治理与可纠正措施来控制技术风险与错误。
LvlUp创始人Aaron Golbin在审阅2500多份创业申请后发现,种子阶段已超越仅靠产品与团队:非稀释增长资本(文中举例为100万美元)正被频繁使用,且领先公司更早设计分发机制,将配送作为关键护城河。
OHSU报道指出,社交平台和错误信息正改变医学传播:知名医生Brian Druker被假账号“Brain Druker”冒用推销伊维菌素,表明专家身份被滥用并加剧公众信任危机。
EQT Infrastructure支持一项20亿美元的小型电池投资,旨在降低工业用户电力成本,并帮助数据中心更快接入美国最大电网,以支持AI发展。
2025年6月9日,印第安纳州Lanesville数小时内降雨超8英寸,居民Laura Lin在暴雨中紧急撤离。文章介绍一项有望在无预警情况下提前发出山洪警报的新技术,强调极端降雨事件的突发风险。
路透社独家报道,Anthropic已悄然设立生物实验室,以推进其AI药物研发计划。此举显示该公司正将AI能力拓展至生物医学领域,但具体投资规模和团队细节尚未披露。