Anthropic研究员公开辞职 警告AI或致人类灭绝
Anthropic研究员Jacob Coxon本周公开辞职,担忧自改进超级智能可能在本十年末危及人类。公司内部聊天称其言论“说出了大家一直想说的话”,并认为将讨论公开是好事。
仅显示 2026年9月20日 周日 的内容 · 查看全部日期 →
Anthropic研究员Jacob Coxon本周公开辞职,担忧自改进超级智能可能在本十年末危及人类。公司内部聊天称其言论“说出了大家一直想说的话”,并认为将讨论公开是好事。
文章对比AI芯片领域两种模式:Arm靠IP授权,SK Hynix靠HBM制造。Arm截至2026年3月财年营收49亿美元、增长22.8%,净利润9.04亿美元,净利率18.4%,债务权益比0.1倍;SK Hynix则专注AI服务器所需HBM存储。
报道称,顶级AI模型的强大黑客能力正让北京以新视角看待风险,情报部门负责人警告该技术可能危及国家安全。此前有加州团队称利用AI构建网络攻击“蠕虫”,可轻易攻破数百万微信账号。
r/LocalLLaMA帖子批评新推理引擎普遍以NVFP4/MXFP4为卖点,认为FP4量化对小参数稠密模型损害严重,易导致幻觉和推理错误;大模型可承受少量精度损失,小模型则可能完全失效。
美国众议员Blake Moore被任命为跨党派人工智能工作组副主席,参议员John Curtis与Lisa Blunt Rochester呼吁举行听证会,以推动AI监管并了解相关风险事件。
澳大利亚总理阿尔巴尼斯表示,中等强国可协助降低人工智能风险,并呼吁美中在AI治理上开展合作。
Anthropic CEO Dario Amodei发文呼吁行业放缓AI开发,提出"pacing the frontier"三点计划:向外部评估者开放验证权限、民主国家间协调安全标准、并将协调扩展至全球(含中国,但他怀疑北京是否会遵守)。OpenAI CEO Sam Altman公开表示赞同,称这是OpenAI近几周讨论的主要议题。Amodei援引Anthropic竞逐史上最大IPO之际的递归自我改进加速及OpenAI-Hugging Face失控智能体事件作为动因。
一项实验让Jev、Laya、微调ModernCE和微调Qwen3.5-4B在ViZDoom中自主游玩,比较击杀、生存时间与响应延迟。微调Qwen3.5-4B平均击杀3.63,表现最佳;Jev平均生存5.63秒,p95延迟约200毫秒。所有模型均未针对Doom专门训练。
Hacker News讨论指出,此前关于Hugging Face遭黑客攻击的报道被夸大,实际影响没有最初渲染的那么严重,但文章未提供更多细节。
据GameGPU报道,AMD下一代Radeon RX 10800 XT在4K游戏和本地AI任务中可能比NVIDIA RTX 5090快15%至25%,该消息由Reddit用户转发,尚无官方确认。
滑铁卢大学研究者发布开源项目ProgramAsWeights,可将英文功能描述编译为可复用的神经程序并在本地运行。其编译器用微调的Qwen3-4B为冻结的Qwen3-0.6B生成LoRA适配器,把编译与推理分离,程序可保存、分发并与普通代码组合。
开发者搭建交互式演示,可调整全连接ReLU网络架构与目标函数,直观展示网络学习过程。单隐层网络最多能产生1+宽度个分段,每增加一层隐藏层分段数相乘,但训练后网络很少达到上限。
一个快速识别小游戏,让用户在60秒内通过点击或按1/2键判断图片是真实照片还是AI生成,随后立即显示下一张图片。
开发者发布halogen 0.12.0更新,修复长上下文性能衰减。在Ryzen AI Max+ 395与128GB内存上,100万token上下文的解码速度从27.3提升至38.3 tok/s,预填充耗时约18分钟。
在经历一周关于AI可能毁灭世界的警告后,《卫报》记者回答读者提问,讨论AI威胁的现实性。文章认为生物武器等风险受制于现实后勤条件,AI未必显著改变局面,关注重点或应放在掌控这些系统的人与企业上。
一位Hacker News用户提出,约80%的开发者候选人表示自己已很少手写代码,转而指挥智能体,这让其担忧团队是否仍具备编码与系统设计能力。他询问社区是否应继续采用传统算法和设计面试,还是默认候选人都会使用Claude Code等工具。
一位用户在同一16GB显存设备上对比Qwen3.8 27B的IQ3_XXS(10.18GiB)与Bonsai Ternary PQ2(6.42GiB)量化版本。两者均完成4/4任务,但Qwen速度快3.02倍、输出token少3.10倍,Bonsai质量略逊且更慢。
斯坦福医学院研究推翻人脑单一祖细胞发育模型,发现大脑前后部源自两种不同的神经外胚层祖细胞,分别演化出原始神经系统与负责高级认知的部分。该发现或有助于研究SMA和ALS等脑干疾病。