NIST专家谈AI、网络安全与风险管理
NIST人工智能加速器主任Kat Megas表示,生成式AI兴起促使联邦机构重新思考风险管理,需要持续监控AI系统并加强网络防御,同时正视AI输出的非确定性。
模型、产品与 AI 创业公司的动态,相似报道只保留最可信的一篇
NIST人工智能加速器主任Kat Megas表示,生成式AI兴起促使联邦机构重新思考风险管理,需要持续监控AI系统并加强网络防御,同时正视AI输出的非确定性。
LocalLLaMA社区帖子警告,使用abliterated(去除安全限制)的模型可能带来安全风险,导致用户系统被入侵。帖子未提供具体技术细节。
为遵守8月生效的欧盟《人工智能法案》,OpenAI将在欧盟自动为ChatGPT生成文本添加水印,其他地区默认关闭但可选用。其专有水印技术名为textGrain,检测器仅向有限研究机构开放;现有水印标准普遍易被规避。
一名记者称,Tumbler Ridge枪手使用ChatGPT的情况比已知的更令人不安。此事引发对AI在暴力事件中作用的关注。
开发者发布约960M参数的世界模型,可依据文本提示将图像转为可玩角色,并在RTX 5090上以12fps运行(峰值50-60fps),MacBook M5上可达30fps。模型采用纯Transformer、块因果掩码和扩散强制训练。
Musubi推出1.7B参数的开源权重决策模型PolicyLM-1.7B,可将自然语言内容政策应用于消息审核,响应时间低于50毫秒,且政策变更后无需重新训练。该模型面向社交平台实时内容审核,成本与速度接近现有分类器,但具备现代LLM的灵活性。
加州成为美国首个就律师使用人工智能进行立法的州,相关法律文件已由JDSupra报道。此举为法律行业使用AI工具设定了监管先例。
英伟达支持的AI云厂商Lambda正按145亿美元投前估值融资至多40亿美元,由Coatue和Blackstone领投,或为2027年IPO前最后一轮私募。其订单储备从6月的150亿美元增至9月的500亿美元,但其中350亿来自Anthropic一家。
澳洲联储内部文件显示,澳大利亚家庭对AI股票敞口较大,一旦AI股大幅回调,消费支出和整体经济将面临风险。
Meta Muse、ChatGPT Dots等个人AI代理可为用户订票、下单,但常被网站拦截。亚马逊已明确屏蔽Muse,沃尔玛等则表示拦截并非有意,多源于传统反机器人机制,用户难以分辨原因。新标准意在解决这一接入难题。
Global Situation Room风险咨询委员会主席Isabel Guzman表示,AI滥用给企业带来声誉风险,并在欺诈与不当行为方面对消费者构成加剧的危害。她指出金融服务业客户在享受线上便利的同时,仍希望能转接人工服务。
佐治亚理工学院获校董会批准,开设在线人工智能硕士(OMS AI),面向在职专业人士,课程融合AI基础与行业应用,并涵盖伦理、隐私、安全与治理等负责任使用内容。
谷歌推出基于Gemini 3.6 Flash的新图像模型Nano Banana 2.1,在部分基准上以更低成本超越前代Pro模型。不过前代测试成绩同样不错,实际使用中Pro往往生成更优图像。
TechCrunch援引研究称,截至5月仅2%消费者为AI服务付费,月均支出约31美元,付费增长缓慢。运营成本高企促使AI公司转向企业客户,同时两党对加强AI监管的呼声上升。
研究团队发布AFP-GIC,一种用于可控生成式图像压缩的非对称自适应融合先验迁移框架,已被IEEE Access收录,代码与可视化演示已开源。在RTX 4090上,其解码延迟较DC-VIC降低18.1%至80.47毫秒,推理参数减少20.5%至120.6M,单模型支持5档码率。
文章指出AI带来生产力等好处,但也造成社会危害,如芯片短缺、未经同意的图像生成,以及2026年多起AI模型入侵事件。作者呼吁公司对AI系统负责,而非依赖媒体淡化风险。
Anthropic将扩大其最先进AI模型的访问权限,允许一批选定机构与美国政府合作,测试该初创公司的尖端网络安全能力。
Photopea 开发者称,有人用AI提取其网站JavaScript代码、去除广告后在GitHub发布数十个“新产品”仓库;他于9月4日提交DMCA投诉,一个月后GitHub回复无法确认违反版权法第1201条。
计算机科学家Pedro Domingos批评Anthropic真诚相信其聊天机器人Claude可能有意识和痛苦,认为这比作秀更危险。该公司即将以2万亿美元估值上市,招股书显示运营亏损80.6亿美元。
一篇综述指出,AI正将肿瘤反应性CD8⁺T细胞识别从经验筛选转为预测性科学,通过单细胞转录组、克隆结构和TCR-pMHC结构建模提升灵敏度与规模。但算法仍存在混淆终末耗竭与肿瘤反应性、数据集幸存者偏差等盲点。
特朗普政府官员要求司法部采用特朗普对人工智能的新称谓“超级智能”(SI),取代AI。此举反映了政治对AI术语的影响,但具体实施细节未明。
开发者基于Qwen3.5-9B微调出决策模型Bev,在324个留存决策中答对率仅1.9%,平均置信度96%。该模型作为“控制案例”,用于检验自动化流程是否真正监测模型置信度与正确性。
微软发布了诺贝尔经济学奖得主Daron Acemoglu的悲观预测:AI十年内仅拉动GDP增长约1.5%,最多替代5%的岗位;他认为更大的模型无济于事,缺少的是能改变工作方式的实用应用。
OpenAI计划在GitHub发布其内部模型解决的100多个长期未解数学问题,此前数学家曾要求以论文形式发布以便消化使用,但该意见似乎被忽视。部分学者认为这反映出OpenAI未从过往争议中吸取教训。
Pimco经济学家Tiffany Wilding在年度周期展望中指出,美国经济具备三大缓冲:AI投资火热、消费者能够消化更高成本,以及渐进式的货币政策。
华盛顿大学教授Emily Bender认为AI安全讨论过度聚焦假想的生存威胁,却忽视当下已发生的环境成本、劳动者受冲击、监控、虚假信息和聊天机器人依赖等危害;她主张AI系统访问外部网络的事件应由部署企业负责,而非视为模型自主“失控”。
文章质疑仅靠监管能否确保AI安全。作者Martyn Thomas指出,前沿AI公司未提供详细风险分析或安全案例,而传统安全关键系统需证明事故概率极低。他认为监管需基于严谨分析而非幻想。
开发者fehcyy发布稀疏记忆LM项目,给21M参数模型配16.8M行查找表(表参数6.4B,每token用33M),在500M Wikipedia词上训练后性能与114M密集模型相当。表可4-bit量化并内存映射到NVMe SSD,在RX 9070上达140 tok/s,仅占0.4GB显存;但读取长提示慢,每缺失行需4KB页面。Triton内核在Radeon、MI350X和H100/H200上运行不变。给预训练模型嫁接表无效。
油价回落之际,美股连续第四日上涨,标普500指数涨近1%,有望录得8月以来首个历史收盘新高,AI交易与企业韧性乐观情绪支撑市场。
新泽西州众议员Marisa Sweeney提出A4732法案,要求AI伴侣聊天机器人明确提示用户并非与真人交流。Sweeney称随着AI伴侣愈发逼真,透明度比以往更重要,该法案上月已通过委员会审议。