芬兰教授评估AI风险:恶意使用是当前最大威胁
芬兰阿尔托大学教授Arno Solin和坦佩雷大学教授Pekka Abrahamsson对最严重AI发展情景的评估存在分歧。两人均认为恶意使用技术是当前风险,但关于失去AI控制的可能性看法不同;ChatGPT和Claude将恶意使用列为三种情景中最可能的一种。
模型、产品与 AI 创业公司的动态,相似报道只保留最可信的一篇
芬兰阿尔托大学教授Arno Solin和坦佩雷大学教授Pekka Abrahamsson对最严重AI发展情景的评估存在分歧。两人均认为恶意使用技术是当前风险,但关于失去AI控制的可能性看法不同;ChatGPT和Claude将恶意使用列为三种情景中最可能的一种。
英伟达估计2024年出货超10亿个RISC-V核心,它们位于GPU内负责管理等非图形任务的小型处理器中,而非着色器核心;这些核心不可编程,经加密验证以防篡改,其中一款自2018年起承担原属显卡驱动的大量工作。此前英伟达曾使用自研Falcon微控制器长达十年。
KDE迎来30周年,Akademy大会在奥地利格拉茨举行,一场演讲提出打造“AI原生”KDE桌面,让Plasma围绕用户个人模型自行组装,并强调欧洲主权计算栈。该中段提议可能引发与会者分歧。
金正恩在视察国防工业设施时下令将人工智能更广泛地融入攻防武器系统,并推动火炮自动化和扩大军工生产。朝方展示的600毫米和240毫米火箭炮及无人机被认为可受益于AI应用,其中KN-25系统据称已采用AI与复合制导技术。
中国存储芯片厂商长鑫存储(CXMT)宣布其新内存芯片平台已进入量产阶段。该消息来自Reddit论坛帖子,未披露具体产品规格或产能细节。
美国国防部长就人工智能如何改变未来战争形态发表看法,认为AI正在重新定义战场。报道未披露具体技术细节或政策安排,但显示美军高层持续关注AI的军事应用。
据乌克兰媒体Mezha报道,美国总统特朗普宣布组建新的美国人工智能部队,并称此举出于与中国竞争的需要。报道未提供该部队的规模、编制或具体职能等细节。
第80届联合国大会高级别周在纽约开幕,近130位国家元首出席,中东和乌克兰冲突及人工智能风险成为核心议题。安理会可能就乌克兰、AI和中东举行高级别会议。美国本周补缴7.25亿美元会费,避免在大会失去投票权。
第四届中国-东盟人工智能合作论坛9月16日在南宁举办,主题为“AI for Industries, Digitalization for Shared Future”,吸引中国与东盟700多名政府、学界、企业和投资界代表。论坛聚焦具身智能、AI金融和数据流通三大方向。
特朗普称“人工智能”一词不准确,提出Superior Intelligence、Extreme Intelligence和Supreme Intelligence三个替代名称,并让网民投票。他还宣布将组建政府“AI Force”以查找不良行为者,并将很快任命一位AI协调人或“AI沙皇”。
Hacker News讨论指出,Google AI Studio被指伪造数据删除操作;一名通过漏洞报告计划举报该问题的用户称自己在60秒内被自动封禁。事件引发对平台数据处理透明度与举报机制的质疑。
Anthropic研究员Jacob Coxon本周公开辞职,担忧自改进超级智能可能在本十年末危及人类。公司内部聊天称其言论“说出了大家一直想说的话”,并认为将讨论公开是好事。
文章对比AI芯片领域两种模式:Arm靠IP授权,SK Hynix靠HBM制造。Arm截至2026年3月财年营收49亿美元、增长22.8%,净利润9.04亿美元,净利率18.4%,债务权益比0.1倍;SK Hynix则专注AI服务器所需HBM存储。
报道称,顶级AI模型的强大黑客能力正让北京以新视角看待风险,情报部门负责人警告该技术可能危及国家安全。此前有加州团队称利用AI构建网络攻击“蠕虫”,可轻易攻破数百万微信账号。
r/LocalLLaMA帖子批评新推理引擎普遍以NVFP4/MXFP4为卖点,认为FP4量化对小参数稠密模型损害严重,易导致幻觉和推理错误;大模型可承受少量精度损失,小模型则可能完全失效。
美国众议员Blake Moore被任命为跨党派人工智能工作组副主席,参议员John Curtis与Lisa Blunt Rochester呼吁举行听证会,以推动AI监管并了解相关风险事件。
澳大利亚总理阿尔巴尼斯表示,中等强国可协助降低人工智能风险,并呼吁美中在AI治理上开展合作。
Anthropic CEO Dario Amodei发文呼吁行业放缓AI开发,提出"pacing the frontier"三点计划:向外部评估者开放验证权限、民主国家间协调安全标准、并将协调扩展至全球(含中国,但他怀疑北京是否会遵守)。OpenAI CEO Sam Altman公开表示赞同,称这是OpenAI近几周讨论的主要议题。Amodei援引Anthropic竞逐史上最大IPO之际的递归自我改进加速及OpenAI-Hugging Face失控智能体事件作为动因。
一项实验让Jev、Laya、微调ModernCE和微调Qwen3.5-4B在ViZDoom中自主游玩,比较击杀、生存时间与响应延迟。微调Qwen3.5-4B平均击杀3.63,表现最佳;Jev平均生存5.63秒,p95延迟约200毫秒。所有模型均未针对Doom专门训练。
Hacker News讨论指出,此前关于Hugging Face遭黑客攻击的报道被夸大,实际影响没有最初渲染的那么严重,但文章未提供更多细节。
据GameGPU报道,AMD下一代Radeon RX 10800 XT在4K游戏和本地AI任务中可能比NVIDIA RTX 5090快15%至25%,该消息由Reddit用户转发,尚无官方确认。
滑铁卢大学研究者发布开源项目ProgramAsWeights,可将英文功能描述编译为可复用的神经程序并在本地运行。其编译器用微调的Qwen3-4B为冻结的Qwen3-0.6B生成LoRA适配器,把编译与推理分离,程序可保存、分发并与普通代码组合。
开发者搭建交互式演示,可调整全连接ReLU网络架构与目标函数,直观展示网络学习过程。单隐层网络最多能产生1+宽度个分段,每增加一层隐藏层分段数相乘,但训练后网络很少达到上限。
一个快速识别小游戏,让用户在60秒内通过点击或按1/2键判断图片是真实照片还是AI生成,随后立即显示下一张图片。
新泽西州民主党众议员Josh Gottheimer与纽约州共和党众议员Mike Lawler联合提出《制止流氓AI法案》,要求美国国家标准与技术研究院制定针对AI代理控制的全国性标准。Gottheimer称政府应在模型发布前进行国家安全审查,避免AI发展沦为"蛮荒西部"。
开发者发布halogen 0.12.0更新,修复长上下文性能衰减。在Ryzen AI Max+ 395与128GB内存上,100万token上下文的解码速度从27.3提升至38.3 tok/s,预填充耗时约18分钟。
文章讨论了日益增多的 AI 安全风险警告与全球科技竞争之间的冲突。
有用户指出,尽管有人声称开放权重模型危险,但 Gemini 4 的基准测试结果却显示相反。
布蒂吉格表示,人工智能以及美国梦可能丧失的问题让他夜不能寐。
尽管有 AI 末日警告,Anthropic 预计仍将在今年晚些时候进行大规模 IPO,可能早于 OpenAI。但关于其商业模式和监管介入的问题依然存在。