IBM训练两个小型开源模型抵御提示注入
IBM训练了两个小型开源模型,专门用于忽略文档中隐藏的指令,以缓解小模型面临的提示注入风险。该方向针对的是文档内容可被植入恶意指令的安全隐患。
仅显示 2026年11月14日 周六 的内容 · 查看全部日期 →
IBM训练了两个小型开源模型,专门用于忽略文档中隐藏的指令,以缓解小模型面临的提示注入风险。该方向针对的是文档内容可被植入恶意指令的安全隐患。
Multiverse Computing与多伦多大学的研究人员展示了一种多头量子神经网络,可替换30B参数大模型中的transformer块。单个QNN仅含145,281个可训练参数,却能替代模型16.33%的参数并保持精度,并在156量子比特的IBM Heron处理器上运行。
WIRED文章探讨AI正加速进入航空领域,可能带来无飞行员航班和更少空管人员。航空业一向对新技术的采用较慢,如今AI却率先改变天空。
商汤在Hugging Face发布SenseNova-Loop-9B-Preview,采用新架构,仅9B参数,社区反馈其整体表现接近Qwen 3.5 27B。推理参数约15B并含MTP,实际速度和效果尚待用户验证。
Runway以Apache 2.0许可开源机器人模型Praxis-1,含权重与源码。该模型把视频训练知识用于机器人控制,在英伟达RoboLab-120基准的World Action Model类别中领先,但尚不能自主规划复杂动作序列。
InsuranceNewsNet报道,加州保险专员Lara发起全州行动,为保险领域的人工智能应用制定消费者保障措施。该行动旨在应对AI在保险业务中带来的消费者风险。
CD Projekt Red在《巫师3》资料片《Songs of the Past》中,与乌克兰公司Respeecher合作,利用AI将杰洛特原波兰配音演员Jacek Rozenek的当前录音调整为更接近其2014年的声音。此举是在Rozenek2019年中风后经其同意进行的,旨在保持玩家沉浸感。
丹佛审计长Timothy M. O'Brien的审计显示,丹佛国际机场员工使用七款未经审核的AI工具,频率高于获批的Microsoft Copilot,机场缺乏全面AI治理框架。审计还发现市政府的敏感数据防护措施可被绕过,未能落实AI安全保障。
Hacker News用户提问:个人最值得学习哪些具体、可操作的AI技能,以从LLM和智能体进步中获得经济收益,且无需学位、仅靠互联网和实验即可掌握。
《华盛顿邮报》报道,黄仁勋所涉间谍风波背后,是各方围绕特朗普对华政策影响力展开的暗战。
论文提出SparseRead阅读控制层,在不改动智能体模型的前提下按需稀疏读取网页与文档。在包括Claude Opus 5的六个模型、五个场景中,总token最多减少92.9%、耗时最多减少89.0%,97%的设置下任务质量持平或提升。
法国设立Prix Pascal奖,表彰与AI合作完成的作品,参赛者须披露所用Claude、Gemini或ChatGPT等模型并提交技术说明及两页“种子”阐释;首届面向未出版过作品的作家,11月底截止。该奖出台之际,正是AI代写争议导致作家Thélyson Orélien被贡古尔等奖项除名之后。
英伟达一名董事在黄仁勋相关丑闻曝光前数周出售了近10亿美元股票,且未披露交易计划。报道未说明丑闻具体内容及该董事姓名。
Anthropic为Claude Code Projects加入主动协调器消息、线程只读分享、定时提醒及/fork、/btw分支命令,减少多云端会话并行时的人工监控。功能在Pro和Max的网页、桌面及移动端公测,Team与Enterprise暂不含在内;访问本地电脑的线程不可分享。
佛州候任州长Byron Donalds出席Hollywood的教育科技大会,强调为学生迎接技术驱动世界做准备。主办方LaunchEd展示课堂AI产品;州教育厅新规要求学区通知家长AI教学工具使用情况,并允许学生选择退出。
Unsloth为Qwen3.8-27B模型发布Dynamic V3.1量化更新,在相同尺寸下平均准确率提升5-10%,覆盖2bit至6bit量化。该27B稠密模型支持视觉与推理,上下文窗口256K,可在17GB内存/显存本地运行。
一位研究生在论坛求助,希望获得可视化方法以理解神经网络反向传播中权重调整的过程。
据路透社报道,亚马逊正在推进“World Product Graph”项目,计划为全网商品建立数据索引,包括亚马逊自身不销售的产品。该举旨在减少用户转向Reddit或Google进行商品调研,并让AI代理更可能依赖亚马逊的商品索引。
美国国家卫生法律项目发布简报,指出AI在医疗补助预授权中的应用引发公平与正当程序问题,现有保障措施不足,并梳理了各州监管尝试及联邦政府削弱州自主权的做法。
堪萨斯州教育委员会制定全州最低要求,各公立学区及受认证非公立学校须制定教学技术政策及实施计划,内容涵盖师生使用AI的规范。政策经教育工作者和家长数月意见征询后形成,须由地方校董会批准并每年复审。
ICML 2027征稿启事显示,将采用两阶段审稿,由领域主席决定论文是否进入全文评审,首轮拒稿须经资深领域主席确认。同时限制每人最多20篇投稿,每篇须指定互审人,违规可能被直接拒稿。
一位开发者用31253参数的编码器Transformer,在合成CGM数据上预训练后通过LoRA适配个人115天数据,可预测未来2小时血糖。模型在48小时以上上下文中能推断时间,代码已开源。
面向DeepSeek-V4.1-Flash的开源推理引擎DeepSeek Ultrafast支持100万token上下文和多服务器KV缓存共享。在8块B300上解码速度达2060 tokens/s,单步耗时2.71毫秒,预处理100万token仅需11.7秒。模型已在Baseten平台上线。
在极具挑战性的SWE-sweep bug查找基准上,DeepSeek v4.1 flash(max)成为首个得分超过1%的开源权重模型。该基准要求模型在无提示情况下修复大型代码库中的数百个bug,目前最强专有模型Gemini 4 Hydrogen得分13.5%,GPT Astra 6为9.5%,开源模型仍有较大差距。
开源项目garlic-llm让Qwen3.5-9B在未改动的PS4 GPU上离线运行,速度31–39 tok/s。借助模型自带MTP头做投机解码,速度从22 tok/s提升;权重重新打包为4位和3位格式,占用约4.5 GiB。
LocalLLaMA社区分享名为e-means的方法,声称在损失相同时k-means聚类速度提升10倍。原帖仅提供链接,未披露实现细节与基准数据。
r/LocalLLaMA 论坛帖子引述谷歌员工 Logan K 的推文,似乎在征集用户对新 Gemma 模型的需求。帖子未透露发布时间或模型规格。
Shield借助OpenAI,让其Forge智能体自动操作遗留门户系统,完成本需技术人员手动处理的交接工作,使技术人员能专注于需要判断力的问题。