A.I. 日报
小模型推动更多AI能力落地端侧设备
Computerworld指出，在模型规模持续膨胀的同时，一股小模型研究潮流正在兴起，例如Tether的紧凑模型最大约40亿参数，部分可在普通智能手机离线运行。轻量模型算力需求远低于前沿系统，正推动更多AI应用从云端转向本地设备。
GPT-3
5 篇报道GPT-3 是 OpenAI 于 2020 年发布的自回归语言模型，基于 Transformer 架构，通过大规模预训练完成文本生成等任务。近期报道显示，OpenAI 已正式停止提供 GPT-3，并建议以 GPT-5.6 Terra 作为替代，社区讨论中提到新旧模型并非可直接替换。此外，有研究者在 348M 参数模型上微调后，于九个 GPT-3 算术子任务上取得 99.4% 的平均成绩。
相关话题
GPT-3 今日正式停用
OpenAI 旗下初代 GPT-3 模型于今日正式停用，官方建议以 GPT-5.6 Terra 作为替代。社区用户对此表达不舍，并指出新旧模型无法直接替换，这正是本地模型存在的意义。
2026：推理驱动的算力与硬件转向
到2026年，AI焦点从训练转向推理，推理负载因链式思路和代理式AI大幅上升，推动硬件厂商（如Tensordyne）推出面向推理的芯片（Napier），Nvidia在GTC 2026称这是“推理的拐点”。这意味着数据中心和厂商正为持续、频繁的推理请求调整产品与投资。
Transformer 回路的数学框架（2021）
论文提出面向可解释性的数学框架，尝试逆向工程 Transformer 的内部计算，起步于仅含两层注意力模块的最简模型，以发现可推广的算法模式，旨在帮助识别与预测大型语言模型的行为与风险。
348M 小模型用22.7B训练数据实现高精度算术
一位研究者自训练出参数量348M、训练语料22.7B token的语言模型并微调为“显示步骤”的算术模型，在九项GPT‑3算术子任务上平均99.4%准确率（n=300，贪心、精确匹配），能干净地处理最长14位加法；作者指出词汇表限制曾阻碍更长位数的表示。
已经到底了