Transformers推出小模型测试夹具以捕捉回归
Hugging Face介绍Transformers用小型fixture模型在CPU上运行集成测试的做法:UMT5 fixture仅66MB,而原始检查点为1227MB。该方案源于一次真实事故——2026年7月启用SDPA后UMT5解码器可看到未来token,该缺陷在主干代码中存在近两个月。
Transformers 是 Hugging Face 维护的开源模型定义框架,用于文本、视觉、音频和多模态模型。近期报道集中在它的硬件适配进展:Hugging Face 推出 Trainium 模型支持查询工具,测试 Hub 上的文本生成和图文模型能否直接运行;同时加入原生 TorchTPU 后端,让 Transformers、Diffusers 和 Kernels 通过把模型发送到“tpu”即可在 TPU 上运行,不再需要 Optimum TPU。
Hugging Face介绍Transformers用小型fixture模型在CPU上运行集成测试的做法:UMT5 fixture仅66MB,而原始检查点为1227MB。该方案源于一次真实事故——2026年7月启用SDPA后UMT5解码器可看到未来token,该缺陷在主干代码中存在近两个月。
Hugging Face推出Space工具,可查询Hub上热门模型能否不改动代码在AWS Trainium上运行。结果页同时给出分片核心数、含编译的运行耗时和峰值显存,并提供复现脚本。目前仅测试Transformers的文本生成与图文模型。
Hugging Face宣布TorchTPU为PyTorch带来原生TPU后端,Transformers、Diffusers和Kernels可直接在TPU上运行,只需将模型发送到“tpu”。该后端包含适配TPU的Pallas内核和分布式训练支持,此前所需的Optimum TPU不再必需。
开源医疗AI工具包OpenMed发布3.0版,采用Apache-2.0许可,数据全程留在本地、可离线运行。新版本加入Patient Journey功能,可将病历、FHIR、HL7、检验CSV等多来源数据整合为单一患者时间线,并对存疑信息拒绝猜测、保留双版本以待人工审核。
最先进机器学习模型的模型定义框架,涵盖文本、视觉、音频和多模态。
文本、视觉、音频及多模态SOTA模型的定义框架,支持推理与训练。
一篇以可视化方式解释Transformer模型的技术文章在Hacker News上发布,链接为https://news.ycombinator.com/item?id=49792342。