Hugging Face上线Trainium模型支持查询工具
Hugging Face推出Space工具,可查询Hub上热门模型能否不改动代码在AWS Trainium上运行。结果页同时给出分片核心数、含编译的运行耗时和峰值显存,并提供复现脚本。目前仅测试Transformers的文本生成与图文模型。
AI 日报收录的 Neuron 相关报道,共 1 篇,按时间倒序,每小时更新。
Hugging Face推出Space工具,可查询Hub上热门模型能否不改动代码在AWS Trainium上运行。结果页同时给出分片核心数、含编译的运行耗时和峰值显存,并提供复现脚本。目前仅测试Transformers的文本生成与图文模型。