Laya新增OpenVINO支持:CPU上每题40毫秒
开发者Rupesh为Laya添加OpenVINO支持,在CPU上每题仅需40毫秒,比PyTorch快3.4倍。项目已在GitHub开源,并附带Flappy Bird演示。
AI 日报收录的 OpenVINO 相关报道,共 2 篇,按时间倒序,每小时更新。
开发者Rupesh为Laya添加OpenVINO支持,在CPU上每题仅需40毫秒,比PyTorch快3.4倍。项目已在GitHub开源,并附带Flappy Bird演示。
一名用户将4.21亿参数的Laya模型转换为OpenVINO并量化为INT8,在Intel Core i7第12代CPU上本地运行Flappy Bird,展示了小模型在消费级CPU上的推理能力。