Laya

12 篇报道

Laya 是一个开源的决策模型,拥有 421M 参数,最早于 2025 年 3 月以 arXiv 论文、Hugging Face 权重和开放数据集的形式发布,主打非自回归决策与低于 35 毫秒的推理延迟。近期报道集中在它的实际表现与部署:在 RTX 4090 上以每词 3.9 毫秒、97.4% 准确率成为四项基准中速度最快的模型;加入 OpenVINO 支持后在 CPU 上每题约 40 毫秒,并可在 INT8 量化下运行 Flappy Bird。此外它也被用于 Doom 控制测试,并被 Ollaya 等本地决策服务器收录。

相关话题

研究:将GLM-5.3-Flash改造成类Jev决策模型

一项研究通过设计输入提示使首个输出token直接给出答案,从而让GLM-5.3-Flash等标准LLM在单次前向传播中完成决策,在vLLM上复现出类Jev特性。基准测试显示其准确率和速度与Jev相当,明显优于Laya,但单次决策成本仍高出Jev数倍;额外优势是支持视觉输入。

Hacker News ·

开发者称其一年前的非自回归决策模型被前沿实验室称为突破

一位开发者称,他早在2025年3月就通过arXiv论文、Hugging Face权重和开源数据集发布了基于强化学习的非自回归决策模型Laya,可在35毫秒内完成推理并覆盖100多种语言。他指责由前OpenAI成员创立的前沿实验室TypeSafe AI在2026年9月推出的同类产品Jev未附论文、开源权重或训练数据,却将其包装为全新突破。

Hacker News ·
已经到底了