Ollaya：决策模型推理延迟仅10毫秒

Ollaya是面向本地硬件的开源决策模型服务，用单次前向传播替代逐token生成，五个问题请求端到端约10毫秒。它提供兼容TypeSafe的端点，官方Python SDK 0.7.1可直接使用，支持Laya、decider、nli等开放模型。

• 研究：将GLM-5.3-Flash改造成类Jev决策模型2026-09-27
• Laya新增OpenVINO支持：CPU上每题40毫秒2026-09-25
• Laya模型用CPU与OpenVINO INT8玩Flappy Bird2026-09-22
• 分析：OpenAI或快速跟进TypeSafe的Jev模型2026-09-22
• Transformers 现已支持 llama.cpp 的 GGUF 量化模型2026-09-22