YC S25初创Magnitude发布自优化智能体推理引擎

Magnitude推出自优化推理引擎，可在Mac、Linux和Windows上运行，速度比llama.cpp快达2倍。专为本地运行智能体设计，采用设备端编译调优、动态内存分配和混合分页注意力。

• 用户分享Qwen 3.6 27B十种实用玩法2026-10-17
• llama.cpp在越狱PS5上原生运行GGUF模型2026-10-16
• AnythingLLM从Ollama迁移至Lemonade和llama.cpp2026-10-14
• Consus推出LLM网关，满足敏感数据合规需求2026-10-13
• AWS在SageMaker AI上部署llama.cpp决策模型2026-10-12