Magnitude

YC S25初创Magnitude发布自优化智能体推理引擎

Magnitude推出自优化推理引擎，可在Mac、Linux和Windows上运行，速度比llama.cpp快达2倍。专为本地运行智能体设计，采用设备端编译调优、动态内存分配和混合分页注意力。