第 2026-11-17 期 · 行业追踪 · 开源 · 芯片
RunAnywhere开源AWS Trainium推理引擎TrnRT

RunAnywhere(YC W26)开源了针对AWS Trainium的LLM推理引擎TrnRT。该引擎可在单台trn2.48xlarge上运行两个GLM-5.3 flash实例,在AgentX基准测试中达到每分钟357万tokens的处理能力。团队因AWS现有栈不支持GLM模型而自行开发。
查看原文 ↗
RunAnywhere(YC W26)开源了针对AWS Trainium的LLM推理引擎TrnRT。该引擎可在单台trn2.48xlarge上运行两个GLM-5.3 flash实例,在AgentX基准测试中达到每分钟357万tokens的处理能力。团队因AWS现有栈不支持GLM模型而自行开发。
查看原文 ↗