SageMaker 推出前缀感知路由以降低大模型延迟

Amazon 在 SageMaker Inference 上引入“前缀感知路由”以降低大模型响应延迟，旨在提升推理性能并优化实时应用体验。

• 科技巨头AI投入承压，密歇根车企现反弹2026-10-31
• 专家辩论：经济是否过度依赖AI？2026-10-30
• AI支出担忧致科技股蒸发2万亿美元2026-10-30
• 亚马逊AI支出超出预期，投资者不安2026-10-30
• 亚马逊设立800亿美元供应商贷款额度资助AI建设2026-10-30