OpenRouter @OpenRouter

来自 @scaledown_team 的一系列约束解码模型已在 OpenRouter 上线，每个模型都是为单一任务量身定制的： • 摘要：将长文本、图像和 PDF 转化为简短、一致的摘要，用于上下文压缩和转录摘要 • 提取：用简单的英语描述您想要的字段，并获得干净的 JSON 返回，带有置信度分数和源跨度 • 分类-1：设置您自己的标签，并通过我们的决策 API 为每个标签获得校准概率 发布期间享受 20% 折扣：输入代币每百万 $0.04，输出免费。 https://t.co/YcCLlt2d2m [引用 @neal_k_patel]: 你已经给了 LLM 答案。那么为什么它还要从头开始写出来？ 引入一种新的 AI 模型架构：约束解码模型 (CDM) LLM 是为了写作而构建的。大多数生产工作负载只需要一个答案：快速、一致且负担得起。 CDM 每个模型专为 1 个任务量身定制。它们读取您的输入一次，并跳过使 LLM 缓慢的逐令牌生成循环……