OpenAI决策API置信度不可靠
测试显示OpenAI新Decisions API背后的GPT-6 Luna模型置信度严重失准:在3600道推理题中,其声称99%确信时实际正确率仅68%,凸显AI置信度校准问题。
Kev 是一组基于 Qwen3.5 构建的小型决策模型,由开发者 jaredpalmer 发布。近期相关消息包括 Kev 提供 0.8B、4B 和 9B 三种参数规模,并附带预训练权重、训练代码和评测数据,支持 CUDA 与 Apple Silicon。开源工具 jevals 也用 Kev 等类型化决策模型替代 LLM 评判器,用于 agent 评测与护栏。这些模型针对是/否、多选题和评分类问题。
测试显示OpenAI新Decisions API背后的GPT-6 Luna模型置信度严重失准:在3600道推理题中,其声称99%确信时实际正确率仅68%,凸显AI置信度校准问题。
开发者jaredpalmer发布Kev,一系列基于Qwen3.5的小型决策模型,提供0.8B、4B和9B参数版本,含预训练权重、训练代码与评测数据。模型支持是/否、多选和评分问题,可在CUDA与Apple Silicon上运行,4B和9B模型用bf16可装入32GB Mac,API与TypeSafe System One兼容。
jevals是一个开源工具,用类型化Jev决策模型替代LLM评判,为智能体提供评估和护栏。所有评估合并为一个HTTP请求,成本仅千分之一美分,响应时间几百毫秒,适合在每次追踪或智能体循环中运行。支持Jev、Kev、Laya及普通聊天LLM。