英伟达SoL-Pi系统将编码代理token使用量削减近半
英伟达的SoL-Pi系统通过优化模型与环境之间的控制层,将编码代理的token使用量减少高达49%,性能几乎不变。该研究代理测试了152种方法,进行了超过3000次运行,但在其他基准上收益较小。
AI 日报收录的 SoL-Pi 相关报道,共 2 篇,按时间倒序,每小时更新。
英伟达的SoL-Pi系统通过优化模型与环境之间的控制层,将编码代理的token使用量减少高达49%,性能几乎不变。该研究代理测试了152种方法,进行了超过3000次运行,但在其他基准上收益较小。
NVIDIA 发布开源扩展 SoL‑Pi,可在不改动 Pi 本体的前提下按需安装,包含四种机制(Action Fusion、ObservationPack、Evidence‑Preserving Reducer、Online Context Compact)以减少重复模型回合、上下文重放、过大观察和冗长日志读取,从而降低 token 与推理开销同时保留证据。