10+年产品经理专注分享AI 工具、AI 资讯、AI Coding、Vibe Coding与下一代产品创新,按 Ctrl+D 收藏我们
关于我 留言板 标签云 排行榜

苏米客

  • 首页
  • AIGC
    • AI最新动态
    • AI学习教程
    • AI工具集合
    • AI产品百科
    • AI编程开发
    • AI提示词
    • AI开源项目
    • AI智能体
  • Axure
    • Axure动态
    • Axure教程
  • 产品
    • 用户体验
    • 产品设计
    • 苏米杂谈
  • 资源
    • 产品UI组件库
    • 开源图标库
    • 中后台框架
  • 书单
    • AI书籍
    • 用户体验
    • UI视觉
    • 产品研究
    • 其他类型
  • 下载
    • Axure组件
    • Axure原型
    • 文档报告
    • 素材资源
  • 登录
  • 首页
  • AIGC
    • AI最新动态
    • AI学习教程
    • AI工具集合
    • AI产品百科
    • AI编程开发
    • AI提示词
    • AI开源项目
    • AI智能体
  • Axure
    • Axure动态
    • Axure教程
  • 产品
    • 用户体验
    • 产品设计
    • 苏米杂谈
  • 资源
    • 产品UI组件库
    • 开源图标库
    • 中后台框架
  • 书单
    • AI书籍
    • 用户体验
    • UI视觉
    • 产品研究
    • 其他类型
  • 下载
    • Axure组件
    • Axure原型
    • 文档报告
    • 素材资源
当前位置: 首页 » AI开源项目

NVIDIA 开源 SoL-Pi:让 Coding Agent Token 使用量减少 49% 的优化框架

50分钟前 AI开源项目 0 0

大家好,今天介绍一个 NVIDIA 最近开源的项目 SoL-Pi——它做的事情很直接:想办法让 Coding Agent 少烧 Token。

不过先说清楚:目前 SoL-Pi 并不是 Codex、Claude Code、Cursor 等通用插件,它只能作为 Pi Coding Agent 的扩展来使用。你可以让 Codex 帮你安装,但最后真正跑任务的,还是 Pi。

SoL-Pi 项目说明

关系大致是:SoL-Pi 作为 Pi 的扩展层,优化其 Token 使用。如果你平时完全不用 Pi,目前这个项目还不能直接接入 Codex 或 Claude Code。

SoL-Pi 与 Pi 的关系

但它做的这套优化思路仍然值得了解。NVIDIA 自己测试下来,长任务中的 Token 使用量能减少 45%~49%,成本下降约三分之一,同时保留 Pi 约 94% 的平均任务得分。也就是说,它省的主要是重复工作,而不是少干活。

Token 和成本节省数据

先让 Agent 研究如何优化 Agent

SoL-Pi 的几个核心功能不是随意添加的。NVIDIA 先让 Agent 自己去寻找答案:当前的 Coding Agent 到底哪一部分最浪费?最初,Agent 找到了 152 个优化点,经过一轮又一轮试验、验证和淘汰,最后留下了 4 个机制。

改完代码,顺手把测试也跑了——Action Fusion

第一个机制叫做 Action Fusion。Agent 修改完代码后,通常下一步就是跑测试。

Action Fusion 示例

SoL-Pi 会把"修改代码"和"运行测试"两个动作合并为一个动作,这样就少了一次模型决策。单次看不多,但在一个长任务中这样的操作会反复出现。

Action Fusion 合并效果

长任务中重复操作示例

几千行日志,不用每轮都重新塞给 AI——ObservationPack

第二个机制叫 ObservationPack,非常实用。比如 Agent 刚刚读完了 4000 多行的编译日志,一般情况下在继续执行任务时,这些内容会再次被加入到上下文中。

SoL-Pi 会把完整答案保存在本地,只在上下文中留下一个索引和少量摘要,类似:

[observation: build-log-032]
共 4287 行
需要时读取:1200-1250 行

原始内容没有丢失,但不需要在每一回合中都把几千行的内容重新发送给模型。官方对 ObservationPack 单独测试的结果是:API 费用降低约 24%,请求数量没有太大变化——节省下来的正是每次请求中重复的上下文。

ObservationPack 效果

5000 行日志,先挑出真正有用的——Evidence-Preserving Reducer

第三个机制叫做 Evidence-Preserving Reducer。比如一次编译输出 5000 行日志,真正有用的可能只有几行。SoL-Pi 会先让成本较低的模型在长日志中挑选出关键内容,再回到原始日志中进行核对,只有能对上才会把结果交给主模型。

Evidence-Preserving Reducer 示意

这样主模型就不需要每次都从几千行日志里找信息,也不会因为压缩而丢失重要错误。

最后到底省多少?

前面三个机制解决的其实是同一个问题:不要让最贵的模型去做已经做过的活。NVIDIA 在 EdgeBench 长任务上测试,SoL-Pi 相比原版 Pi:

  • Token 使用量减少约 45%~49%
  • 成本降低约三分之一
  • 平均任务得分保留到 94% 左右

Token 使用量对比

成本对比

Agent 跑复杂任务时,Token 很容易浪费在几个地方:读的文件越来越多,日志也越来越多,前面看过的部分后面又反复出现。SoL-Pi 就是把这些地方一点一点地砍掉。

安装方法

SoL-Pi 需要运行在 Pi Coding Agent 中。官方测试环境:

  • @earendil-works/pi-coding-agent 0.84.2
  • Node.js ≥ 22.19

安装 Pi:npm install --global @earendil-works/pi-coding-agent@0.84.2

安装 SoL-Pi:pi install git:github.com/NVlabs/SoL-Pi

安装后优化默认不会全部打开。首次使用建议先开启两个效果明显的机制:ObservationPack(大结果回放)和 Action Fusion(减少重复调用)。

SoL-Pi 配置界面

写在最后

SoL-Pi 目前最大的遗憾是只能和 Pi 一起用。如果后续官方能把 Codex、Claude Code、Cursor 等也接入进来,这套 Token 优化思路的价值会大得多。

开源地址:github.com/NVlabs/SoL-Pi

声明:本站原创文章文字版权归本站所有,转载务必注明作者和出处;本站转载文章仅仅代表原作者观点,不代表本站立场,图文版权归原作者所有。如有侵权,请联系我们删除。
未经允许不得转载:NVIDIA 开源 SoL-Pi:让 Coding Agent Token 使用量减少 49% 的优化框架
#NVIDIA #SoL-Pi #Coding Agent #开源项目 #Token 优化 
收藏 1
OpenAI Codex 用户反馈:300 万阅读量下的额度限制、产品定位与体验痛点
这是最后一篇
推荐阅读
  • code-review-graph 开源工具:用知识图谱实现精准代码审查,Token 消耗降低 8 倍
  • Skill Seekers|自动将文档转化为Claude技能的开源工具
  • MindPocket——开源书签管理系统,用AI智能整理你的链接收藏
  • VizPilot AI:上传数据自动推荐图表,AI 驱动的数据可视化工具
  • PinMe 2.0开源:一句话搞定前端、后端、数据库,AI全栈部署新工具
评论 (0)
请登录后发表评论
分类精选
WeKnora:终于等到了腾讯ima的开源知识库框架,用 API 轻松打造本地智能文档检索
12282 1年前
OpenSpec:比 Cursor Plan 更聪明?试试这款让 AI 编码更靠谱的规范驱动工具
10690 11月前
CapCut API:一个剪映API开源项目,让AI自动剪辑视频
10186 9月前
AIRI:你的开源AI女友,让你随时拥有属于自己的 AI VTuber
9123 1年前
Antigravity-Manager:这个开源神器让你白嫖ClaudeOpus 4.5,Gemini 3!还能接Claude Code等任意平台
9056 8月前
CompressO:开源免费的视频压缩神器,让你的硬盘瞬间轻松 10 倍
8653 12月前
就要创作:从提示词到创作团队,开源 AI 网文写作平台
8501 11月前
awesome-openclaw-skills:700+ Skills 一条命令装配完成,如何让本地 AI Agent 真正落地可用
8021 7月前
Claude Code 生成专业图表的 15 个 Skills:覆盖 7 种渲染引擎的完整指南
7839 5月前
baoyu-skills:又一个宝藏Skill,面向内容创作者的技能集,支持图文生成、发布与处理
7818 7月前

文章目录

关于苏米客
分类排行
1 research-flow 开源:站在人与 AI 协作平衡点的交互式深度调研 Skill
2 博主万能蒸馏器:一键把任意博主内容转化为本地 AI 知识库
3 Hypit 开源项目:让 AI Agent 自动拆解爆款视频结构,一键生成 100 个变体
4 阿里开源 OpenCodeReview:AI 代码审查工具,Token 成本仅为 Claude Code 的 1/9
5 Huashu-Report 开源:让 AI 写出专业级报告的六种原型与三大校验机制
6 NVIDIA 开源 SoL-Pi:让 Coding Agent Token 使用量减少 49% 的优化框架
7 NVIDIA 开源 SoL-Pi:Coding Agent 长任务 Token 狂省 49%,成本降 1/3
8 reelbench-skills:开源视频拉片工具,一行命令拆解 AI 视频逐镜头分析
9 baoyu-skills:23.6K Star 的开源 Skill 全家桶,内容创作者必备工具
10 OpenResearch:1000+ Star 开源工具,把 AI 编码工具变成并行科研 Agent
苏米客
登录 注册
显示
没有账号? · 立即注册
显示
已有账号? · 直接登录
登录代表你已同意 用户协议 和 隐私政策
©2015-2024 苏米客XMSUMI 版权所有 · WWW.XMSUMI.COM 闽ICP备14005900号-6 网站地图 百度地图
微信文章助手 程序库 免费影视APP 免费字体下载 产品经理导航 爱克硕儿 产品经理AI资讯 Axure元件库下载 申请友联