10+年产品经理专注分享AI 工具、AI 资讯、AI Coding、Vibe Coding与下一代产品创新,按 Ctrl+D 收藏我们
关于我 留言板 小程序 标签云

苏米客

  • 首页
  • AIGC
    • AI最新动态
    • AI学习教程
    • AI工具集合
    • AI产品百科
    • AI编程开发
    • AI提示词
    • AI开源项目
    • AI智能体
  • Axure
    • Axure动态
    • Axure教程
  • 产品
    • 用户体验
    • 产品设计
    • 苏米杂谈
  • 资源
    • 产品UI组件库
    • 开源图标库
    • 中后台框架
  • 书单
    • AI书籍
    • 用户体验
    • UI视觉
    • 产品研究
    • 其他类型
  • 下载
    • Axure组件
    • Axure原型
    • 文档报告
    • 素材资源
  • 登录
  • 首页
  • AIGC
    • AI最新动态
    • AI学习教程
    • AI工具集合
    • AI产品百科
    • AI编程开发
    • AI提示词
    • AI开源项目
    • AI智能体
  • Axure
    • Axure动态
    • Axure教程
  • 产品
    • 用户体验
    • 产品设计
    • 苏米杂谈
  • 资源
    • 产品UI组件库
    • 开源图标库
    • 中后台框架
  • 书单
    • AI书籍
    • 用户体验
    • UI视觉
    • 产品研究
    • 其他类型
  • 下载
    • Axure组件
    • Axure原型
    • 文档报告
    • 素材资源
当前位置: 首页 » AI开源项目

阿里开源 skill-up:Agent Skill 的声明式评测框架,告别'感觉有用'

2小时前 AI开源项目 11 0

2026 年,Agent Skill 已经不是什么新概念了。Claude Code、Codex、Cursor 都在用 Skill 增强 Agent 能力,SkillsBench 的研究数据也证实:精心编写的 Skill 能让任务完成率平均提升 16.2 个百分点。

但一个尴尬的问题摆在每个 Skill 开发者面前:你怎么证明自己的 Skill 真的有用?

图片

"装上后感觉输出质量变好了"——这句话说服不了自己,更说服不了同事和用户。

阿里的答案是开源 CLI 工具 skill-up,它把 Agent Skill 的评测从手工折腾变成了声明式流水线,让"这个 Skill 有没有用"第一次可以用数字回答。

skill-up 是一个命令行评测框架。你在 Skill 包里写几个 YAML 文件,定义评测环境和用例,跑一行命令——它自动搭环境、装 Skill、调 Agent Engine、打分、出报告。整个过程可重复、可追溯、能跑在 CI 里。

如果说一个 Skill 是 Agent 的"技能书",那 skill-up 就是这本技能书的单元测试框架。

三大核心设计

1. 声明式用例,就像写单元测试

评测的核心是 case。skill-up 的 case 文件就像单元测试一样简洁:

input:
  prompt:
 |
    Please generate a Hello World program
expect:
  must_contain:

    -
 "Hello"
    -
 "World"
  must_not_contain:

    -
 "error"

input.prompt 是发给 Agent 的指令,expect 声明预期行为。最简情况下甚至不需要显式写 judge——默认用 rule_based 规则匹配。

如果需要更复杂的评分,skill-up 提供三种策略:

  • • rule_based:规则匹配
  • • script:自定义脚本评分
  • • agent_judge:让另一个 Agent 来当评委

2. 多引擎支持,拒绝"只在自己机器上能跑"

Agent Skill 开发有个经典坑:同一个 Skill,在 Claude Code 下效果好,到 Codex 下就可能翻车。

skill-up 内置支持 claude_code、codex、qodercli、qwen_code,还能通过 engine.custom 接入自定义 Agent。配合内置的 GitHub Action,可以在每个 PR 上同时跑跨引擎评测矩阵——一个 PR 提交上来,自动告诉你"在 Claude Code 下通过,在 Codex 下挂了"。

3. AI 辅助写评测:skill-upper

"写评测"本身就是个门槛。skill-up 自带一个 Agent Skill 叫 skill-upper,装好之后,你对着 AI Agent 说人话就行——Agent 会自己在 evals/ 下生成 eval.yaml 和对应的 case 文件,然后调 skill-up run 跑一遍。

评测写完了你甚至没碰 YAML。

版本迭代速度

从 5 月底的 v0.2.0 到 7 月中旬的 v0.7.0,不到两个月推了 10 个版本:

版本日期关键能力

v0.7.0 07-16 按用例独立配置 MCP,评测隔离性增强
v0.6.0 07-15 多轮对话评测 + Judge 专属 Skill
v0.4.0 07-08 Qwen Code 引擎 + HTTP transport + Windows 支持
v0.2.2 05-26 Docker runtime,容器隔离评测

 

GitHub 地址:https://github.com/alibaba/skill-up

声明:本站原创文章文字版权归本站所有,转载务必注明作者和出处;本站转载文章仅仅代表原作者观点,不代表本站立场,图文版权归原作者所有。如有侵权,请联系我们删除。
未经允许不得转载:阿里开源 skill-up:Agent Skill 的声明式评测框架,告别'感觉有用'
#AI工具 #开源框架 #Agent评测 #阿里开源 
收藏 1
inkos:专为写故事打造的 AI 工具,长篇小说、剧本、翻译一站搞定
LangChain、AgentScope、Mem0 深度横评:谁才是 Agent 的真正记忆系统?
推荐阅读
  • Google 开源 13 款 AI Agent Skill:兼容 Claude Code、Cursor、Copilot
  • Semble:专为 Agent 打造的代码搜索工具,索引快 218 倍节省 98% Token
  • 蚂蚁集团开源 6 大可视化 Skill,Claude Code 画图能力大升级
  • claude-video 开源工具:让 Claude 真正看懂视频的多模态方案
  • SideX:下一代编辑器开源,仅 16MB
评论 (0)
请登录后发表评论
分类精选
WeKnora:终于等到了腾讯ima的开源知识库框架,用 API 轻松打造本地智能文档检索
10987 10月前
OpenSpec:比 Cursor Plan 更聪明?试试这款让 AI 编码更靠谱的规范驱动工具
10184 9月前
Antigravity-Manager:这个开源神器让你白嫖ClaudeOpus 4.5,Gemini 3!还能接Claude Code等任意平台
8263 6月前
CapCut API:一个剪映API开源项目,让AI自动剪辑视频
8245 7月前
awesome-openclaw-skills:700+ Skills 一条命令装配完成,如何让本地 AI Agent 真正落地可用
7315 5月前
AIRI:你的开源AI女友,让你随时拥有属于自己的 AI VTuber
7246 10月前
就要创作:从提示词到创作团队,开源 AI 网文写作平台
7204 9月前
CompressO:开源免费的视频压缩神器,让你的硬盘瞬间轻松 10 倍
7088 10月前
baoyu-skills:又一个宝藏Skill,面向内容创作者的技能集,支持图文生成、发布与处理
6504 6月前
Claude Code 生成专业图表的 15 个 Skills:覆盖 7 种渲染引擎的完整指南
6431 3月前

文章目录

关注「苏米客」公众号

订阅推送更及时,手机查看更方便
分类排行
1 阿里开源 skill-up:Agent Skill 的声明式评测框架,告别'感觉有用'
2 inkos:专为写故事打造的 AI 工具,长篇小说、剧本、翻译一站搞定
3 OmniRoute:24k Star 的开源自托管 AI 网关,聚合 278 提供商免费额度,Token 压缩最高省 95%
4 Openship:6.7k Star 的开源自托管部署平台,桌面 CLI 双模式替代 Heroku
5 fireworks-tech-graph:用中文 Prompt 生成动态技术架构图的开源 Skill,支持 12 种风格与 GIF 动效
6 AstrBot:37.4K Star 的开源多平台 AI 助手框架,支持 QQ/飞书/Telegram 等 15+ 平台
7 Light OCR:跑在本地的轻量 OCR 引擎,Node.js + C++ 原生支持
8 HandDraw Story Video:手绘插图一键生成竖屏动画视频,支持线稿推进和渐变色彩
9 WorkBuddy 一键换肤开源工具:6 款主题截图实录,3 分钟实现界面自定义
10 ai-agent-book:12K Star 的开源 AI Agent 全书,从原理到工程实践
©2015-2024 苏米客XMSUMI 版权所有 · WWW.XMSUMI.COM 闽ICP备14005900号-6
微信文章助手 程序库 免费影视APP 免费字体下载 产品经理导航 爱克硕儿 产品经理AI资讯 Axure元件库下载 申请友联