10+年产品经理专注分享AI 工具、AI 资讯、AI Coding、Vibe Coding与下一代产品创新,按 Ctrl+D 收藏我们
关于我 留言板 标签云 排行榜

苏米客

  • 首页
  • AIGC
    • AI最新动态
    • AI学习教程
    • AI工具集合
    • AI产品百科
    • AI编程开发
    • AI提示词
    • AI开源项目
    • AI智能体
  • Axure
    • Axure动态
    • Axure教程
  • 产品
    • 用户体验
    • 产品设计
    • 苏米杂谈
  • 资源
    • 产品UI组件库
    • 开源图标库
    • 中后台框架
  • 书单
    • AI书籍
    • 用户体验
    • UI视觉
    • 产品研究
    • 其他类型
  • 下载
    • Axure组件
    • Axure原型
    • 文档报告
    • 素材资源
  • 登录
  • 首页
  • AIGC
    • AI最新动态
    • AI学习教程
    • AI工具集合
    • AI产品百科
    • AI编程开发
    • AI提示词
    • AI开源项目
    • AI智能体
  • Axure
    • Axure动态
    • Axure教程
  • 产品
    • 用户体验
    • 产品设计
    • 苏米杂谈
  • 资源
    • 产品UI组件库
    • 开源图标库
    • 中后台框架
  • 书单
    • AI书籍
    • 用户体验
    • UI视觉
    • 产品研究
    • 其他类型
  • 下载
    • Axure组件
    • Axure原型
    • 文档报告
    • 素材资源
当前位置: 首页 » AI产品百科

OpenSquilla 智能模型路由:让每一分Token都花在刀刃上

29分钟前 AI产品百科 0 0

兄弟们好,不知道各位有没有这样的感受:模型越来越强、越来越多,我们自己反而越来越累了。以我为例,处理简单的办公任务,只想用速度快且便宜的模型;写文案或开发时会选择更强的大模型;有时为了省钱,也会用开源模型。这些偏好还会随着模型更新迭代不断重设,毕竟谁不想第一时间用上更快更强还更省的模型?

模型选择界面

不过周末逛 GitHub 时,我注意到「OpenSquilla」发布了新版本,于是来了兴趣,下载折腾了两天。这次更新真有点东西。

OpenSquilla 是基元律动推出的一款开源桌面 Agent 客户端,和你平时用的 Workbuddy 这类工具差不多。截至目前,该项目已在 GitHub 斩获了 7.1k 星标。

OpenSquilla 界面

新版最核心的变化,就是加入了智能模型路由。

智能模型路由

简单来说,你只需给它下达任务指令,本地路由器会根据任务难度,把请求分到 C0 到 C3 四个档位,再调用对应模型。C0 适合简单问答、短文案这类轻任务,C3 则留给复杂推理、重度代码重构之类的硬活儿。

路由机制

这种路由机制可以把每一分 Token 都花在刀刃上,充分诠释了什么叫"杀鸡焉用牛刀"。

Token 优化

关键是,四个档位用什么模型并不是固定的。基元律动会每月测试主流模型,再把推荐配置更新到 OpenSquilla 里。如果把四个档位的模型都改成老版本,打开配置会提醒"推荐方案有更新"。

配置更新提醒

点进去后,它已经自动按喜好推荐了新的模型替换方案,只需要点一下替换就 OK。

推荐替换方案

也就是说,模型在变,配置也跟着变。不再需要自己研究模型的强弱以及成本的高低,直接看推荐,确认一下,接着干活就行。

当模型无法判定任务难度时,还可以默认先采用兜底方案,以免错误调用高级模型浪费 Token。

兜底方案

实战体验:帮我管住我女儿

起因是女儿最近看奶奶在玩开心消消乐,于是她也想玩。但其实不想她太早接触电子产品,又拗不过她,于是突发奇想,自己开发了一个儿童版开心消消乐。最大的区别就是加入了家长监管模式,每次只让她玩几分钟,等倒计时归零后会自动锁定。

家长监管模式

而且自己开发的消消乐游戏没有广告弹窗,也不担心她点到充值页面乱操作。

无广告游戏

这个游戏就是用 OpenSquilla 开发的。为了测试它是否能合理路由,把这个需求拆分成了几步。

① 简单任务

先给了一个取名的任务,显然这个任务毫无难度,它也按预料的情况一样,路由到了最低的 C0 档位。

C0 路由

② 需求分析

第二个任务是让它帮忙补充开发相关的需求,依旧只是纯文字回复,但这次它切换到了 C1 档的 DS 模型,其实也是符合心理预期的。毕竟相比上一个任务确实要复杂那么一丢丢。

C1 路由

③ 开始开发

现在更进一步,让它先帮忙开发一个官网落地页,这个显然没有难度,于是它果断选择了 C1 档。

C1 官网开发

最后让它根据前面那套完整的开发方案进行游戏开发,于是这次它选择了 C2 档。

C2 游戏开发

不过,这里得补充一句,以上的模型选择只针对当前这一次请求,而 Agent 一次任务可能有十几个甚至几十次请求,所以在我们看不见的地方,它都会自动切换。但这套路由机制对需求的判断还是比较准确的。我们并不是为了省钱而优先选择最便宜的模型,而是让钱花在刀刃上。

花了多少钱?

前面设计方案 + 官网开发 + 游戏开发,最终花费总计大概就花了四毛钱出头,这个成本还是非常低的。

成本明细

如果全都用 GLM 5.3 或 Kimi K3,价格肯定要来到两三块钱左右。

如何安装使用?

别看它是个开源项目,但用起来其实跟下载软件一样,可以直接去产品官网或 GitHub 发布页下载安装包。

安装后只需根据提醒配置模型服务即可,这里选的是基元律动自家的「TokenRhythm」,只需要去复制一个 Key 粘贴过来就搞定了。

官网下载

TokenRhythm 配置

现在新注册用户还能白嫖 18 元的 Token 额度,所以上面开发的项目其实分币没花,都是白嫖的。

Token 额度

登录这个平台,后台的每一次模型调用都有据可查,成本一目了然。

后台面板

另外,双 11 活动期间,充值满 50 元送等额调用额度,赠额永久有效,活动截止到 11 月 13 日。

最后

以前以为,想把 AI 用好,首先得成为半个模型专家。现在越来越觉得,好的工具应该帮用户减少选择焦虑。OpenSquilla 最大的价值,就是它能把那些不值得你反复操心的选择,放到后台处理。

AI 不该只负责回答问题,模型选择不该成为使用 AI 的前置考试。把这道题交给 OpenSquilla,自己把更多精力放在更重要的事情上,才是正解。

Github:https://github.com/TokenRhythm/opensquilla

声明:本站原创文章文字版权归本站所有,转载务必注明作者和出处;本站转载文章仅仅代表原作者观点,不代表本站立场,图文版权归原作者所有。如有侵权,请联系我们删除。
未经允许不得转载:OpenSquilla 智能模型路由:让每一分Token都花在刀刃上
#AI工具 #开源项目 #OpenSquilla #智能路由 #基元律动 
收藏 1
阶跃星辰Step Studio:AI终端原生IDE,一站式开发App/游戏/智能体
这是最后一篇
推荐阅读
  • MiniMax:AI智能助手,集成对话助手、创意写作、工作助理、翻译和编程辅助等多种功能
  • A2E:一个用于生成虚拟化身(数字人)视频的网站,只需一个视频或照片创建任何人的逼真头像
  • KI Bewerbungsfoto:AI照片工具,快速在线制作专业简历照片
  • GifShift:一款上传GIF就能一键将梗图转绘成动漫的工具
  • VocalreMover:免费在线AI音频人声分离伴奏提取工具,通过AI分离音频和背景音乐
评论 (0)
请登录后发表评论
分类精选
AI Couple:30 秒生成超逼真情侣照 & 吻抱视频的神器
33897 10月前
GPTGirlfriend:AI虚拟女友聊天平台,不受限制的成人角色扮演,AI女友进行成熟的对话
20530 1年前
NiceVoice:又一款免费AI声音克隆,3步克隆你的声音
20385 1年前
Picarta:可以查找图片拍摄地点的AI识图软件,使用AI搜索照片拍摄的精确位置
19366 1年前
BeArt:一款免费且无水印的的在线AI换脸网站,适用于照片、视频和GIF中实现精准换脸
18481 1年前
FantasyGF:AI虚拟女友聊天平台,定制你的AI女友聊天
18275 1年前
嘎嘎降AI:AIGCleaner论文降重工具网站,专门降低文章AI率、查重率的工具
17526 1年前
Noiz AI:AI语音克隆工具,一款TTS和视频配音神器
17399 1年前
灵光:蚂蚁集团推出的全模态AI助手App,30秒做应用、实时写图文
16418 11月前
Unscreen:在线视频和GIF背景抠除工具,不用绿幕轻松完成视频抠像
15226 2年前

文章目录

关于苏米客
分类排行
1 OpenSquilla 智能模型路由:让每一分Token都花在刀刃上
2 实测千问办公2.0:TeamAgent让AI进群盯进度,自动交接写周报
3 腾讯鹅次元Agent:AI游戏陪伴与实时语音互动体验
4 百智办公:GitHub 开源的企业 AI 工作台,支持统一管理、成本可控与数据本地化
5 Magpie:跨平台模型网关,把其他 AI 的额度接到主力 Agent 里用
6 腾讯 Chatterfly :从 AI 语音输入法到语音 Agent,支持全局快捷键与语音指令
7 EditHere:面向AI的视觉批注工具,用像素坐标精准描述界面修改位置
8 腾讯 Hy-Nomas :交互式 AI 世界生成器,用文字和键盘创作视频
9 Today AI:融资2亿美元的个人Agent,Living Memory+主动性+任务执行三合一架构
10 影策TV:开源AI影视创作无限画布工作台,多Agent并行生成MG视频全流水线
苏米客
登录 注册
显示
没有账号? · 立即注册
显示
已有账号? · 直接登录
登录代表你已同意 用户协议 和 隐私政策
©2015-2024 苏米客XMSUMI 版权所有 · WWW.XMSUMI.COM 闽ICP备14005900号-6 网站地图 百度地图
拉美跨境导航 微信文章助手 程序库 免费影视APP 免费字体下载 产品经理导航 爱克硕儿 产品经理AI资讯 Axure元件库下载 申请友联