问题:多模型切换太折腾?一个网关搞定所有 AI
用多个大模型时,最常见的痛点是:每家都要单独存 API 密钥、换接口地址,一会切 GPT 一会切 Claude,代码里要改半天,用量花了多少也没法统一统计。
New API 是一款开源的新一代 LLM 网关与 AI 资产管理系统,专门为个人开发者和小团队打造。一个接口、一套密钥就能搞定所有主流大模型,还能看用量、管权限、自动切备用渠道。
New API 能做什么
New API 的核心定位是AI 应用的统一基础设施。它能无缝集成全球主流 AI 服务提供商,包括通义千问、文心一言、豆包、DeepSeek,以及 OpenAI、Anthropic、Google Gemini 等,完全兼容 OpenAI 标准接口,不用改代码就能一键切换模型。
核心能力:
- 统一接口兼容:一个 API 端点、一套密钥就能接入所有 AI 服务,完全兼容 OpenAI 标准格式,不用为不同模型反复修改代码和配置
- 智能路由切换:支持多渠道负载均衡、故障自动切换,一个渠道挂了自动切备用的
- 精细用量统计:支持按次/按量的用量统计,每款模型花了多少 Token、多少成本一目了然
- 安全权限管控:支持多令牌独立管理、模型访问限制、IP 白名单,给不同插件分配独立令牌,一个泄露了不影响其他的
- 可视化数据看板:实时查看调用情况、资源消耗、模型使用分布
部署教程
New API 部署相当简单,通过 Docker Compose 即可一键启动。
步骤一:克隆项目
git clone https://github.com/QuantumNous/new-api.git
cd new-api
步骤二:编辑配置
vim docker-compose.yml
根据需求调整配置(默认配置即可满足基本使用)。
步骤三:启动服务
docker-compose up -d
启动成功后,访问 http://localhost:3000 即可使用。

按照提示进行数据库相关的设置。可以设置使用模式,自己玩玩的话推荐选择「自用模式」。

初始化完成之后,会自动跳转到首页。
功能体验
首页概览
搭建好后的首页如下,顶部有「控制台」和「模型广场」两个主要菜单。

控制台
控制台界面包含「数据看板」、「令牌管理」、「使用日志」、「绘图日志」、「任务日志」等信息。

在数据看板中,可以看到当前的额度、使用情况、资源消耗等信息。还有模型消耗的分布图,直观展示各模型的调用占比。

在「令牌管理」中,可以创建令牌,并为对应令牌设置额度、可用模型列表等权限。

管理员可以在控制台设置供应商的渠道、订阅、模型等信息。

模型广场
在模型广场中,可以看到管理配置的可用模型列表。把不同渠道的模型都集成到 New API 中后,使用者只需要用一个令牌就可以访问所有渠道的模型。

苏米注:New API 的核心价值在于「统一入口」。当你同时使用多个 AI 模型时,它把所有密钥管理、路由切换、用量统计的工作集中到一个网关里。对于用 Claude Code、Cursor、Hermes 等多个 AI 工具的人来说,这能省去大量重复配置的工作。