Skip to content
v0.2 已发布 · AGPL-3.0 开源

多租户大模型
API 网关

OpenAI、Claude、Gemini……25+ 家大模型,接到一个入口里。
给团队每人发一个 Key——能用什么、能花多少,都由你管。

25+
家大模型,全都接好了
5
层额度管控,花超自动停
2
套后台,平台和客户各用各的
1
个 Key,所有模型通用

它能帮你做什么

从接入、管钱到排障,六件事一次说清楚

01 · 统一接入

一个 Key,用遍所有大模型

不用挨家注册、挨家充值。25+ 家大模型都接在一个入口后面,代码里只留一个地址、一个 Key。

  • 兼容 OpenAI 接口格式,老代码改个地址就能迁过来
  • Claude、Gemini 等原生格式也支持直连
  • 渠道变慢或出故障自动换一家,调用方无感知
一把钥匙连接所有大模型的示意图
02 · 团队管理

谁能用什么、能花多少,你说了算

给每个成员发自己的 Key,配各自的额度。额度花完自动停,调高预算自动恢复,不用人工封号解号。

  • 老板、管理员、成员三种身份,各自看到的不一样
  • 成员、项目、Key 都能单独限额,花超自动停
  • 可以限制某个 Key 只能用便宜模型,成本管得住
成员、应用、密钥三层权限管理的示意图
03 · 双端架构

两套后台:你管平台,客户管自己

你在自己的后台管渠道和定价,客户在他们的后台管成员和账单。两套账号互不相通,数据完全隔离。

  • 平台后台:管渠道、模型、定价、订单、监控
  • 客户后台:管自己的成员、Key、账单、套餐
  • 账号体系完全独立,客户看不到你的渠道和成本
管理端与租户端两套系统并存的示意图
04 · 异步生图

画图不用干等几十秒

提交画图任务立刻拿到一个任务号,先去干别的,回头拿任务号取图就行。失败自动换渠道重试,队列满了直接退钱。

  • 提交即返回任务号,不用挂着连接傻等
  • 生成失败自动换渠道重试,尽量让你拿到图
  • 服务重启时没完成的任务自动退款,不白花钱
图片生成从同步等待改为异步取图的示意图
05 · 日志排障

出了问题,一查到底

每次调用从进来到出去,每一步都有记录:发给了哪家、来回说了什么、花了多久。对话内容默认打码保存,隐私不外泄。

  • 一次请求的完整来回,每一步报文都能看
  • 手机号、身份证、密钥等敏感信息自动打码
  • 平台和客户各记一份,客户自己定记录的详细程度
一次请求在渠道间完整追踪链路的示意图
06 · 实时监控

系统跑成什么样,一眼看清

多少人在用、流量走了哪家、成功率高不高,打开监控页一眼看完。渠道出问题自动告警,修好了自动恢复。

  • 实时看到并发、流量、成功率、延迟
  • 「这次请求为什么走了这家渠道」有答案,不用猜
  • 渠道故障自动告警、自动隔离,恢复后自动拉回
全链路监控数据可视化的示意图

更多开箱能力

OpenAI 兼容接口
改个地址和 Key 就能迁移
多家格式直连
Claude、Gemini 原生格式也支持
实时计费
先扣后结、多退少补,不出错账
流式输出
边生成边显示,不用等全文
内容过滤
敏感词和违规内容可拦截
第三方登录
支持 GitHub 等 OAuth 登录
插件系统
缺什么功能,装个插件补上
在线更新
升级版本不用停机

把 25+ 家大模型,一次接进来

Docker Compose 五分钟部署 · AGPL-3.0 开源 · 数据全程在你自己的服务器上

基于 AGPL-3.0 许可发布