功能特性
本文完整介绍 Team-API 的功能版图。每项能力都附有相关章节链接,可点击进入查看使用细节。
特性总览
| 特性 | 一句话说明 | 相关文档 |
|---|---|---|
| 多租户架构 | 行级数据隔离,双独立用户体系 | 使用指南 |
| 25+ 供应商接入 | OpenAI / Claude / Gemini / DeepSeek / 通义 / 智谱 / Ollama… | API 参考 |
| OpenAI 兼容 API | 替换 base_url 即可迁移 | OpenAI 兼容接口 |
| 多协议客户端接入 | Claude / Gemini 原生协议端点直连 | Claude 接口 · Gemini 接口 |
| 智能渠道调度 | 优先级 / 权重 / 故障转移 / 渠道亲和 | 架构概览 |
| 五层额度模型 | 钱包 → 套餐 → 成员 → 项目 → Key | 架构概览 |
| 实时计费引擎 | 预扣 → 结算 → 退款,并发安全 | 架构概览 |
| 双控制台 | 管理后台 + 租户控制台 | 管理后台 · 租户控制台 |
| 全链路可观测 | 请求日志 / 操作审计 / 监控告警 | 排障指南 |
多租户架构
行级租户隔离,管理后台与租户控制台双独立用户体系:
- 平台运营方在管理后台管理租户与全局资源:租户生命周期、套餐分配、渠道、定价、全局监控;
- 每个租户在独立的租户控制台内管理自己的团队、成员、项目与 Key,数据互不可见;
- 所有业务数据按租户隔离,从查询层面保证跨租户不可访问,详见架构概览 · 多租户数据隔离。
一套部署即可同时服务多个组织,天然适合「对外提供模型服务」的 SaaS 场景,也适合「一个平台服务多个内部部门」的企业场景。
25+ 大模型供应商
统一接入 OpenAI、Claude、Gemini、DeepSeek、通义千问、智谱、Ollama 等 25+ 供应商,渠道统一配置、统一监控、统一调度:
- 多协议接入 —— 同时支持 OpenAI、Anthropic、Gemini 等原生协议,按渠道类型自动适配;
- 模型映射 —— 对外模型名与上游模型解耦,可把请求映射到任意上游渠道;
- 本地模型 —— 通过 Ollama 等接入自建模型,与云端模型同池调度;
- 聚合调度 —— 同一模型可配置多个渠道互为备份,按策略分流。
新增供应商只需在管理后台配置渠道,无需改动代码。
OpenAI 兼容 API
对外暴露 OpenAI 兼容接口,现有基于 OpenAI SDK 的应用只需替换 base_url 与 api_key 即可无缝迁移:
| 接口 | 说明 |
|---|---|
POST /v1/chat/completions | 对话补全(含流式 SSE) |
POST /v1/completions | 文本补全(旧版) |
POST /v1/responses | Responses API(独立文档) |
POST /v1/embeddings | 文本向量嵌入 |
POST /v1/images/generations | 图像生成(同步 / 异步任务) |
POST /v1/images/edits | 图像编辑 |
POST /v1/audio/transcriptions | 语音转文字 |
POST /v1/audio/translations | 语音翻译 |
POST /v1/audio/speech | 文字转语音 |
GET /v1/models | 获取可用模型列表 |
POST /v1/moderations | 内容审核 |
POST /v1/rerank | 重排序 |
POST /v1/video/generations | 视频生成(异步任务) |
WS /v1/realtime | 实时通信(WebSocket) |
调用示例:
bash
curl https://your-domain/v1/chat/completions \
-H "Authorization: Bearer sk-xxxx" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4o-mini",
"messages": [{"role": "user", "content": "Hello!"}]
}'接口细节见 OpenAI 兼容接口。
除 OpenAI 协议外,平台同样以原生协议对客户端暴露 Claude 与 Gemini 接口,Claude Code、Gemini SDK 等客户端改指向网关即可直连:
- Responses API ——
POST /v1/responses,OpenAI 新版有状态接口及生命周期管理 - Anthropic Claude 接口 ——
POST /v1/messages,Claude 原生请求 / 响应 / 流式事件格式 - Gemini 接口 ——
/v1beta/models/{model}:generateContent,Gemini 原生格式
智能渠道调度
请求到达网关后,调度引擎从候选渠道中选出最优路径:
- 优先级 / 权重路由 —— 按渠道优先级依次兜底,同级渠道按权重分发流量;
- 自动故障转移 —— 上游异常时自动切换到下一个可用渠道,业务无感知;
- 健康监控 —— 渠道级健康状态探测与成功率统计,异常渠道自动摘除、恢复后自动回切;
- 渠道亲和性 —— 会话级亲和,保证同一会话命中同一渠道,避免上下文漂移。

调度机制的完整设计见架构概览 · 渠道健康与故障转移。
五层额度模型
租户钱包 → 套餐额度 → 成员额度 → 项目预算 → Key 额度,逐层限额、逐层核算:
| 层级 | 控制对象 | 典型用途 |
|---|---|---|
| 租户钱包 | 租户总余额 | 租户级消费上限与结算 |
| 套餐额度 | 套餐有效期内的额度 | 套餐内多项目共享 |
| 成员额度 | 单个成员 | 控制个人用量 |
| 项目预算 | 单个项目 | 项目成本核算 |
| Key 额度 | 单把 Key | 应用 / 环境级限额 |
一次请求逐层校验,任一层不足即拒绝并返回明确错误码。
实时计费引擎
预扣 → 转发 → 结算 → 退款 四阶段计费,实时完成,无需离线批处理:
- 预扣:请求进入时按最大可能用量预估并冻结额度;
- 转发:调用上游渠道;
- 结算:拿到上游真实 usage 后按模型倍率计价;
- 退款:预扣与结算差额即时退回。
并发安全由 Redis 原子操作保证,高并发场景下不会出现额度超扣或资金错账。
双控制台
管理后台(Naive UI)
面向平台运营方:
- 仪表盘 —— 全局用量、收入、渠道健康概览
- 租户管理 —— 租户生命周期、套餐分配、配额调整
- 渠道管理 / 渠道监控 —— 渠道增删改、模型映射、调度层级权重、健康告警
- 模型列表 / 模型分组 —— 模型目录与定价,分组授权给租户
- 请求日志 / 用量统计 —— 全量请求检索、多维度成本报表
- 操作审计 —— 全部管理操作留痕
- 系统设置 —— 参数、通知、插件
操作导览见使用指南 · 管理后台。

租户控制台(TailwindCSS)
面向终端用户:
- 仪表盘 —— 租户级用量、余额、消耗趋势
- 团队管理 —— 团队与成员、角色权限
- 项目管理 —— 项目预算、项目级 Key
- Key 管理 —— 签发 / 吊销 / 限额 / 用量查看
- 套餐与账单 —— 套餐额度、钱包充值、消费明细
- Playground —— 在线对话体验、在线图像体验,开箱即用

全链路可观测
请求日志、操作审计、监控告警三位一体:
- 请求日志 —— 全量请求记录,支持按租户 / 模型 / 渠道 / 状态多维筛选;
- Request ID 全链路追踪 —— 一个 ID 贯穿「客户端响应头 → 网关日志 → 上游转发记录 → 计费流水」;
- 用量统计 —— 多维度用量与成本报表,支持导出对账;
- 操作审计 —— 控制台内全部管理操作留痕,登录历史、敏感数据访问可查;
- 监控告警 —— 渠道健康与业务指标异常告警。

排查思路见排障指南。
安全能力
- 数据加密 —— 内置加密密钥,渠道凭证等敏感数据加密存储,不落明文;
- 会话安全 —— JWT 会话认证,管理端与租户端用户体系完全独立;
- 内容安全 —— 提供
/v1/moderations内容审核接口,支持内容过滤审计; - 审计隔离 —— 大模型请求审计日志(
aud_request_logs)体量大,支持写入独立 PostgreSQL 实例,与主业务库物理隔离,避免拖慢主库; - 最小暴露 —— 管理后台可独立域名 / 路径部署,与 API 流量分离。
平台化能力
- 支付模块 —— 内置 Easy Pay,支持套餐购买与钱包充值在线支付;
- 图像生成异步任务 —— 图像生成支持同步转异步,任务可查询、可回调;
- 在线更新 —— 版本升级不停服,管理后台内完成;
- 对象存储 —— 文件类数据支持 S3 兼容存储 / 阿里云 OSS / 腾讯云 COS;
- 插件系统(规划中) —— 定制功能通过插件实现,不与主线代码冲突;
- 开放平台(规划中) —— 对接 OA 等企业系统能力。
路线图
- [x] 在线升级
- [x] 支付模块(Easy Pay)
- [x] 图像生成同步转异步
- [ ] 完善大模型支持,特别是图像与视频
- [ ] 角色管理(管理员 / 销售 / 技术支持等预设角色,方便运营团队协作)
- [ ] 插件功能
- [ ] 开放平台(对接 OA 能力,方便企业对接管理)
TIP
欢迎在 GitHub Issues 提出需求与反馈,或加 QQ 群 1095286563 交流。