Skip to content

功能特性

本文完整介绍 Team-API 的功能版图。每项能力都附有相关章节链接,可点击进入查看使用细节。

特性总览

特性一句话说明相关文档
多租户架构行级数据隔离,双独立用户体系使用指南
25+ 供应商接入OpenAI / Claude / Gemini / DeepSeek / 通义 / 智谱 / Ollama…API 参考
OpenAI 兼容 API替换 base_url 即可迁移OpenAI 兼容接口
多协议客户端接入Claude / Gemini 原生协议端点直连Claude 接口 · Gemini 接口
智能渠道调度优先级 / 权重 / 故障转移 / 渠道亲和架构概览
五层额度模型钱包 → 套餐 → 成员 → 项目 → Key架构概览
实时计费引擎预扣 → 结算 → 退款,并发安全架构概览
双控制台管理后台 + 租户控制台管理后台 · 租户控制台
全链路可观测请求日志 / 操作审计 / 监控告警排障指南

多租户架构

行级租户隔离,管理后台与租户控制台双独立用户体系

  • 平台运营方在管理后台管理租户与全局资源:租户生命周期、套餐分配、渠道、定价、全局监控;
  • 每个租户在独立的租户控制台内管理自己的团队、成员、项目与 Key,数据互不可见;
  • 所有业务数据按租户隔离,从查询层面保证跨租户不可访问,详见架构概览 · 多租户数据隔离

一套部署即可同时服务多个组织,天然适合「对外提供模型服务」的 SaaS 场景,也适合「一个平台服务多个内部部门」的企业场景。

25+ 大模型供应商

统一接入 OpenAI、Claude、Gemini、DeepSeek、通义千问、智谱、Ollama 等 25+ 供应商,渠道统一配置、统一监控、统一调度

  • 多协议接入 —— 同时支持 OpenAI、Anthropic、Gemini 等原生协议,按渠道类型自动适配;
  • 模型映射 —— 对外模型名与上游模型解耦,可把请求映射到任意上游渠道;
  • 本地模型 —— 通过 Ollama 等接入自建模型,与云端模型同池调度;
  • 聚合调度 —— 同一模型可配置多个渠道互为备份,按策略分流。

新增供应商只需在管理后台配置渠道,无需改动代码。

OpenAI 兼容 API

对外暴露 OpenAI 兼容接口,现有基于 OpenAI SDK 的应用只需替换 base_urlapi_key 即可无缝迁移:

接口说明
POST /v1/chat/completions对话补全(含流式 SSE)
POST /v1/completions文本补全(旧版)
POST /v1/responsesResponses API(独立文档
POST /v1/embeddings文本向量嵌入
POST /v1/images/generations图像生成(同步 / 异步任务)
POST /v1/images/edits图像编辑
POST /v1/audio/transcriptions语音转文字
POST /v1/audio/translations语音翻译
POST /v1/audio/speech文字转语音
GET /v1/models获取可用模型列表
POST /v1/moderations内容审核
POST /v1/rerank重排序
POST /v1/video/generations视频生成(异步任务)
WS /v1/realtime实时通信(WebSocket)

调用示例:

bash
curl https://your-domain/v1/chat/completions \
  -H "Authorization: Bearer sk-xxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o-mini",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

接口细节见 OpenAI 兼容接口

除 OpenAI 协议外,平台同样以原生协议对客户端暴露 Claude 与 Gemini 接口,Claude Code、Gemini SDK 等客户端改指向网关即可直连:

  • Responses API —— POST /v1/responses,OpenAI 新版有状态接口及生命周期管理
  • Anthropic Claude 接口 —— POST /v1/messages,Claude 原生请求 / 响应 / 流式事件格式
  • Gemini 接口 —— /v1beta/models/{model}:generateContent,Gemini 原生格式

智能渠道调度

请求到达网关后,调度引擎从候选渠道中选出最优路径:

  • 优先级 / 权重路由 —— 按渠道优先级依次兜底,同级渠道按权重分发流量;
  • 自动故障转移 —— 上游异常时自动切换到下一个可用渠道,业务无感知;
  • 健康监控 —— 渠道级健康状态探测与成功率统计,异常渠道自动摘除、恢复后自动回切;
  • 渠道亲和性 —— 会话级亲和,保证同一会话命中同一渠道,避免上下文漂移。

管理后台 — 渠道监控

调度机制的完整设计见架构概览 · 渠道健康与故障转移

五层额度模型

租户钱包 → 套餐额度 → 成员额度 → 项目预算 → Key 额度,逐层限额、逐层核算:

层级控制对象典型用途
租户钱包租户总余额租户级消费上限与结算
套餐额度套餐有效期内的额度套餐内多项目共享
成员额度单个成员控制个人用量
项目预算单个项目项目成本核算
Key 额度单把 Key应用 / 环境级限额

一次请求逐层校验,任一层不足即拒绝并返回明确错误码。

实时计费引擎

预扣 → 转发 → 结算 → 退款 四阶段计费,实时完成,无需离线批处理:

  • 预扣:请求进入时按最大可能用量预估并冻结额度;
  • 转发:调用上游渠道;
  • 结算:拿到上游真实 usage 后按模型倍率计价;
  • 退款:预扣与结算差额即时退回。

并发安全由 Redis 原子操作保证,高并发场景下不会出现额度超扣或资金错账。

双控制台

管理后台(Naive UI)

面向平台运营方

  • 仪表盘 —— 全局用量、收入、渠道健康概览
  • 租户管理 —— 租户生命周期、套餐分配、配额调整
  • 渠道管理 / 渠道监控 —— 渠道增删改、模型映射、调度层级权重、健康告警
  • 模型列表 / 模型分组 —— 模型目录与定价,分组授权给租户
  • 请求日志 / 用量统计 —— 全量请求检索、多维度成本报表
  • 操作审计 —— 全部管理操作留痕
  • 系统设置 —— 参数、通知、插件

操作导览见使用指南 · 管理后台

管理后台 — 仪表盘

租户控制台(TailwindCSS)

面向终端用户

  • 仪表盘 —— 租户级用量、余额、消耗趋势
  • 团队管理 —— 团队与成员、角色权限
  • 项目管理 —— 项目预算、项目级 Key
  • Key 管理 —— 签发 / 吊销 / 限额 / 用量查看
  • 套餐与账单 —— 套餐额度、钱包充值、消费明细
  • Playground —— 在线对话体验、在线图像体验,开箱即用

租户控制台 — 在线 Playground

操作导览见管理后台租户控制台

全链路可观测

请求日志、操作审计、监控告警三位一体:

  • 请求日志 —— 全量请求记录,支持按租户 / 模型 / 渠道 / 状态多维筛选;
  • Request ID 全链路追踪 —— 一个 ID 贯穿「客户端响应头 → 网关日志 → 上游转发记录 → 计费流水」;
  • 用量统计 —— 多维度用量与成本报表,支持导出对账;
  • 操作审计 —— 控制台内全部管理操作留痕,登录历史、敏感数据访问可查;
  • 监控告警 —— 渠道健康与业务指标异常告警。

管理后台 — 请求日志

排查思路见排障指南

安全能力

  • 数据加密 —— 内置加密密钥,渠道凭证等敏感数据加密存储,不落明文;
  • 会话安全 —— JWT 会话认证,管理端与租户端用户体系完全独立;
  • 内容安全 —— 提供 /v1/moderations 内容审核接口,支持内容过滤审计;
  • 审计隔离 —— 大模型请求审计日志(aud_request_logs)体量大,支持写入独立 PostgreSQL 实例,与主业务库物理隔离,避免拖慢主库;
  • 最小暴露 —— 管理后台可独立域名 / 路径部署,与 API 流量分离。

平台化能力

  • 支付模块 —— 内置 Easy Pay,支持套餐购买与钱包充值在线支付;
  • 图像生成异步任务 —— 图像生成支持同步转异步,任务可查询、可回调;
  • 在线更新 —— 版本升级不停服,管理后台内完成;
  • 对象存储 —— 文件类数据支持 S3 兼容存储 / 阿里云 OSS / 腾讯云 COS;
  • 插件系统(规划中) —— 定制功能通过插件实现,不与主线代码冲突;
  • 开放平台(规划中) —— 对接 OA 等企业系统能力。

路线图

  • [x] 在线升级
  • [x] 支付模块(Easy Pay)
  • [x] 图像生成同步转异步
  • [ ] 完善大模型支持,特别是图像与视频
  • [ ] 角色管理(管理员 / 销售 / 技术支持等预设角色,方便运营团队协作)
  • [ ] 插件功能
  • [ ] 开放平台(对接 OA 能力,方便企业对接管理)

TIP

欢迎在 GitHub Issues 提出需求与反馈,或加 QQ 群 1095286563 交流。

基于 AGPL-3.0 许可发布