核心概念
理解以下几个概念,有助于你更好地配置和使用 APIPIG。
网关入口(Gateway)
业务系统对接的唯一地址。所有请求先进入网关,由网关统一完成协议适配、权限校验、路由和审计。网关对外暴露 OpenAI 兼容协议,因此现有基于 OpenAI SDK 的应用几乎零改造即可接入。
渠道(Channel)
一个渠道代表一个可调用的上游模型来源,例如 OpenAI 官方 API、DeepSeek、Qwen、本地 Ollama 节点或私有代理通道。每个渠道包含 provider、base_url 和被托管的 api_key。
账号池与密钥托管(Key Vault)
高风险凭证(API Key、组织账号)集中存放在平台侧,而不是散落到各个服务和脚本中。密钥在请求经过网关时被动态注入到上游调用,业务侧永远拿不到真实凭证。
路由策略(Routing)
决定一次请求最终命中哪个渠道的规则,包括:
- 默认路由:常规请求走哪个渠道。
- 失败回退:上游异常时自动切换到备用通道。
- 灰度 / 限流 / 熔断:按比例灰度、限制并发、异常熔断保护。
访问主体与权限(Principal & Permission)
访问主体是发起调用的身份(应用、团队或个人令牌)。通过权限策略可以控制某个主体能访问哪些模型、哪些渠道,以及配额上限。
调用审计(Audit)
对每一次请求做请求级留痕:访问主体、命中的模型与路由、上游响应、异常事件都会被记录,支持后续的排障、归因、合规复核与审计回放。
掌握这些概念后,可以进一步阅读 网关架构 了解它们如何协同工作。