网关架构
把模型接入、安全边界和审计链路收进同一个网关
AI 网关不只是转发请求,更要统一承接模型协议适配、账号与密钥托管、路由与权限策略、调用日志和异常追踪。这样研发接入更短,平台治理更集中,安全团队也能拿到完整审计链路。
请求链路
一次业务请求在 APIPIG 内部会经过如下阶段:
业务请求 → 权限校验 → 路由命中 → 密钥注入 → 上游调用 → 审计沉淀
- 业务请求:业务系统 / Agent 应用、内部服务 / 自动化任务、第三方系统等多来源请求,统一走网关入口接入。
- 权限校验:校验访问主体身份、模型权限与配额。
- 路由命中:按路由策略选择渠道,执行限流、熔断与灰度。
- 密钥注入:从平台侧托管的账号池 / API Key 动态注入凭证。
- 上游调用:适配上游协议,调用 OpenAI / Claude / Qwen / DeepSeek 等模型,失败时按策略回退。
- 审计沉淀:记录调用日志、策略命中、安全事件,支持审计回放。
三层结构
接入层(统一入口)
- 业务系统 / Agent 应用:统一走网关入口接入。
- 内部服务 / 自动化任务:SDK、脚本和工作流统一收口。
- 第三方系统 / 对外接口:多来源请求按统一规则进入。
网关层(APIPIG AI 网关)
平台侧托管账号池 / API Key / 动态代理,统一入口、策略控制、模型适配:
- 统一 OpenAI 兼容协议入口
- 路由策略、权限校验、限流熔断
- 上游模型适配、通道切换、失败回退
- 请求日志、异常追踪、审计留痕
模型层(上游调用)
- OpenAI / Claude ...:官方 API 与标准代理通道。
- Qwen / DeepSeek ...:国产模型、本地节点统一接入。
- 私有代理 / 备用通道:灰度切换、故障回退与容灾。
统一审计留痕
网关会对调用日志、策略命中、安全事件进行统一留痕,并支持审计回放,为安全与合规团队提供完整的追责依据。