𝐗𝐀𝐈 𝐑𝐨𝐮𝐭𝐞𝐫

产品介绍

什么是 XAI Router ?

您可以将 XAI Router（又名愚公路由）理解为 AI 路由网关。它是一个在应用层透明接入的 AI API 路由与管理平台，提供完整的多租户管理 API 体系，旨在无缝对接并统一调度管理全球所有主流 AI 大模型和本地私有部署的开源 AI 模型。

更重要的是，它能统一认证接入 Claude Code Max、OpenAI Codex Pro 及 Gemini CLI 等强大的 AI 编程客户端。这意味着企业可以轻松地将效能强大的 AI 辅助编程能力，安全、可控地分发给内部每一位开发人员，从而全面提升研发效能。

如果将 DeepSeek、OpenAI、Anthropic 等模型提供商比作"发电厂"，那么 XAI Router 就是集"国家电网（高可靠传输）、各级电力分销公司（多租户体系）、智能电表计费系统（精细化管理）"于一体的智能电力调度引擎。

🔑 100% BYOK (Bring Your Own Key) 设计

XAI Router 采用纯粹的 BYOK 架构：

  • ✅ 您的密钥，您掌控：自主管理所有 AI Provider Keys（OpenAI、Anthropic、DeepSeek 等）
  • ✅ 零中间费用：直接对接官方 API，无任何加价或服务费
  • ✅ 端到端加密：用户即密钥，数据完全由您掌控，系统无超级管理员
  • ✅ 无供应商锁定：可随时导出配置和迁移，保持完全自由

与 OpenRouter 等平台不同，XAI Router 不提供"付费池"模式，确保您的成本透明可控、数据主权完整。

核心路由网关基于 Rust 异步运行时实现，具备高吞吐、低尾延迟与更小的内存占用。

服务模式

  • 私有化 XAI Router [1]：单租户架构（加密存储空间），由系统管理员统一录入并管控所有 AI API Key，可创建子账户实现资源共享。专为对数据主权、信息安全与合规性有严苛要求的大中型企业、金融机构、医疗机构及政府部门设计，提供完整本地化部署方案，确保数据不出域、合规不出界。
  • 云服务 XAI Control [2]：多租户架构（加密虚拟空间），每位注册用户即刻拥有独立的 AI 路由配置空间，自主管理 AI API Key，可创建子账户进行资源分配。面向全球开发者，提供开箱即用、高可用的 AI API 接入服务，支持快速集成、零运维上线。

核心差异：两者的本质区别在于「谁掌管 AI API Key」。无论哪种模式，均支持创建多级子账户并灵活分配管理 AI API 资源。

方案架构管理模式典型场景用户案例
XAI Router [1]单租户系统管理员集中管控所有 AI API Key，可创建子账户共享资源对数据主权、信息安全与合规性有严苛要求的企业机构某银行总行 IT 部部署本地路由，管理员统一分配 DeepSeek/本地模型的 API 额度，为各业务部门创建子账户
XAI Control [2]多租户注册即拥有独立路由实例，自主管理 AI API Key，可创建子账户共享资源全球开发者、初创公司及快速上线场景开发者小李注册后立即拥有独立实例，添加 DeepSeek/Anthropic/OpenAI API Key，为 5 个海外客户创建子账户；另一开发者 Dick 注册后同样拥有完全隔离的实例，各自管理密钥和子账户，互不干扰

无论您需要公有云的便捷性，还是私有化部署的安全性，我们都能提供最适合您的专业解决方案。

核心特性

  • 统一 API 入口：所有模型调用统一通过单一域名访问，XAI Router 智能调度至最优上游服务。
  • 广泛的模型支持：完美对接全球主流 AI 大模型，包括 OpenAI 全系列、Anthropic Claude 家族、Google Gemini、DeepSeek、Mistral、Llama 等。同时，它还支持对接专有或非标准 API，如 Claude Code Max、OpenAI Codex Pro 以及 Gemini CLI 等，实现真正的统一调用。
  • 智能密钥轮换：实时监测密钥健康状态，在密钥池内自动执行轮询、休眠与恢复策略，有效避免单点限速瓶颈。
  • 精细化流控：支持 TPM/TPH/TPD/RPM/RPH/RPD 多维度限流；提供 IP 白名单、模型白名单等管控策略；实时用量上报与可视化监控。
  • 自动故障切换：上游异常（超时、429、5xx）触发毫秒级熔断机制，自动重试并切换至健康节点，业务侧完全无感知。
  • 灵活模型映射：支持系统层和账户层的「模型别名」映射，如 gpt-3.5-*=gpt-4o-mini、deepseek-coder=deepseek-chat，无需修改代码即可平滑升级或降级模型。
  • 多云协议转换：内置高性能跨平台 API 协议适配层，支持：
    • Azure OpenAI Service → OpenAI API / Anthropic API 双协议无缝转换
    • AWS Bedrock → OpenAI API / Anthropic API 双协议转换，无需改写代码即可用 OpenAI/Anthropic API 调用 Claude 等模型
    • Google Cloud Vertex AI → OpenAI API / Anthropic API 双协议转换，统一调用入口
  • 极致稳定性：通过密钥池智能调度算法，有效屏蔽上游服务（如 OpenAI）的 429、5xx 等常见错误，最大化业务请求成功率。
  • 原生协议与标准兼容并蓄：不仅完全兼容 OpenAI 和 Anthropic 的 API 规范，更重要的是，XAI Router 支持以原生 API 协议直接调用模型，确保功能完整性与最佳性能。只需修改 base_url 和 api_key 两个参数，即可在现有应用中无缝接入，无需改动业务逻辑。
  • 卓越性能：核心服务逻辑全内存执行，确保超低延迟和出色的高并发处理能力。
  • Rust 原生引擎：核心服务基于 Rust（异步运行时）实现，具备低尾延迟与高吞吐。
  • 强大账户体系：提供灵活的多级子账户管理能力，可为团队成员或客户创建独立子账户，精细控制其费率、额度、速率限制（RPM/TPM）和可用模型范围。
  • 精细成本控制：所有消费明细清晰可查，从全局概览到逐笔记录，让成本透明可控。支持按量计费，价格与官方模型保持一致。
  • 零信任安全：XAI Control 多租户系统的核心数据（XAI API Key 和 AI API Key）采用虚拟货币级别的端到端加密存储，系统不设超级管理员，数据库不留任何明文敏感信息。即便整库泄露，攻击者也无法解密。实施「用户即密钥」的去中心化安全策略——您的数据只能由您的专属密钥解锁，从根本上杜绝泄露风险。

实现原理

XAI XAPI 架构图

密钥池（Key Pool）汇集了由不同高等级账户创建的多个上游 AI 服务商 API Keys。这套机制有效解决了单一官方账户在面临超大规模请求时，因 `TOKEN LIMITS` 或 `REQUEST LIMITS` 不足而产生的服务瓶颈。通常，我们为各类模型维护至少 100 个独立的上游账户，以从容应对全球开发者的超大规模并发请求。

无论您是独立开发者、创业团队还是企业级用户，XAI Router 都能为您提供稳定、高效、可控的 AI API 服务，助力您专注于业务创新。

BYOK：您的密钥，您的掌控 →