9Router：开源AI路由网关，智能Token压缩与多模型统一调度工具

一、9Router 是什么

9Router 是一款开源的AI 模型统一路由网关与 Token 智能优化工具，基于 Next.js 架构开发，遵循 MIT 开源协议，可本地私有化部署、数据自主可控。它核心定位是全平台 AI 请求中间件，兼容标准 OpenAI /v1 接口协议，能够聚合市面上40+主流AI服务商、接入100+大语言模型，实现多模型统一接入、智能负载均衡、Token 压缩节省、故障自动降级切换等核心能力。

9Router 最大的优势在于无需修改原有业务和工具配置，即可无缝对接 Cursor、Claude Code、Copilot、Cline、Continue 等主流 AI 编程助手与通用 AI 客户端，解决开发者和普通用户日常使用AI时模型切换繁琐、Token 消耗过高、账号额度浪费、接口不兼容、服务中断等痛点，同时支持免费模型、廉价模型、付费订阅模型多层级智能调度，做到低成本甚至零成本稳定使用各类大模型。

二、功能特色

1. 统一接口协议兼容

内置标准 OpenAI 风格 /v1 接口，自动完成多厂商模型格式互转，包括 OpenAI、Anthropic Claude、Gemini、DeepSeek、Kimi、GLM 等接口协议适配，原有支持 OpenAI 接口的工具无需改造即可直接接入。

2. RTK 智能 Token 压缩

独有 RTK 压缩算法，针对 Git diff、命令行日志、文件列表、代码上下文等高频长文本做无损精简，在不影响 AI 理解效果的前提下，单次请求可节省 20%-40% 输入 Token，大幅降低调用成本与额度消耗。

3. Caveman 极简提示词模式

内置提示词精简逻辑，剔除冗余话术、无效修饰内容，凝练核心指令，可最高节省 65% 输出 Token，响应速度更快、内容更干练，适合代码补全、问题简答、命令生成等轻量化场景。

4. 三级智能故障回落机制

设计订阅账号→廉价模型→免费模型三层优先级调度策略，当主账号额度耗尽、接口超时、请求报错时，系统自动无缝切换至下一级可用模型与服务商，全程无感知、不中断工作流程。

5. 多账号负载均衡与轮询

支持同一AI服务商添加多个账号密钥，提供优先级模式、轮询模式、随机模式三种调度策略，均衡分摊请求流量，最大化利用多账号配额，避免单账号频繁超限封禁。

6. 可视化用量监控面板

自带 Web 可视化管理面板，实时展示 Token 消耗统计、各服务商配额剩余、单次请求成本估算、月度用量报表、调用日志记录等数据，用量明细一目了然。

7. 多环境一键部署

支持本地单机部署、Docker 容器部署、VPS 云服务器部署、Cloudflare Workers 边缘部署多种方式，内置 SQLite 本地数据库，所有配置、密钥、用量数据均本地化存储，不上传第三方服务器，隐私安全有保障。

8. 全生态工具无缝适配

兼容绝大多数 AI 编程与对话工具，涵盖 Claude Code、Cursor、GitHub Copilot、Cline、OpenClaw、Continue 等编码助手，同时支持任意自定义 OpenAI 接口客户端接入使用。

三、技术细节

1. 技术架构栈

• 前端框架：Next.js，兼顾服务端渲染与接口服务能力，自带路由与中间件能力。

• 数据库：内置 SQLite 轻量数据库，无需额外安装 MySQL、PostgreSQL，开箱即用。

• 运行环境：Node.js 跨平台运行，支持 Windows、Linux、macOS 全操作系统。

• 网络层：内置反向代理、协议解析、格式转换器，自动适配各厂商请求与响应结构。

• 调度核心：自研路由调度引擎，实现故障检测、权重分配、自动回落、负载均衡逻辑。

2. 核心端口与访问地址

9Router 默认本地监听端口：

http://localhost:20128

接口统一接入端点：

http://localhost:20128/v1

Web 管理面板直接访问默认地址即可进入配置、看日志、管理模型与账号。

3. 协议转换原理

工具端发起标准 OpenAI 格式请求 → 9Router 接收解析 → 自动转换为目标厂商（Claude/Gemini/DeepSeek 等）私有协议 → 转发请求 → 接收厂商响应 → 再转回 OpenAI 标准格式返回给客户端，全程透明无感知。

4. 数据存储与隐私机制

所有 API 密钥、模型配置、调度规则、用量日志全部存储在本地 SQLite 数据库中，无云端强制上报、无第三方数据采集，私有化部署完全掌控自身数据，适合个人开发者、工作室私密代码场景使用。

5. Token 压缩技术原理

RTK 算法通过语法解析、冗余字符剔除、重复上下文合并、日志格式化精简等方式，在保留代码逻辑、报错信息、文件结构核心信息不变的前提下，压缩文本体积；Caveman 模式则针对用户自然语言提示词做语义凝练，删减客套与冗余描述，直击核心需求。

四、应用场景

1. AI 编程开发场景
   Cursor、Claude Code 等工具接入 9Router，自动压缩代码上下文与 Git 日志，节省 Token、降低订阅成本，账号额度用完自动切换免费模型，编码不中断。

2. 个人低成本大模型调用
   聚合多家免费 AI 服务商（Kiro AI、OpenCode Free、Vertex AI 新用户赠金），依靠路由整合能力，实现零成本日常使用 Claude 4.5、Gemini 等高阶模型。

3. 多账号企业/工作室调度
   团队多 API 账号统一管理，负载均衡轮询分发请求，避免单账号限流封禁，统一监控全员用量，合理控制 AI 调用成本。

4. 老旧工具接口适配
   部分仅支持 OpenAI 接口的旧版客户端、本地 AI 工具，通过 9Router 协议转换，即可无缝接入 Claude、Kimi、GLM 等不兼容原生接口的大模型。

5. 边缘私有化部署场景
   借助 Cloudflare Workers 部署 9Router 边缘节点，实现公网统一接口访问，异地设备共享路由配置，低延迟调用全球 AI 服务商。

五、使用方法

1. 前置环境要求

设备安装 Node.js 环境，推荐 LTS 稳定版本，支持 Windows、macOS、Linux。

2. 全局安装命令

打开终端执行以下命令完成一键安装：

npm install -g 9router

3. 启动服务

安装完成后直接运行命令启动：

9router

启动成功后默认常驻后台，访问 http://localhost:20128 进入管理面板。

4. 面板基础配置

1. 进入管理面板，添加各类 AI 服务商 API 密钥；

2. 设置模型优先级、回落规则、负载均衡模式；

3. 开启 RTK 压缩、Caveman 提示词精简功能；

4. 查看接口地址与面板生成的专属 API Key。

5. 第三方工具对接配置

以 Cursor / Claude Code 为例：

• 接口端点填写：http://localhost:20128/v1

• API Key 填写 9Router 面板内生成的密钥

• 模型名称选择面板内适配的路由模型标识（如 kr/claude-sonnet-4.5）
  保存配置后即可正常使用，自动享受路由调度与 Token 优化能力。

6. Docker 部署方式

适合服务器长期部署，拉取镜像并启动容器，映射端口与数据目录，持久化配置数据，后台稳定运行不宕机。

六、竞品对比

选取同类型 AI 路由网关工具 OneAPI、NewAPI 与 9Router 做核心维度对比：

从对比可看出，9Router 主打编程场景适配、原生 Token 节省、极简部署、智能三级回落，更适合个人开发者、程序员日常使用；OneAPI 偏向企业通用聚合，配置较重；NewAPI 仅满足基础转发，缺少高级调度与优化能力。

七、常见问题解答

Q1：9Router 是否需要付费使用？

A1：9Router 本身是开源免费项目，遵循 MIT 协议，个人、商用均可免费部署和使用，工具自身不会收取任何服务费，仅需自行承担所接入 AI 服务商的官方调用费用。

Q2：部署后第三方工具无法连接 9Router 接口怎么办？

A2：首先检查本地 20128 端口是否被占用，确认 9router 服务正常启动；其次核对接口地址是否填写为 http://localhost:20128/v1，API Key 是否复制面板内正确密钥；关闭本地防火墙、代理软件后重新尝试连接即可。

Q3：RTK Token 压缩会不会影响 AI 回答准确性？

A3：不会。RTK 算法只剔除冗余空白、重复日志、无效修饰字符，完整保留代码结构、报错关键信息与业务核心上下文，经过大量编程场景实测，不影响 AI 理解与生成效果，同时有效减少 Token 消耗。

Q4：可以同时添加同一个服务商多个账号吗？

A4：支持。9Router 内置多账号负载均衡策略，可添加同厂商多个密钥，选择轮询、优先级、随机三种模式，自动分摊请求流量，避免单账号额度快速耗尽或被限流。

Q5：所有 AI 模型都能通过 9Router 接入吗？

A5：目前已兼容 40+主流 AI 服务商、100+公开大模型，包含 Claude、Gemini、DeepSeek、Kimi、GLM、MiniMax 等，后续项目持续更新适配更多新模型与新厂商。

Q6：数据和 API 密钥会不会被项目方收集？

A6：不会。9Router 采用本地 SQLite 数据库存储所有配置、密钥和日志，无后台云端上报逻辑，私有化部署后所有数据仅存于自己设备中，隐私和密钥安全可控。

八、相关链接

• 项目 GitHub 开源地址：https://github.com/decolua/9router

九、总结

9Router 是一款专为开发者和 AI 爱好者打造的开源 AI 路由网关与 Token 优化工具，依托 Next.js 跨平台架构，整合了多模型协议转换、智能路由调度、双重 Token 精简、三级故障回落、多账号负载均衡以及可视化用量监控等实用能力，部署简单、适配全面、隐私安全可控，深度适配主流 AI 编程工具，既能帮助用户大幅降低大模型调用 Token 成本、合理利用免费与廉价模型资源，又能解决多模型切换繁琐、接口不兼容、服务意外中断等实际使用痛点，个人开发者、编程从业者、小型工作室都可以快速上手部署，实现低成本、高稳定、不间断的 AI 大模型调用体验。