New API：开源大模型网关与AI资产管理系统
一、New API是什么
New API是一个基于One API进行二次开发的开源大模型网关与AI资产管理系统。它旨在为用户提供更丰富的功能和更优的用户体验，帮助个人开发者、企业团队以及AI服务提供商更高效地管理各类AI模型资源，实现API的统一接入、分发与监控。
作为One API的衍生项目，New API不仅兼容原版One API的数据库，还在其基础上进行了大量的功能拓展和界面优化。无论是对于需要整合多种AI模型的开发者，还是需要对AI资源使用进行精细化管理的企业，New API都提供了全面的解决方案。
二、功能特色
New API在继承One API核心功能的基础上，新增了众多实用特性，以下是其主要功能特色的详细介绍：
| 功能类别 | 具体功能 | 功能描述 |
|---|---|---|
| 界面与本地化 | 全新UI界面设计 | 采用现代化的界面设计，提升用户体验，操作更加直观便捷，界面布局合理，视觉效果更佳 |
| 多语言支持 | 支持多种语言显示，满足不同地区用户的使用需求，降低语言障碍 | |
| 支付与计费 | 在线充值功能 | 集成易支付系统，用户可以方便地进行在线充值，为API使用提供资金支持 |
| 模型按次数收费模式 | 支持按照调用次数对模型使用进行计费，计费方式灵活，符合多种使用场景 | |
| 密钥与权限管理 | 密钥查询使用额度 | 支持通过密钥查询使用额度，需配合neko-api-key-tool工具使用，方便用户掌握额度使用情况 |
| 令牌分组与模型限制 | 可以对令牌进行分组管理，并对不同分组的令牌设置可使用的模型限制，实现精细化权限控制 | |
| 针对用户的模型限流功能 | 能够对不同用户设置模型调用的限流规则，防止资源滥用，保障系统稳定运行 | |
| 模型与API支持 | 兼容原版One API数据库 | 可以直接使用原版One API的数据库，降低迁移成本，方便原有用户过渡使用 |
| 支持Rerank模型 | 支持Cohere和Jina等Rerank模型，扩展了可使用的AI模型类型，提升检索增强生成等场景的效果 | |
| 支持OpenAI Realtime API | 包括对Azure渠道的支持，可实现实时的AI交互，满足实时响应需求较高的场景 | |
| 支持Claude Messages格式 | 兼容Claude的Messages格式，方便用户在不同模型间切换使用，无需大幅修改代码 | |
| 请求格式转换功能 | 支持OpenAI与Claude格式互转，降低因模型格式差异带来的开发成本，提升开发效率 | |
| 路由与访问 | 内置聊天界面 |
通过路由/chat2link可以访问内置的聊天界面，方便用户直接进行AI对话测试和使用 |
| 多种授权登录方式 | 支持LinuxDO、Telegram、OIDC等多种授权登录方式，提升登录的灵活性和安全性 | |
| 系统管理与监控 | 渠道加权随机功能 | 可以为不同的API渠道设置权重，实现请求的加权随机分发，优化资源利用效率 |
| 数据看板（控制台） | 提供直观的数据看板，展示API调用量、成功率、耗时等关键指标，方便用户监控系统运行状态 | |
| 其他特色功能 | 模型名称后缀设置推理参数 | 支持通过在模型名称后添加后缀的方式设置推理参数，简化参数配置流程 |
| 思考转内容功能 | 具备将模型的思考过程转换为输出内容的功能，丰富了AI生成内容的形式和应用场景 |
三、应用场景
New API凭借其丰富的功能，能够应用于多种场景，满足不同用户的需求：
1. 个人开发者AI工具集成
对于个人开发者而言，在开发各类AI应用时，往往需要调用多种不同的AI模型。New API提供了统一的网关，开发者可以通过一个接口接入多个AI模型，无需分别对接各个模型的API，大大简化了开发流程。
例如，开发一个智能写作助手，可能需要用到文本生成模型、语法纠错模型等。通过New API，开发者可以将这些模型统一管理，实现调用的灵活切换，同时还能通过数据看板监控各模型的调用情况，掌握应用的运行状态。
此外，个人开发者通常预算有限，New API的按次计费模式可以帮助他们更好地控制成本，根据实际使用量付费，避免资源浪费。
2. 企业AI资源管理
企业在使用AI技术的过程中，往往面临着多团队共用AI资源、需要对资源使用进行精细化管理和成本控制的问题。New API的令牌分组与模型限制、针对用户的模型限流等功能可以很好地解决这些问题。
企业可以根据不同的部门或项目组创建不同的令牌分组，为每个分组分配特定的可使用模型和额度，实现资源的合理分配。同时，通过限流功能可以防止某个团队过度使用资源，影响其他团队的正常使用。
在线充值功能和详细的计费统计，也方便企业对AI资源的使用成本进行核算和管理，明确各部门的开支情况。
3. AI服务提供商的服务分发
对于AI服务提供商来说，需要向客户提供稳定、高效的AI服务分发。New API的渠道加权随机功能可以帮助他们实现请求的智能分发，将请求分配到不同的后端渠道，提高服务的可用性和响应速度。
同时，New API支持多种模型和请求格式转换，使得服务提供商可以灵活地整合不同来源的AI模型，为客户提供多样化的服务。通过内置的聊天界面，客户可以方便地测试和使用服务，提升客户体验。
服务提供商还可以通过New API的监控功能，实时掌握服务的运行状态，及时发现和解决问题，保障服务的稳定性。
4. 教育与研究领域
在教育和研究领域，师生们经常需要使用各种AI模型进行实验、研究和学习。New API的多语言支持可以满足不同国家和地区师生的使用需求。
通过New API，研究人员可以方便地对比不同AI模型的性能，进行相关的学术研究。教师可以为学生分配有限的模型使用额度，引导学生合理使用AI资源，同时通过数据看板了解学生的使用情况，进行针对性的指导。
四、使用方法
1. 环境准备
New API支持Docker容器化部署，因此在使用前需要确保环境中已安装Docker和Docker Compose。
Docker安装：根据操作系统的不同，参考Docker官方文档进行安装（https://docs.docker.com/get-docker/）。
Docker Compose安装：可以通过pip安装（
pip install docker-compose），或者参考官方文档进行安装（https://docs.docker.com/compose/install/）。
2. 部署步骤
（1）获取代码或镜像
可以通过两种方式获取New API：
从GitHub仓库克隆代码：
git clone https://github.com/Calcium-Ion/new-api.git直接拉取Docker镜像：可从ghcr.io或DockerHub获取，例如
docker pull ghcr.io/calcium-ion/new-api:latest
（2）配置文件设置
如果从GitHub仓库克隆代码，需要进行配置文件的设置。进入项目目录，复制示例配置文件并进行修改：
cd new-api cp config.example.yaml config.yaml
在config.yaml文件中，根据实际需求配置数据库连接、端口、日志等信息。如果使用Docker镜像，可以通过环境变量的方式进行配置。
（3）启动服务
基于代码部署：使用Docker Compose启动服务，运行
docker-compose up -d命令，Docker会自动构建镜像并启动容器。基于镜像部署：使用
docker run命令启动容器，例如：
docker run -d -p 3000:3000 -v ./config.yaml:/app/config.yaml --name new-api ghcr.io/calcium-ion/new-api:latest
启动成功后，New API服务将在指定的端口（默认为3000）上运行。
3. 初始设置
打开浏览器，访问http://localhost:3000（根据实际部署的地址和端口调整），进入New API的登录界面。
首次使用时，需要创建管理员账号。按照界面提示完成管理员账号的注册和设置，登录后进入系统控制台。
在控制台中，可以进行以下初始设置：
配置数据库：如果是首次使用，需要初始化数据库，系统会自动创建相关表结构。
添加API渠道：根据需要添加各类AI模型的API渠道，如OpenAI、Claude等，填写相应的API密钥、地址等信息。
设置计费规则：配置不同模型的计费方式和价格，如按次计费的单价等。
创建令牌：为不同的用户或应用创建令牌，设置令牌的权限、可用模型、额度限制等。
4. 基本操作
（1）API调用
开发者可以通过HTTP请求调用New API管理的AI模型。调用地址为http://部署地址:端口/v1/chat/completions（以聊天接口为例），请求头中需要包含创建的令牌（Authorization: Bearer 令牌值）。
请求体格式根据目标模型的要求进行设置，New API会自动进行格式转换（如果启用了该功能）。例如，调用OpenAI模型的请求体可能如下：
{
"model": "gpt-3.5-turbo",
"messages": [{"role": "user", "content": "Hello!"}]
}（2）查看数据统计
在控制台的数据分析看板中，可以查看API调用量、各模型使用情况、成功率、响应时间等统计数据，帮助用户了解系统的运行状态和资源使用情况。
（3）管理令牌
在令牌管理页面，可以查看所有已创建的令牌，对令牌进行编辑（修改权限、额度等）、禁用或删除操作。同时，也可以创建新的令牌，分配给不同的用户或应用使用。
（4）充值与账单管理
用户可以在充值页面通过集成的易支付系统进行在线充值。在账单管理页面，可以查看充值记录、消费明细等信息，了解资金的使用情况。
五、常见问题解答
1. New API与One API有什么关系？
New API是基于One API进行二次开发的项目，它继承了One API的核心功能，同时新增了许多特色功能和界面优化。并且，New API兼容原版One API的数据库，方便原有One API用户进行迁移。
2. 如何解决New API部署后无法访问的问题？
首先，检查Docker容器是否正常运行，可以通过docker ps命令查看容器状态。如果容器未运行，检查配置文件是否正确，端口是否被占用。
其次，确认服务器的防火墙设置，确保New API所使用的端口（默认为3000）已开放，允许外部访问。
另外，查看容器日志，通过docker logs 容器名命令获取日志信息，根据日志中的错误提示进行排查。
3. 支持哪些AI模型？
New API支持多种主流的AI模型，包括但不限于OpenAI的系列模型（如gpt-3.5-turbo、gpt-4等）、Claude模型、Cohere和Jina的Rerank模型等。同时，它还支持OpenAI Realtime API（包括Azure渠道），并可以通过配置新增其他兼容的AI模型。
4. 如何进行模型的计费设置？
在系统控制台的计费管理页面，可以对不同的模型设置计费规则。New API支持按次数收费模式，用户可以为每个模型设置每次调用的价格。设置完成后，系统会根据用户的实际调用次数自动计算费用。
5. 令牌的额度限制如何设置？
在创建或编辑令牌时，可以设置令牌的额度限制。额度可以是调用次数或金额，当令牌的使用达到限制时，将无法继续调用API。同时，还可以设置令牌的有效期，过期后令牌自动失效。
6. 如何实现请求格式的转换？
New API内置了请求格式转换功能，支持OpenAI与Claude格式互转。在添加API渠道时，可以启用格式转换功能，并设置源格式和目标格式。当有请求到达时，系统会自动将请求格式转换为目标模型所需的格式，无需开发者手动处理。
7. 系统的数据备份如何操作？
由于New API使用数据库存储数据，因此可以通过备份数据库的方式进行系统数据备份。可以使用数据库自带的备份工具（如MySQL的mysqldump）定期备份数据库文件，以防止数据丢失。同时，也可以将备份文件存储在安全的位置，以便在需要时进行数据恢复。
六、相关链接
七、总结
New API作为基于One API二次开发的新一代大模型网关与AI资产管理系统，凭借全新的UI设计、丰富的功能特性（如多语言支持、在线充值、令牌分组、多种模型支持等），为个人开发者、企业团队和AI服务提供商等不同用户群体提供了高效的AI资源管理与分发解决方案，适用于AI工具集成、企业资源管理、服务分发、教育研究等多种场景，且通过Docker部署方便，使用方法相对简单，尽管不提供官方技术支持，但有相关文档和社区可供参考，是一款极具实用价值的开源项目。
版权及免责申明：本文由@AI铺子原创发布。该文章观点仅代表作者本人，不代表本站立场。本站不承担任何相关法律责任。
如若转载，请注明出处：https://www.aipuzi.cn/ai-news/new-api.html
