什么是 New-API?
New-API 是一款基于 Go 语言开发的高性能 AI 接口管理与分发系统。它在 One API 的基础上进行了深度优化与功能增强,旨在为开发者、企业或 AI 服务提供商提供一个统一的“API 网关”。
简单来说,New-API 能够将来自不同供应商(如 OpenAI, Claude, Gemini, 百度文心, 阿里通义千问, DeepSeek 等)的多种 AI 模型接口,统一封装成标准的 OpenAI API 格式。这意味着你只需要在你的应用程序中对接一次 OpenAI 接口,就可以通过 New-API 自由切换底层的所有主流大模型。
核心解决的痛点
- 接口碎片化:每个模型厂商的 API 格式不同,集成成本极高。
- 额度管理难:无法统一监控多个 Key 的消耗情况,难以对不同用户进行配额限制。
- 稳定性不足:单一供应商宕机导致服务中断,缺乏自动故障转移(Failover)机制。
- 成本不可控:难以实现一个统一的计费体系来管理多种不同定价的模型。
核心功能特性
1. 多模型统一适配
New-API 支持几乎所有主流的 LLM 接口。它将非标准接口实时转换为 /v1/chat/completions 格式,让你的前端应用(如 NextChat, LobeChat)无需修改代码即可使用各种模型。
2. 强大的渠道管理
- 多渠道负载均衡:你可以为同一个模型添加多个 Key,系统会自动在这些 Key 之间分配请求,防止单个 Key 触发频率限制(Rate Limit)。
- 优先级调度:设置渠道优先级,优先使用低成本或高性能的渠道。
- 自动健康检查:系统会自动检测渠道是否可用,失效的 Key 会被自动标记,确保服务高可用。
3. 精细化的用户与额度控制
- 额度充值系统:支持为用户设置总额度,并可自定义额度与真实货币的兑换率。
- 分组隔离:通过“分组”功能,可以将特定用户绑定到特定的模型渠道(例如:VIP用户使用 GPT-4,普通用户使用 GPT-3.5)。
- 实时账单:详细记录每一次请求的 Token 消耗,透明化成本管理。
4. 高性能架构
得益于 Go 语言的并发特性,New-API 能够处理极高频的 API 请求,延迟极低,非常适合作为大规模 AI 应用的后端网关。
快速部署实例
New-API 推荐使用 Docker 部署,这是最简单且最稳定的方式。
1. 使用 Docker Compose 部署(推荐)
创建 docker-compose.yml 文件:
version: '3'
services:
new-api:
image: quantumnous/new-api:latest
container_name: new-api
restart: always
ports:
- "3000:3000"
volumes:
- ./data:/data
environment:
- TZ=Asia/Shanghai
启动命令:
docker-compose up -d
2. 初始配置步骤
- 访问
http://your-ip:3000。 - 使用默认管理员账号登录(首次登录通常需要创建管理员账号)。
- 配置渠道 \(\rightarrow\) 点击“添加新渠道” \(\rightarrow\) 选择模型(如
gpt-3.5-turbo) \(\rightarrow\) 输入你的 API Key \(\rightarrow\) 保存。 - 创建令牌 \(\rightarrow\) 点击“令牌” \(\rightarrow\) “添加新令牌” \(\rightarrow\) 设置额度 \(\rightarrow\) 生成你的专属 API Key。
实际应用场景示例
场景一:构建一个“全能 AI 助手”网站
如果你想做一个类似 Poe 的网站,支持用户在 GPT-4、Claude 3 和 Gemini 之间切换:
* 后端架构:前端 \(\rightarrow\) New-API \(\rightarrow\) 各大模型供应商。
* 实现方式:在 New-API 中配置三个渠道。在前端调用时,只需更改 model 参数(如 gpt-4 或 claude-3),New-API 会自动将请求路由到对应的供应商。
场景二:企业内部 AI 资源统一分配
公司购买了多个大模型账号,但不想把 Key 直接发给每个员工(防止 Key 泄露或滥用): * 实现方式: 1. 管理员在 New-API 中配置所有 Key。 2. 为每个员工创建独立账号,分配 10 美元的额度。 3. 员工使用 New-API 提供的统一 Key 接入自己的 IDE 插件(如 Cursor 或 Copilot)。 4. 管理员在后台实时监控谁在消耗最多的 Token。
场景三:实现 API 故障自动切换
为了防止 OpenAI 偶尔的 API 宕机影响业务: * 实现方式: 1. 配置两个渠道:一个是 OpenAI 官方渠道,一个是 Azure OpenAI 渠道。 2. 将两者设置为同一模型组。 3. 当官方渠道返回 500 错误时,New-API 会自动尝试使用 Azure 渠道,用户端几乎无感知。
New-API vs One API:有什么区别?
虽然 New-API 继承了 One API 的核心逻辑,但它在以下方面进行了优化: * 性能调优:针对高并发场景优化了数据库查询与缓存机制。 * UI/UX 改进:界面更加现代化,操作逻辑更符合用户习惯。 * 更新频率:对新模型(如 DeepSeek, Llama 3 等)的适配速度更快。 * Bug 修复:修复了原版中部分关于额度计算和渠道状态同步的已知问题。
总结
New-API 不仅仅是一个简单的代理工具,它是一个完整的 AI 资产管理平台。无论你是想快速搭建一个 AI 转发站,还是需要为企业构建一个可控的 AI 接入层,New-API 都是目前社区中最成熟、最高效的选择之一。
项目地址: https://github.com/QuantumNous/new-api



还没有评论,来说两句吧...