QuantumNous

QuantumNous / new-api

#16
36,8358,372+173 todayGo

一个统一的AI模型中心,用于聚合与分发。它支持将各类大语言模型跨格式转换为OpenAI兼容、Claude兼容或Gemini兼容的格式。作为个人与企业模型管理的集中式网关。🍥

一个统一的下一代AI模型网关与资产管理平台,由Go语言构建。核心价值在于将各种大语言模型(如DeepSeek、Claude、Gemini等)的接口统一转换为OpenAI、Claude或Gemini兼容格式,实现跨模型的标准化调用。作为集中式管理网关,支持组织级身份认证、多模型管理、用量分析、成本核算与私有化部署。通过Docker Compose或命令即可快速部署,部署后访问本地端口即可使用。适用于企业或个人需要统一管理多个AI模型、简化API调用流程、进行权限控制与费用统计的场景。注意,使用前需合法获取上游API密钥并遵守相关服务条款与法规。

💡 应用场景

New API最适合需要统一管理、调度和计费多个AI模型(OpenAI、Claude、Gemini等)的企业或个人,尤其适用于多部门协作、成本核算和私有化部署场景

统一API网关

问题:团队同时使用OpenAI、Claude、DeepSeek等多个大模型API,接口格式不统一,维护成本高

方案:通过New API将所有模型转换为OpenAI兼容格式,只需对接一个网关即可调用所有模型

示例:前端应用只需配置一个OpenAI SDK,后端通过New API路由到不同的模型提供商,无需修改应用代码

多模型成本核算

问题:企业需要统计各部门或项目使用不同AI模型的用量和费用,但缺乏统一的计费系统

方案:利用内置的组织级按请求、按用量和缓存命中计费功能,精确核算每个部门或用户的AI使用成本

示例:为不同项目分配独立Token,在后台查看每个项目的API调用次数、Token消耗和对应费用,支持Stripe或Epay充值

权限与安全管控

问题:公司内部多人使用AI API,需要控制不同角色的访问权限和模型使用范围,防止滥用

方案:通过Token分组、模型限制和用户管理功能,精细控制每个用户或团队可调用的模型和配额

示例:开发团队只能调用GPT-4和Claude,测试团队只能使用DeepSeek,每个Token设置每日调用上限

私有化模型部署

问题:企业需要在内网部署AI网关,统一管理自建模型和第三方API,同时满足合规和数据安全要求

方案:通过Docker Compose一键私有化部署,支持自建模型和第三方API的聚合,所有数据留在本地

示例:在内部服务器部署New API,将公司自训练的LLM和购买的OpenAI API统一接入,员工通过内网访问,无需暴露公网

📊 项目信息

语言
Go
Stars
36,835
Forks
8,372
今日新增
+173
排名
#16
收录
语言榜
趋势日期
2026年6月3日
最后推送
2026/6/3

🏷️ 标签

GoDockerAPI网关模型聚合企业级可扩展开发者企业用户

📸 截图

new-api screenshot 1new-api screenshot 2new-api screenshot 3new-api screenshot 4