一个统一的AI模型中心,用于聚合与分发。它支持将各类大语言模型跨格式转换为OpenAI兼容、Claude兼容或Gemini兼容的格式。作为个人与企业模型管理的集中式网关。🍥
一个统一的下一代AI模型网关与资产管理平台,由Go语言构建。核心价值在于将各种大语言模型(如DeepSeek、Claude、Gemini等)的接口统一转换为OpenAI、Claude或Gemini兼容格式,实现跨模型的标准化调用。作为集中式管理网关,支持组织级身份认证、多模型管理、用量分析、成本核算与私有化部署。通过Docker Compose或命令即可快速部署,部署后访问本地端口即可使用。适用于企业或个人需要统一管理多个AI模型、简化API调用流程、进行权限控制与费用统计的场景。注意,使用前需合法获取上游API密钥并遵守相关服务条款与法规。
💡 应用场景
New API最适合需要统一管理、调度和计费多个AI模型(OpenAI、Claude、Gemini等)的企业或个人,尤其适用于多部门协作、成本核算和私有化部署场景
统一API网关
问题:团队同时使用OpenAI、Claude、DeepSeek等多个大模型API,接口格式不统一,维护成本高
方案:通过New API将所有模型转换为OpenAI兼容格式,只需对接一个网关即可调用所有模型
示例:前端应用只需配置一个OpenAI SDK,后端通过New API路由到不同的模型提供商,无需修改应用代码
多模型成本核算
问题:企业需要统计各部门或项目使用不同AI模型的用量和费用,但缺乏统一的计费系统
方案:利用内置的组织级按请求、按用量和缓存命中计费功能,精确核算每个部门或用户的AI使用成本
示例:为不同项目分配独立Token,在后台查看每个项目的API调用次数、Token消耗和对应费用,支持Stripe或Epay充值
权限与安全管控
问题:公司内部多人使用AI API,需要控制不同角色的访问权限和模型使用范围,防止滥用
方案:通过Token分组、模型限制和用户管理功能,精细控制每个用户或团队可调用的模型和配额
示例:开发团队只能调用GPT-4和Claude,测试团队只能使用DeepSeek,每个Token设置每日调用上限
私有化模型部署
问题:企业需要在内网部署AI网关,统一管理自建模型和第三方API,同时满足合规和数据安全要求
方案:通过Docker Compose一键私有化部署,支持自建模型和第三方API的聚合,所有数据留在本地
示例:在内部服务器部署New API,将公司自训练的LLM和购买的OpenAI API统一接入,员工通过内网访问,无需暴露公网
📊 项目信息
- 语言
- Go
- Stars
- ⭐ 36,835
- Forks
- 8,372
- 今日新增
- +173
- 排名
- #16
- 收录
- 语言榜
- 趋势日期
- 2026年6月3日
- 最后推送
- 2026/6/3



