QuantumNous / new-api

Problem: 团队同时使用OpenAI、Claude、DeepSeek等多个大模型API，接口格式不统一，维护成本高

Solution: 通过New API将所有模型转换为OpenAI兼容格式，只需对接一个网关即可调用所有模型

Example: 前端应用只需配置一个OpenAI SDK，后端通过New API路由到不同的模型提供商，无需修改应用代码

Problem: 企业需要统计各部门或项目使用不同AI模型的用量和费用，但缺乏统一的计费系统

Solution: 利用内置的组织级按请求、按用量和缓存命中计费功能，精确核算每个部门或用户的AI使用成本

Example: 为不同项目分配独立Token，在后台查看每个项目的API调用次数、Token消耗和对应费用，支持Stripe或Epay充值

Problem: 公司内部多人使用AI API，需要控制不同角色的访问权限和模型使用范围，防止滥用

Solution: 通过Token分组、模型限制和用户管理功能，精细控制每个用户或团队可调用的模型和配额

Example: 开发团队只能调用GPT-4和Claude，测试团队只能使用DeepSeek，每个Token设置每日调用上限

Problem: 企业需要在内网部署AI网关，统一管理自建模型和第三方API，同时满足合规和数据安全要求

Solution: 通过Docker Compose一键私有化部署，支持自建模型和第三方API的聚合，所有数据留在本地

Example: 在内部服务器部署New API，将公司自训练的LLM和购买的OpenAI API统一接入，员工通过内网访问，无需暴露公网