最快的LLM网关，性能超越LiteLLM达50倍，具备自适应负载均衡器、集群模式、防护机制，支持1000多种模型，在5k RPS下延迟低于100微秒
📊 项目信息
- 语言
- Go
- Stars
- ⭐ 5,286
- Forks
- 643
- 今日新增
- +42
- 排名
- #13
- 收录
- 语言榜
- 趋势日期
- 2026年5月27日
- 最后推送
- 2026/5/27
🏷️ 标签
ai-gatewaygatewaygateway-servicesgenerative-aiguardrailsllmllm-costllm-gatewayllm-observabilityllmopsload-balancingmcp-clientmcp-gatewaymcp-servermodel-routertoken-management
📸 截图
