katanemo / plano

Problem: 开发者在应用中硬编码了特定LLM提供商（如OpenAI），当需要切换模型或提供商时，需要修改大量代码并重新部署。

Solution: 使用Plano的智能路由API，通过配置即可实现基于模型名称、别名或性能偏好的动态路由，无需修改应用代码。

Example: 当GPT-4响应慢时，自动降级到GPT-3.5；或根据成本策略，将非关键请求路由到更便宜的Claude模型。

Problem: 每个智能体应用都需要单独实现内容审核、越狱防护等安全逻辑，导致代码重复且策略不一致。

Solution: 通过Plano的Filter Chains统一添加安全策略，如内容审核、记忆管理，所有经过代理的请求都会自动应用这些防护。

Example: 为客服聊天机器人添加统一的敏感词过滤和用户历史记忆管理，避免每次对话都重新实现。

Problem: 智能体应用的调试和优化困难，因为日志、追踪和性能指标分散在各个框架和代码库中。

Solution: Plano自动捕获Agentic Signals™并提供OTEL追踪和指标，无需额外代码即可获得完整的请求链路视图。

Example: 查看一个用户查询从入口到最终响应的完整路径，包括每个智能体的处理时间和模型调用详情，用于性能优化。

Problem: 当应用需要多个不同框架（如LangChain、LlamaIndex）或语言编写的智能体协同工作时，编排逻辑复杂且耦合度高。

Solution: Plano提供低延迟的智能体间编排，可以轻松添加新智能体而无需修改现有应用代码，支持任意框架。

Example: 一个用Python+LangChain编写的文档分析智能体，与一个用Rust编写的代码生成智能体协同工作，通过Plano统一路由和编排。