关键的Agentic AI概念的分层概述。 让我们逐层理解。 1) LLMs（基础层） 在核心层面，你有像GPT、DeepSeek等LLMs。 这里的核心思想： - 令牌化和推理参数：文本如何被分解为令牌并由模型处理。 - 提示工程：设计输入以获得更好的输出。 - LLM API：与模型交互的编程接口。 这是驱动其他一切的引擎。 2) AI代理（基于LLMs构建） 代理围绕LLMs构建，使其能够自主行动。 关键职责： - 工具使用和功能调用：将LLM连接到外部API/工具。 - 代理推理：推理方法，如ReAct（推理+行动）或Chain-of-Thought。 - 任务规划和分解：将大任务分解为小任务。 - 内存管理：跟踪历史、上下文和长期信息。 代理是使LLMs在现实工作流程中有用的大脑。 3) Agentic系统（多代理系统） 当你结合多个代理时，你会得到Agentic系统。 特征： - 代理间通信：代理之间相互交流，必要时使用像ACP、A2A这样的协议。 - 路由和调度：决定哪个代理处理什么，以及何时处理。 - 状态协调：确保多个代理协作时的一致性。 - 多代理RAG：在代理之间使用检索增强生成。 - 代理角色和专业化：具有独特目的的代理。 - 编排框架：构建工作流程的工具（如CrewAI等）。 这一层是关于代理之间的协作和协调。 4) Agentic基础设施 顶层确保这些系统是稳健、可扩展和安全的。 这包括： - 可观察性和日志记录：跟踪性能和输出（使用像DeepEval这样的框架）。 - 错误处理和重试：对故障的弹性。 - 安全性和访问控制：确保代理不越界。 - 速率限制和成本管理：控制资源使用。 - 工作流自动化：将代理集成到更广泛的管道中。 - 人工干预控制：允许人类监督和干预。 这一层确保企业/生产环境的信任、安全和可扩展性。 整体而言，Agentic AI涉及一个分层架构，每一层外层都为内层增加了可靠性、协调性和治理。