智能体 AI 的 4 个层次

4 Layers of Agentic AI

下图展示了智能体 AI（Agentic AI）概念的分层视图，描绘了这个生态系统是如何从底层（LLM）一路搭建到更高层的编排（智能体基础设施）的。

我们逐层来拆解一下：

1）LLM（基础层）

最核心的部分是 LLM，比如 GPT、DeepSeek 等。

这里的核心概念包括：

• 分词与推理参数：文本如何被切分成 token，又是如何被模型处理的。
• 提示词工程：设计输入以获得更好的输出。
• LLM API：与模型交互的程序化接口。

这是驱动一切的引擎。

2）AI 智能体（构建于 LLM 之上）

智能体在 LLM 外面包了一层，赋予它自主行动的能力。

关键职责包括：

• 工具使用与函数调用：把 LLM 接入外部 API/工具。
• 智能体推理：ReAct（推理 + 行动）或思维链等推理方法。
• 任务规划与拆解：把一个大任务拆分成若干小任务。
• 记忆管理：追踪历史记录、上下文和长期信息。

智能体就是让 LLM 在真实工作流中变得有用的「大脑」。

3）智能体系统（多智能体系统）

当你把多个智能体组合起来，就得到了智能体系统。

其特点包括：

• 智能体间通信：智能体之间互相对话，必要时会用到 ACP、A2A 这类协议。

• 路由与调度：决定由哪个智能体来处理什么任务，以及何时处理。

• 状态协调：确保多个智能体协作时的一致性。

• 多智能体 RAG：跨多个智能体使用检索增强生成。

• 智能体角色与分工：每个智能体各有其独特定位

• 编排框架：用于搭建工作流的工具（如 CrewAI 等）。

这一层关注的是智能体之间的协作与协调。

4）智能体基础设施

最上层负责确保这些系统足够稳健、可扩展、安全。

这包括：

• 可观测性与日志记录：追踪性能表现和输出结果（使用 DeepEval 这类框架）。
• 错误处理与重试：面对故障时的韧性。
• 安全与访问控制：确保智能体不会越权行事。
• 速率限制与成本管理：控制资源使用。
• 工作流自动化：把智能体整合进更大的流水线中。
• 人机协同控制：允许人类进行监督和介入。

这一层为企业级/生产环境提供了信任、安全性和可扩展性上的保障。

总的来说，智能体 AI 整体上是一种层层堆叠的架构，每一个外层都在为其内层增加可靠性、协调性和治理能力。