外观
AI Engineering Guidebook
System Design Patterns for LLMs, RAG and Agents
作者:Akshay Pachaar、Avi Chawla(DailyDoseofDS.com)
2025 版,中文翻译整理。专有名词首次出现括注英文原文,插图为手绘风格示意图(保留英文原图)。全书 11 章 89 节,覆盖大语言模型原理、提示词工程、微调、RAG、上下文工程、AI 智能体、MCP、优化、评测、部署与可观测性。
目录
LLMs
- 什么是大语言模型(LLM)?
- 为什么需要 LLM
- 是什么让 LLM 变得「大」?
- LLM 是如何搭建出来的?
- 如何从零训练一个 LLM?
- LLM 究竟是如何工作的?
- LLM 生成参数的 7 个关键旋钮
- 4 种 LLM 文本生成策略
- 用一个 LLM 训练另一个 LLM 的 3 种技术
- 本地运行 LLM 的 4 种方式
- Transformer 与混合专家(MoE)在 LLM 中的对比
Prompt Engineering
Fine-tuning
- 什么是微调(Fine-tuning)?
- 传统微调方式存在的问题
- 5 种 LLM 微调技术
- 从零实现 LoRA
- LoRA 是如何工作的?
- 代码实现
- 生成你自己的 LLM 微调数据集(IFT)
- SFT 与 RFT 对比
- 动手实践:用 GRPO 构建一个推理 LLM
- 强化学习中的瓶颈
- 解决方案:OpenEnv 框架
- 智能体强化训练器(Agent Reinforcement Trainer,ART)
RAG
- 什么是 RAG?
- 什么是向量数据库?
- 向量数据库在 RAG 中的作用
- RAG 系统的工作流程
- RAG 的 5 种分块策略
- 提示词工程 vs. RAG vs. 微调,该怎么选?
- 8 种 RAG 架构
- RAG 与智能体 RAG(Agentic RAG)的对比
- 传统 RAG 与 HyDE 的对比
- 全量微调 vs. LoRA vs. RAG
- RAG 与 REFRAG 的对比
- RAG 与 CAG 的对比
- RAG、智能体 RAG 与 AI 记忆
Context Engineering
AI Agents
- 什么是 AI 智能体(Agent)?
- 智能体(Agent)、LLM 与 RAG 的区别
- AI 智能体(Agent)的构建要素
- AI 智能体(Agent)的记忆类型
- 记忆对智能体系统的重要性
- 5 种智能体设计模式
- 从零实现 ReAct
- 智能体 AI 系统的 5 个层级
- 30 个必须了解的智能体 AI 术语
- 智能体 AI 的 4 个层次
- 多智能体系统中的 7 种模式
- Agent2Agent(A2A)协议
- 智能体-用户交互协议(AG-UI)
- 智能体协议全景
- 用 Opik 做智能体优化
- AI 智能体(Agent)部署策略
MCP
- 什么是 MCP?
- 为什么会有 MCP?
- MCP 架构概览
- Tools、Resources 和 Prompts
- API 与 MCP 的区别
- MCP 与函数调用(Function Calling)的区别
- 6 个核心 MCP Primitive
- 创建 MCP Agent
- 常见陷阱:Tool 过载
- 解决方案:Server Manager
- 创建 MCP Client
- MCP Server