提示词工程 vs. RAG vs. 微调，该怎么选？

Prompting vs. RAG vs. Finetuning?

如果你在开发面向真实场景的 LLM 应用，几乎不可能不做任何调整就直接拿模型来用。为了保持模型的实用性，你通常需要以下几种手段之一：

• 提示词工程（Prompt engineering）
• 微调（Fine-tuning）
• RAG
• 或者一种混合方案（RAG + 微调）

下面这张图能帮你判断哪种方式最适合你的场景：

这个决策主要由两个重要参数来主导：

• 你的任务需要多少外部知识。
• 你需要多大程度的适配调整。这里的「适配」，指的是改变模型的行为方式、用词习惯、写作风格等。

举例来说，LLM 在总结公司会议记录时可能会遇到困难，因为发言者在讨论中可能会使用一些公司内部特有的词汇。

所以，这里有一个简单的结论：

• 如果 LLM 的用词和写作风格不需要改变，只是想基于一个自定义知识库生成内容，那就用 RAG。
• 如果你想改变的是模型的结构（行为方式）而非知识，那就用微调。
• 如果你没有自定义知识库，也不想改变模型的行为，提示词工程就足够了。
• 最后，如果你的应用既需要自定义知识库，又需要改变模型的行为，那就用混合方案（RAG + 微调）。

就是这样！

一旦确定 RAG 是适合你的方案，下一步就是为你的使用场景挑选合适的 RAG 架构。