什么是微调（Fine-tuning）？

What is Fine-tuning?

在 LLM 出现之前的时代，每当有人开源一个高实用性的模型供公众使用时，从业者大多会把这个模型微调（fine-tune）到自己的具体任务上。

微调（fine-tuning）是指在新数据集上调整一个预训练模型的权重，以获得更好的表现。下图很好地展示了这一过程：

模型在开发时是在某个特定数据集上训练的，而这个数据集的特征未必和从业者实际想要使用的数据完全吻合。

相比新的数据集，原始数据集在分布、模式或噪声水平上可能存在细微差异。

微调让模型能够适应这些差异——通过学习新数据、调整参数，在具体任务上取得更好的表现。

举个例子，以 BERT 为例。它是一种基于 Transformer 的语言模型，常被用来生成文本嵌入（text-to-embedding），原始论文的引用量超过 9.2 万次。

它是开源的。

BERT 是在一个庞大的文本语料上做预训练的，而这个语料可能和别人实际想用它处理的数据非常不一样。

因此，在把它用于任何下游任务时，我们可以连同新增的层一起调整 BERT 模型的权重，让它更好地契合新数据集的细微特征。