什么是大语言模型（LLM）？

What is an LLM?

想象有人说了半句话：

「很久很久以前……」你会自然而然地想到「有一个」。或者他们说：「法国的首都是……」你立刻会想到「巴黎」。

这种「预测接下来会出现什么」的简单行为，正是大语言模型（LLM）运作的基础。模型通过阅读海量文本来学会这种预测：书籍、文章、科学论文、代码、对话和各类指令。

在见过足够多的文本之后，模型会变得非常擅长以连贯、有意义的方式续写任何一段文字。从技术层面看，LLM 以「token」这种小单位来处理文本。一个 token 可能是一个词、词的一部分，甚至是一个标点符号。

模型会查看目前为止出现过的所有 token，并预测下一个。不断重复这个过程，就能生成完整的答案、解释或代码。无论是总结一篇文档、编写一个函数，还是解释一个概念——LLM 所做的一切，本质上都源于「根据已学到的规律，选出最合适的下一个 token」这一件事。

严格来说，大语言模型是一种基于 Transformer 架构的神经网络，通过在海量文本语料上训练来预测序列中的下一个 token；在这一过程中，它逐渐获得了理解、生成人类语言、并进行推理的能力。