LLM（Large Language Model，大语言模型）是在海量数据集上训练的先进 AI 模型，能够理解并生成接近人类水平的文本。它们可以执行多种自然语言处理任务，例如文本生成、翻译、摘要和问答。LLM 本质上是一种精密的预测引擎：按顺序处理文本，根据前序 token 之间的关系以及训练数据中的模式来预测下一个 token。它并非直接预测单个 token，而是生成所有可能下一个 token 的概率分布，再通过 temperature 和 top-K 等参数进行采样。模型不断将预测出的 token 追加到序列中，迭代式地构建响应。这种逐 token 预测的过程，结合大规模的训练数据集，使 LLM 能够在各类应用和领域中生成连贯且贴合上下文的文本。