停止条件

Stopping criteria（停止条件）告诉语言模型何时停止继续生成文本。没有它们，模型可能无限添加词语、浪费时间，或超出我们关心的范围。常见规则包括最大 token 数、特殊 end-of-sequence token，或自定义字符串如 "\n\n"。我们也可在答案开始重复或达到表示离题的分数时停止。良好的停止规则可节省成本、加快回复，并避免无意义或不安全内容。