采样参数(temperature、top-K、top-P)控制 LLM 如何从概率分布中选取 token,决定输出的随机性和创造性。这些参数相互作用:在极端设置下,某个参数会覆盖其他参数(temperature 为 0 时,top-K/top-P 不再起作用)。一个均衡的起点是 temperature 0.2、top-P 0.95、top-K 30,可在连贯性与创造性之间取得平衡。理解它们的相互作用对优化提示至关重要——事实性任务用 temperature 0,创意任务用更高值,并根据具体用例组合使用各项设置。