温度参数
Temperature控制 LLM 输出随机性的超参数,值越高输出越随机多样,值越低输出越确定集中,通常在 0-2 之间调节。
# 超参数
# 生成控制
Temperature(温度参数)
机制: 在 Softmax 之前用温度 T 除以 logits,改变概率分布的平滑程度。
参数选择指南:
| 场景 | 推荐值 | 效果 |
|---|---|---|
| 代码生成、事实问答 | 0 - 0.3 | 确定性强,减少幻觉 |
| 通用对话 | 0.7 | 平衡 |
| 创意写作、头脑风暴 | 1.0-1.5 | 多样性高 |
与 Top-p 配合: Temperature 调整分布尖锐度,Top-p(nucleus sampling)截断低概率候选。
提示: 生产环境的事实查询通常设 temperature=0。