NeurIPS 2026论文:多数场景下LLM推理单温度优于多温度
在大语言模型推理中,温度参数控制着可靠性与创造性之间的权衡。低温度让模型输出可预测,高温度则鼓励探索。显然,不同的问题需要不同的处理方式。有些问题需要严谨的逐步推理,而另一些则需要在不同概念之间进行创造性跳跃。
因此,当多次尝试解决同一个未知问题时(如 pass@K 方法),在不同尝试中调整温度似乎是自然而然的做法。然而在实践中,几乎所有人都使用单一温度。为什么?
在我们与 @orishemur 和 Yaron Oz 教授合作的新论文《一个温度就能搞定一切?》中,我们将在 NeurIPS 2026 上展示这项研究,探讨了这一差距,展示了如何使用多个温度,以及为什么大多数时候不应该这样做。
🔹 多样性的隐性成本:虽然最优的多温度方案可以提升性能,但将采样预算分散到次优温度上会产生指数级的惩罚,而坚持使用单一且经过良好调优的“折中”温度只会产生线性成本。
🔹 金发姑娘效应:在给定的采样预算 K 下,性能主要由难度与 K 规模相匹配的问题决定。更难或更简单的问题对理想温度的选择影响甚微。这意味着你不需要知道问题的确切难度就能选择合适的温度;你主要需要根据计算预算 K 来调整它。
🔹 实用的优化框架:在某些情况下,问题的多样性非常大,使用多个温度确实能带来显著的好处。对于这些情况,我们展示了如何将问题离散化,并将其简化为快速、易处理的凸优化任务。我们所有的研究结果不仅适用于温度,还可以推广到其他采样超参数。
论文:
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖