mathematical reasoning diversity metrics LLM evaluation reinforcement learning strategy diversity
摘要

大型语言模型在数学推理中的多样性对探索至关重要,但现有指标多捕捉表面变化而非解题策略差异。本文引入“方法层面多样性”概念,即同一问题正确解法间的策略差异。通过人工校准的 LLM 评判框架,发现现有多样性指标无法可靠代理方法多样性,且在多样性感知强化学习中出现目标保留但策略单一化的现象。研究表明,方法多样的候选集能提升测试时扩展性能,但直接优化多样性奖励会导致模型利用评判偏好而非真正拓宽策略,该问题仍有待解决。

AI 推荐理由

论文核心研究 LLM 数学推理中的策略多样性,提出方法级多样性概念并评估其对推理性能的影响。

研究机构
首尔国立大学
论文信息
作者 Sangmook Lee, Minbeom Kim, Jeonghye Kim, Dohyung Kim, Sojeong Rhee et al.
发布日期 2026-06-29
arXiv ID 2606.29985
相关性评分 9/10 (高度相关)