self-evaluation reinforcement learning model calibration self-improvement
摘要

大语言模型日益由其他模型评估,本文探讨模型能否预测外部法官对其输出的评分。研究发现,基础模型在未经针对性训练时,经少样本提示即可显著预测多属性质量评分。作者提出自我评估激发(SEE)方法,通过包含校准耦合强化学习与掩码蒸馏的短周期,利用仅 160 个样本(比基线少 31 倍)提升了校准能力并保持回答质量。结果表明,这种自我评估能力是模型固有的,只需激发而非从头获取,体现了可迁移的质量认知。

AI 推荐理由

论文提出自我评估激发方法,通过校准和强化学习实现模型自我改进与反思,属自我进化核心研究。

研究机构
National University of Singapore Beijing University of Technology
论文信息
作者 XiuYu Zhang, Yi Shan, Junfeng Fang, Zhenkai Liang
发布日期 2026-06-03
arXiv ID 2606.05122
相关性评分 8/10 (高度相关)