摘要
大语言模型日益由其他模型评估,本文探讨模型能否预测外部法官对其输出的评分。研究发现,基础模型在未经针对性训练时,经少样本提示即可显著预测多属性质量评分。作者提出自我评估激发(SEE)方法,通过包含校准耦合强化学习与掩码蒸馏的短周期,利用仅 160 个样本(比基线少 31 倍)提升了校准能力并保持回答质量。结果表明,这种自我评估能力是模型固有的,只需激发而非从头获取,体现了可迁移的质量认知。
AI 推荐理由
论文提出自我评估激发方法,通过校准和强化学习实现模型自我改进与反思,属自我进化核心研究。
研究机构
National University of Singapore
Beijing University of Technology
论文信息