用于语言模型推理的同伴预测自训练

针对语言模型在无外部监督下持续自我改进的挑战，本文提出同伴预测自训练（PST）框架。该方法利用多模型协作生成的聚合响应作为内部训练信号，通过点互信息衡量中间响应的信息量以动态调整更新幅度。在数学推理基准测试中，PST 显著提升了多种小模型的准确率并缩小了生成器 - 验证器差距，证明了跨模型交互与同伴反馈是实现有效自监督训练及模型自我进化的可行路径。