摘要
从文献中准确提取科学测量值是 AI4Science 的关键挑战,但大语言模型常出现严重幻觉,削弱了系统可靠性。为此,本文提出 MeasHalu 框架,通过增强推理和针对性优化来缓解此类幻觉。研究首先建立了细粒度的测量幻觉分类体系,涵盖数量、单位、修饰语及关系错误。该方法采用两阶段推理感知微调策略,结合增强科学数据与过程监督,并引入渐进式奖励课程以惩罚特定幻觉类型。实验表明,MeasHalu 显著降低了幻觉率并提升了提取准确性,为自动化科学知识提取提供了可信解决方案。
AI 推荐理由
论文核心提出通过增强推理机制来缓解幻觉,推理是解决该问题的关键方法。
研究机构
深圳先进技术研究院高性能数据挖掘重点实验室
论文信息