PASTA：一种用于大语言模型知识更新的复述与自训练方法

预训练大语言模型的知识更新仍具挑战，持续训练存在技术难点且模型常难以准确回答特定事实问题。本文提出 PASTA 框架，旨在将新闻文章等详细事实信息作为新知识整合进 LLM，构建能准确回答相关问题的专用模型。该框架结合数据增强、问答生成及 novel 自学习 DPO 过程，同步实现知识覆盖与幻觉抑制。实验表明，在截止日后的网页文章评估中，准确率从 0.02 显著提升至 0.82，同时保持通用语言能力，证明了其在创建领域专用模型方面的有效性。