摘要
prior 工作表明大语言模型可通过持续训练或在上下文中编码语法书来翻译未见或低资源语言,但往往过拟合特定语言,零样本迁移能力有限。为实现大规模极低资源语言翻译,本文主张 LLM 需习得利用上下文语言知识而非死记硬背的元技能。我们提出一种基于强化学习的方法,利用表面级翻译指标(chrF)作为奖励,使模型能从丰富语境中提取并应用相关语言信息。实验表明,该方法在完全未见语言上的翻译效果优于上下文学习和监督微调,证明基于结果的 RL 可扩展至语言学习领域。
AI 推荐理由
论文提出利用 RL 让 LLM 习得利用上下文语言知识的元技能,属于核心技能学习研究。
研究机构
University of Zurich
ETH Zurich
Queen's University Belfast
论文信息