语言模型的认知训练：通过交叉熵博弈迈向通用能力

定义一种自动构建语言模型通用能力的建设性过程是人工智能领域的开放性问题。为此，本文研究了如何通过构建任务课程来促进模型的相关技能发现与成长。我们提出了一个具体框架，利用被称为“交叉熵博弈”的任务族，并论证其在适当意义下的普适性。研究表明，若可通过迭代贪婪优化算法扩展课程以发现相关技能，则在自然假设下，本质上仅存在一种元目标。我们将此过程称为“认知训练”，认为其为通过贪婪课程学习实现通用能力提供了原则性解决方案。