Transformer 见，Transformer 行：复制作为学习类比推理的中间步骤

类比推理是人类智能的标志，但构建具备此类能力的 AI 系统极具挑战。本文利用组合性元学习（MLC）训练 Transformer 解决字母串类比任务。研究发现，通过在训练数据中引入复制任务引导模型关注关键信息元素，可使该类比任务变得可学。此外，使用更多样化的数据集训练能显著提升对新字母表的泛化能力，其三层编码器 - 解码器模型优于多数前沿模型。研究还通过可解释性分析揭示了模型内部的近似算法机制，并探讨了其对大模型泛化及人类类比推理的启示。