摘要
许多研究声称 Transformer 具备图灵完备性,但常混淆固定系统与模型族两种设定。现有证明多基于后者,而真实部署对应前者。本文形式化了固定系统设定,指出基于模型族的结论无法确立真实 LLM 的图灵完备性。研究表明,不同的上下文管理方法会导致截然不同的计算能力,因此上下文管理是决定真实自回归 Transformer 计算能力的核心组件。
AI 推荐理由
论文核心论证上下文管理(即记忆机制)是决定真实世界 Transformer 计算能力的关键。
研究机构
Gaoling School of Artificial Intelligence, Renmin University of China, Beijing, China
论文信息