Transformer架构 计算理论 记忆机制 图灵完备性
摘要

本研究探讨固定有限精度因果Transformer的转录本管理机制。转录本被划分为有界块通道,每次转换仅咨询固定的可见后缀并可能追加一个块,模型权重与令牌协议保持不变。引入$P_c:=\PopContext(c)$操作以删除通道c上的最新块并暴露其前驱。我们构建了转录本管理转换器$\TMTn{k}$,包含一个有限控制器和$k$个通道。在无弹出的受限情况下,该层实现确定性的有限状态转换;而允许弹出操作后,单通道对应下推上下文无关语言(DCFL),两通道及以上则具备图灵完备性(RE)。这证明了通过简单的栈式记忆机制即可实现计算通用性。

AI 推荐理由

论文核心研究Transformer的转录本管理机制,特别是通过Push/Pop操作实现栈式记忆结构,直接对应记忆架构与容量扩展。

研究机构
AI Foundry
论文信息
作者 Sergey Salishev
发布日期 2026-07-31
arXiv ID 2607.29496
相关性评分 9/10 (高度相关)