算术启发式神经元是否具有形式不变性？LLM 中符号、文本与代码的机制分析

大型语言模型常在问题的某种表述上成功，却在等价表述上失败。本文通过机制可解释性研究，探讨 LLM 中算术启发式神经元在符号算术、自然语言应用题及 Python 代码三种形式下是否具有形式不变性。研究发现，跨格式共享一组紧凑的神经元，该共享电路对后期算术计算既必要又充分。将成功执行中的共享神经元激活状态迁移至失败执行，可恢复超过 97% 的错误预测，表明跨格式失败源于激活状态而非电路差异，证实了 LLM 算术计算在神经元层面的形式不变性。