推断潜在意图：LLM代理中的归因自然语言推理

归因推理，即预测观察到行为背后潜在意图的能力，是大型语言模型（LLMs）在多智能体环境中运行时的关键但未被充分研究的能力。传统的自然语言推理（NLI）无法捕捉复杂交互系统中所需的细致、以意图驱动的推理。为了解决这一问题，我们引入了归因自然语言推理（Att-NLI），该框架结合社会心理学原理，评估代理进行溯因性意图推理（生成关于潜在意图的假设）和后续演绎验证（得出有效的逻辑结论）的能力。我们通过文本游戏Undercover-V实现Att-NLI，并实验了三种具有不同推理能力和外部工具访问权限的LLM代理：仅使用演绎推理的标准NLI代理、采用溯因-演绎推理的Att-NLI代理，以及使用外部定理证明器进行溯因-演绎推理的神经符号Att-NLI代理。大量实验表明，归因推理能力存在明显的层次结构，神经符号代理始终表现最佳，平均胜率为17.08%。我们的结果强调了Att-NLI在开发具有复杂推理能力的代理中的作用，同时突显了神经符号AI在构建多智能体环境中理性LLM代理方面的潜力。