摘要
大型语言模型（LLM）编码的知识可作为复杂世界变量结构化推理的基础，但以概率连贯方式获取该知识极具挑战。本文提出“大型语言吉布斯”方案，利用 LLM 的条件分布作为转移算子进行结构化概率推理。不同于单次自回归生成，该方法基于其他变量迭代重采样单个变量。此方法避免了顺序依赖偏差，生成的平稳分布反映了所有局部条件间的妥协。实验表明，在噪声 LLM 条件下，该方法是世界先验下结构化概率推理的实用替代方案。
AI 推荐理由
提出结构化概率推理新范式，利用 LLM 条件分布解决复杂世界变量的连贯推理问题。
研究机构
University of Edinburgh, School of Informatics
CIFAR Fellow, Learning in Machines and Brains
论文信息