思维框架：基于链、树和图的动态和优化推理基础框架

诸如思维链（Chain of Thought）、思维树（Tree of Thoughts）和思维图（Graph of Thoughts）等提示方案可以显著增强大语言模型的推理能力。然而，大多数现有方案要求用户定义静态且问题特定的推理结构，缺乏对动态或未见过的问题类型的适应性。此外，这些方案在超参数、提示、运行时间和提示成本方面通常未得到充分优化。为了解决这些限制，我们引入了思维框架（FoT）——一种通用的基础框架，用于构建和优化动态推理方案。FoT内置超参数调优、提示优化、并行执行和智能缓存等功能，释放推理方案的潜在性能。我们通过在FoT中实现三种流行的方案——思维树、思维图和ProbTree，展示了FoT的能力。实证研究表明，FoT能够显著加快执行速度，降低成本，并通过优化获得更好的任务得分。我们发布了代码库，以促进未来动态高效推理方案的发展。