Arbor：一种用于关键对话流程可靠导航的框架

大型语言模型在高风险领域（如医疗分诊）中难以严格遵循结构化工作流。将整个决策结构编码到单一提示中的单体方法，随着提示长度增加容易出现指令遵循退化问题，包括中间迷失效应和上下文窗口溢出。为解决这一问题，本文提出Arbor框架，该框架将决策树导航分解为专门的节点级任务。决策树被标准化为边列表表示并动态检索。运行时，基于有向无环图（DAG）的编排机制迭代检索当前节点的出边，通过专用LLM调用评估有效转换，并将响应生成委托给单独的推理步骤。该框架与底层决策逻辑和模型提供商无关。在10个基础模型上使用真实临床分诊对话的标注轮次对单提示基线进行评估。Arbor将平均轮次准确率提高了29.4个百分点，减少了57.1%的每轮延迟，并实现了平均14.4倍的每轮成本降低。这些结果表明，架构分解减少了对模型内在能力的依赖，使较小模型能够匹配或超越在单提示基线下运行的较大模型。