用于上下文 LLM 级联的在线潘多拉魔盒模型

受大语言模型级联启发，本文提出一种在线上下文潘多拉魔盒模型，用于自适应查询和选择 LLM API。决策者面临两阶段问题：先顺序查询 API 并承担成本，再基于生成结果选择部署以获取下游奖励。不同于传统模型，该结构通过输出中介反馈。作者直接对保留指数建模，结合广义矩估计与 UCB 风格置信界，证明了在正则条件下策略可实现依赖维度的累积遗憾上界。