摘要
随着人工智能体能力增强,其在不确定性下胜任行动所需的内部结构是什么?经典结果仅表明最优控制可用信念状态实现,未证明其必要性。本文证明了定量“选择定理”:若在结构化预测任务中平均遗憾值较低,则迫使智能体实现预测性结构化内部状态。结果涵盖随机策略、部分可观测性及任务分布评估,无需假设最优性或确定性。技术上,通过将预测建模简化为二元“博弈”决策,表明遗憾界限限制了次优博弈的概率质量,从而强制形成区分高边际结果所需的预测性区分。在完全观测环境下可近似恢复干预转移核;在部分观测环境下则揭示了类信念记忆和预测状态的必要性。
AI 推荐理由
论文证明了在不确定性下,智能体必须具备类信念的记忆结构才能有效决策,核心探讨记忆必要性。
研究机构
机器学习系和神经科学与机器人研究所,卡内基梅隆大学,宾夕法尼亚州,美国
论文信息