摘要
长生命周期 AI 智能体在部署后通过积累经验、获取技能及修订工作流不断演化,但这引发了独特的授权问题。现有策略仅约束动作,未界定授权在演化中的存续条件。本文提出“授权连续性”框架,建立状态边界模型,设定不可变的效果上限和转换包络。研究证明,在完全中介与监控完整性下,智能体突变无法放大受保护效果超出用户设定的上限,并映射了六类突变对授权的具體影响。
AI 推荐理由
论文核心探讨智能体演化过程中的授权连续性问题,直接针对自我进化带来的安全挑战。
研究机构
悉尼科技大学
格里菲斯大学
论文信息