摘要
自主智能体正从文本生成器演变为操作代码与物理设施的系统,并在部署中持续学习。本文提出“受控个体化”架构,通过密码学冻结身份摘要,并基于行为语义效应而非名称进行 gating 控制。理论证明,无论智能体如何自我进化或习得新技能,若无操作员签名,其权限无法扩张。实验表明,该方法在开放工具使用基准中将禁止行为降至零,同时保持任务成功率,将信任基础从概率性对齐转变为可验证的架构不变量。
AI 推荐理由
论文核心解决 Agent 在部署中自我学习和进化时的权限控制问题,确保进化不越界。
研究机构
哈尔滨工业大学软件学院
哈尔滨工业大学未来技术学院
论文信息