摘要
针对代理式 AI 部署中人类监管与自主性之间的张力,本文提出“数字学徒”框架。该框架将代理视为发展型学习者,仅在实证证据充分时逐级授予技能自主权。其三大支柱包括:方法论捕获,将人类隐性知识结构化;授权机制,由人类审批自主权升级;持续对齐,运行时纠正漂移并转化为偏好数据。实验表明,该系统能有效应对数据漂移,在流量变化下恢复质量,为构建可扩展且可信的代理系统提供了新路径。
AI 推荐理由
论文核心提出“数字学徒”框架,强调代理通过渐进式学习、自我修正和持续对齐实现能力进化与自主权获取。
研究机构
Phoe Inc
论文信息