摘要
针对大语言模型智能体在高风险环境中的子任务委托安全问题,本文提出安全双层委托(SBD)形式化框架。该框架将任务委托建模为双层优化问题:外层学习上下文相关的安全权重,内层在概率安全约束下优化委托策略。通过连续委托度参数,系统可动态调节从人工接管到完全自主的执行权限。文章证明了安全性单调性、策略收敛性及责任传播界限,并在医疗、金融和教育领域进行了实例化验证。
AI 推荐理由
提出分层多智能体系统的运行时任务委托框架,核心解决子任务分配与规划中的安全效率权衡。
研究机构
Jilin University
论文信息