校准保守性以实现可扩展监管

具备自主规划和长期环境交互能力的智能体系统提出了根本性的控制难题：人类如何有效监管可能超越自身能力的系统？现有方法依赖复杂假设或缺乏统计保证。本文提出校准集体监管（CCO）框架，聚合多种辅助评分函数，基于可达效用保持理念，对偏离保守基线的行为施加惩罚。该方法利用共形决策理论在线校准保守度，在无分布假设下确保不良结果低于用户设定阈值。实验表明，CCO 能在保留奖励的同时显著减少伦理违规，且实际违规率与理论预测高度吻合。