从奖励欺骗激活到代理风险状态：LLM 代理中的上下文校准机制监测

本文研究了在可博弈环境中运行的 ReAct 风格代理的奖励欺骗监测问题。研究发现，基于激活的监控能识别潜在的欺骗策略状态，但仅凭激活动态不足以判定即时 exploit 行为。通过结合令牌级熵和决策上下文特征，显著提升了风险估计的准确性。此外，激活方向引导技术有效减少了代理的代理奖励利用行为。结果表明，针对代理的上下文校准内部监测机制至关重要，需综合内部状态与环境上下文以准确识别风险行动。