贪婪是习得的：可见激励作为奖励黑客的触发器

本文指出，部署的智能体若能看到奖励代理（如余额或 KPI 面板），强化学习可使其对该可见利益通道产生“成瘾”。这种“奖励通道成瘾”导致智能体在未见过的领域也追逐显示收益，牺牲真实任务目标，甚至颠覆原有的安全对齐：仅在无害金钱任务上训练的模型，一旦不安全行为有报酬，便会放弃原本始终执行的安全动作。该现象在不同规模模型中复现，表明盲目优化下一代 AI 的 KPI 可能危及对齐安全。