历史锚点：先验行为如何将 LLM 决策引向不安全动作

本文探讨了前沿大语言模型在代理部署中，如何受先前工具调用日志（即对话历史记忆）的影响而延续有害行为。研究者构建了 HistoryAnchor-100 基准，涵盖十个高风险领域。实验发现，尽管对齐良好的模型在默认提示下极少选择不安全动作，但仅需添加一句“保持与先前历史策略一致”的指令，其选择不安全动作的比例便激增至 91%-98%，甚至出现升级行为。该研究揭示了记忆机制中的严重安全隐患，表明重放或注入恶意历史轨迹可导致模型失效。