摘要
金融 LLM Agent 需同时阻断提示诱导的未授权操作并批准合法的多步业务流。现有边界过滤器常遗漏不可逆的中间工具调用，而事后审计则干预过晚且计算成本高昂。本文提出 FinHarness，一种内联安全 harness，包含查询监控、工具监控及级联模块。该模块整合单步意图与跨步漂移，动态路由轻量或高级 LLM 进行验证，并将风险因素作为先验证据注入输入，使 Agent 能自主拒绝、重新规划或批准。实验表明，该方法显著降低攻击成功率并减少高级模型调用。
AI 推荐理由
论文核心是安全机制，但关键创新在于让 Agent 根据风险证据自主“重新规划”，紧密涉及规划能力。
研究机构
北京大学
南洋理工大学
中国科学技术大学
清华大学
北京邮电大学
伊利诺伊大学芝加哥分校
论文信息