欺骗检测 可解释性 激活分析 AI 安全 推理模型
摘要

随着大语言模型推理能力增强,欺骗行为成为严峻的安全隐患。现有监测方法仅基于可见文本或标量探针,缺乏可解释证据。本文提出 STATEWITNESS,一种用于欺骗审计的激活解释器。该模块通过独立解码器读取目标模型的隐藏状态,以自然语言或结构化报告形式回应查询。在七个欺骗数据集上的评估显示,其平均 AUROC 达 0.916,显著优于现有黑盒文本监测及激活探针基线。该系统不仅能检测欺骗,还能提供令牌级证据追踪,为可解释性与对齐工具构建提供新路径。

AI 推荐理由

论文聚焦推理模型中的欺骗行为检测,核心依赖对推理过程隐藏状态的解析与审计。

研究机构
Zhejiang University
论文信息
作者 Kexin Chen, Yi Liu, Haonan Zhang, Yanhui Li, Xinyu Deng et al.
发布日期 2026-06-16
arXiv ID 2606.17478
相关性评分 9/10 (高度相关)