摘要
大型语言模型在推理上常表现可靠，但重复采样揭示其决策形成存在内在脆弱性。本文研究是否可利用此脆弱性进行“隐式推理引导”：即无需明确指令，仅用自然语言文本偏置模型指向特定答案。提出的“概念链”方法生成简短连接段落，通过中间概念链接问题实体与目标选项。实验表明，间接且自然的文本能系统性引导模型预测，证明推理脆弱性可被普通文本 covertly 放大以重定向决策。
AI 推荐理由
论文核心研究 LLM 推理脆弱性及通过隐式文本引导推理路径的机制。
研究机构
School of Computing and Augmented Intelligence, Arizona State University
Bellini College of AI Cybersecurity and Computing, University of South Florida, Tampa, Florida, USA
Department of Computer Science, University of California, Davis
论文信息