摘要
大语言模型在医疗领域潜力巨大,但常受幻觉和缺乏细粒度上下文困扰。检索增强生成(RAG)虽能缓解,但外部检索计算成本高、延迟大。为此,本文提出“知识之钥”(K2K)框架,用内部基于键值的知识访问替代外部检索。该方法将关键临床信息编码至模型参数空间,实现无推理开销的快速内部记忆检索,并通过激活引导探针构建和交叉注意力重排序提升检索质量。实验表明,K2K 在四个医疗结果预测基准数据集上均达到最先进水平。
AI 推荐理由
论文提出基于内部键值记忆的检索框架,核心解决记忆存储与高效检索机制。
研究机构
University of Connecticut
University of Massachusetts, Amherst
University of Massachusetts, Lowell
UMass Chan Medical School
论文信息