Internal Memory Healthcare AI Key-Value Retrieval RAG Optimization
摘要

大语言模型在医疗领域潜力巨大,但常受幻觉和缺乏细粒度上下文困扰。检索增强生成(RAG)虽能缓解,但外部检索计算成本高、延迟大。为此,本文提出“知识之钥”(K2K)框架,用内部基于键值的知识访问替代外部检索。该方法将关键临床信息编码至模型参数空间,实现无推理开销的快速内部记忆检索,并通过激活引导探针构建和交叉注意力重排序提升检索质量。实验表明,K2K 在四个医疗结果预测基准数据集上均达到最先进水平。

AI 推荐理由

论文提出基于内部键值记忆的检索框架,核心解决记忆存储与高效检索机制。

研究机构
University of Connecticut University of Massachusetts, Amherst University of Massachusetts, Lowell UMass Chan Medical School
论文信息
作者 Mingchen Li, Jiatan Huang, Zonghai Yao, Hong yu
发布日期 2026-04-08
arXiv ID 2604.07659
相关性评分 9/10 (高度相关)