Knowledge Graph Caching LLM Optimization KGQA
摘要

大型语言模型在结合知识图谱回答知识密集型问题时表现更可靠,但现有系统如Think-on-Graph和Reasoning-on-Graph在不同问题间重复查询相同的图邻域。本研究聚焦于知识图谱问答(KGQA)负载中的重复检索问题,提出了KGCache,这是一种用于一跳知识图谱邻域的内存缓存机制。KGCache兼容迭代遍历(ToG)和一次性规划(RoG)范式,置于KGQA引擎后端之间,通过缓存服务重复的实体请求以替代新的KG查询。我们在WebQSP和CWQ数据集上评估了LRU、LFU及感知轨迹Oracle策略。分析显示数据集中存在显著的实体复用。此外,语义缓存进一步提升了命中率。实验表明,实体缓存使KG检索加速高达1.91倍,语义上下文缓存在全系统速度上实现最高1.06倍加速,单次命中最快提升3.73倍。

AI 推荐理由

论文提出KGCache,一种针对知识图谱子图的内存缓存机制,旨在优化LLM推理过程中的实体检索效率,属于典型的记忆增强与缓存架构研究。

研究机构
Texas A&M University
论文信息
作者 Uros Stanic, Changcheng Yuan, Sabuj Laskar, Ariful Azad
发布日期 2026-08-08
arXiv ID 2608.07954
相关性评分 9/10 (高度相关)