Path Pooling: Train-Free Structure Enhancement for Efficient Knowledge Graph Retrieval-Augmented Generation

作者: Hairu Wang, Yuan Feng, Xike Xie, S Kevin Zhou

发布时间: 2025-03-10

来源: arxiv

研究方向: 知识图谱增强的生成式模型(KG-RAG)

主要内容

本文针对大型语言模型(LLM)在现实应用中存在的幻觉和知识缺陷问题,提出了一种名为路径池化的训练自由结构增强策略,用于提升知识图谱检索增强生成(KG-RAG)的性能。

主要贡献

1. 提出了一种路径池化策略,通过路径中心池化操作引入结构信息,有效地提升了KG-RAG的性能。

2. 路径池化策略可以无缝集成到现有的KG-RAG方法中,无需额外的训练和复杂的嵌入模型。

3. 通过路径池化,可以显著提高KG-RAG方法的准确性,同时引入的额外计算开销可以忽略不计。

研究方法

1. 路径池化:通过路径中心池化操作,利用图结构信息,对三元组进行平滑处理,从而增强三元组的表示能力。

2. 路径搜索:使用图搜索算法(如Dijkstra算法)在知识图谱中寻找关键路径,提取局部结构模式。

3. 平滑处理:对关键路径上的三元组进行平均池化操作,平滑三元组得分,并引入位置得分以进一步保留路径结构信息。

4. 重排序和重选择:使用路径池化得分对检索到的三元组进行重排序和重选择,优化KG-RAG方法的生成质量。

实验结果

实验结果表明,将路径池化集成到最先进的KG-RAG方法中,可以一致地提高性能,同时在各种设置下引入可忽略的额外成本。路径池化策略在提高KG-RAG方法准确性的同时,也提高了其效率。

未来工作

未来工作可以探索更有效的路径搜索和更精细的平滑技术,以捕获更丰富的结构信息。此外,还可以研究如何将路径池化策略应用于其他类型的知识图谱增强生成模型。