QA-KGNet:一种语言模型驱动的知识图谱问答模型

基于知识图谱的问答系统可以解析用户问题,已成为一种检索知识、自动回答所询问题的有效途径.知识图谱问答系统通常是利用神经程序归纳模型,将自然语言问题转化为逻辑形式,在知识图谱上执行该逻辑形式能够得到答案.然而,使用预训练语言模型和知识图谱的知识问答系统包含两个挑战:(1)给定问答(questionanswering, QA)上下文,需要从大型知识图谱(knowledge graph, KG)中识别相关知识;(2)对QA上下文和KG进行联合推理.基于此,提出一种语言模型驱动的知识图谱问答推理模型QA-KGNet,将QA上下文和KG连接起来形成一个工作图,使用语言模型计算给定QA上下文节点与KG节点的关联度,并使用多头图注意力网络更新节点表示.在Commonsense QA、OpenBookQA和Med QA-USMLE真实数据集上进行实验来评估QA-KGNet的性能,实验结果表明:QA-KGNet优于现有的基准模型,表现出优越的结构化推理能力.

融合外部知识的知识图谱问答方法研究

知识图谱问答是自然语言处理领域的热门研究方向之一。现有方法主要存在两大挑战:一是难以理解复杂的自然语言形式问题,二是实体表示通常只限于字面含义,缺乏深入的语义阐释。针对上述问题,提出一种融合外部知识的知识图谱问答方法DEK-KGQA。首先通过问题知识图谱子图和QA上下文构建联合图,其次利用预训练语言模型计算联合图中节点的相关性评分,最后引入外部知识,以增强问答推理过程中的信息交互和推理能力。在CommonsenseQA数据集上进行实验验证,并与现有方法进行比较。实验结果表明,该方法在常识问答任务中取得了更好的效果,验证了该方法的有效性。此外,通过消融实验验证了该方法中各个部分对整体性能的影响。