反绎学习支持下的自动问答及其应用

自动问答技术可以为用户提供快速且准确的信息检索和问题解答服务。然而,目前常见方法生成的答案存在不准确和不完整的问题,以及实体识别和关系抽取效果不准确,且答案不够自然。为此,提出基于反绎学习的自动问答方法,使用基于知识图谱的问答推理优化基于生成的问答,进一步从整体的反绎学习框架角度来优化实体识别和关系抽取方法,并将所提方法应用于《数据结构》课程的学习。结果表明,基于反绎学习的自动问答方法,可以改进基于生成的问答和基于知识图谱的问答两者的不足,提高问答系统的准确性。

带拒绝推理的反绎学习方法

近年来,许多研究工作致力于将数据驱动的机器学习和知识驱动的逻辑推理相结合,以提高机器学习的性能.其中,不少工作尝试利用反绎推理,将机器学习与逻辑推理融合到一个框架中.这些方法通过机器学习模型生成伪标记,然后利用反绎推理来修正不一致的伪标记,以更新机器学习模型并多次迭代.然而,反绎中可能会存在错误标记,这些标记会对模型训练产生负面影响且难以被发现.因此提出一种带拒绝推理的反绎学习方法,它同时考虑反绎标记的模型不确定性和推理不确定性,从数据层面和知识层面综合评估反绎结果的可靠性,并通过拒绝部分反绎推理结果来避免不可靠的反绎标记对模型训练的负面影响.实验表明,提出的方法可以减少错误反绎标记的比例、加速反绎学习的训练并带来更好的性能.

基于反绎学习的裁判文书量刑情节识别

针对司法领域标记数据匮乏、标注质量不高、存在强逻辑性导致裁判文书量刑情节识别效果不佳的问题,提出一种基于反绎学习的量刑情节识别模型ABL-CON。首先结合神经网络与领域逻辑推理,通过半监督学习方法,使用置信学习方法表征情节识别置信度;然后修正无标签数据经过神经网络产生的不合逻辑的错误情节,重新训练识别模型,以提高识别精度。在自构建的司法数据集上的实验结果表明,使用50%标注数据与50%无标注数据的ABL-CON模型在Macro_F1值和Micro_F1值上分别达到了90.35%和90.58%,优于同样条件下的BERT和SS-ABL,也超越了使用100%标注数据的BERT模型。ABL-CON模型通过逻辑反绎修正不符合逻辑的标签能够有效提高标签的逻辑合理性以及标签的识别能力。

属性知识自反绎下的半监督表示学习

机器学习结合逻辑推理的方法可以大幅提升模型的鲁棒性与可解释性.近年来,已有工作从给定的具体知识库出发,通过反绎学习的范式或是其衍生范式来促进机器学习中模型的更新过程.然而,在表示学习任务中,即便存在这样的知识库,其往往也是不完备或含有噪声的.且在真实环境下,即便领域专家也无法精准定量地描述不同对象的属性表示信息.因此,本文针对半监督表示学习任务,提出了一种可根据少量有标记样本构建弱领域属性知识库并结合无标记数据与基于启发式规则扩张领域知识库推理的反绎学习方法.该方法可有效解决表示学习任务下缺少强领域知识与真实环境下高质量标注数据较少这两个问题.在人工合成的数据集与真实环境下的数据集中的实验对比结果均验证了我们提出的方法的有效性.