针对事件抽取存在未充分利用句法关系、论元角色缺失的情况,提出了基于双重注意力机制的事件抽取(event extraction based on dual attention mechanism,EEDAM)方法,有助于提高事件抽取的精确率和召回率.首先,基于4种嵌入向量进行句子编...针对事件抽取存在未充分利用句法关系、论元角色缺失的情况,提出了基于双重注意力机制的事件抽取(event extraction based on dual attention mechanism,EEDAM)方法,有助于提高事件抽取的精确率和召回率.首先,基于4种嵌入向量进行句子编码,引入依赖关系,构建依赖关系图,使深度神经网络可以充分利用句法关系.然后,通过图转换注意网络生成新的依赖弧和聚合节点信息,捕获长程依赖关系和潜在交互,加权融合注意力网络,捕捉句中关键的语义信息,抽取句子级事件论元,提升模型预测能力.最后,利用关键句检测和相似性排序,进行文档级论元填充.实验结果表明,采用基于双重注意力机制的事件抽取方法,在ACE2005数据集上,较最佳基线联合多中文事件抽取器(joint multiple Chinese event extractor,JMCEE)在精确率、召回率和F1-score分别提高17.82%、4.61%、9.80%;在大坝安全运行日志数据集上,较最佳基线JMCEE在精确率、召回率和F1-score上分别提高18.08%、4.41%、9.93%.展开更多
事件抽取是自然语言处理的重要任务,而事件检测是事件抽取的关键步骤之一,其目标是检测事件的发生并对其进行分类。目前基于触发器识别的中文事件检测方法存在一词多义、词与触发词不匹配的问题,影响了事件检测模型的精度。针对此问题,...事件抽取是自然语言处理的重要任务,而事件检测是事件抽取的关键步骤之一,其目标是检测事件的发生并对其进行分类。目前基于触发器识别的中文事件检测方法存在一词多义、词与触发词不匹配的问题,影响了事件检测模型的精度。针对此问题,提出基于双重注意力的无触发词事件检测模型(Event Detection Without Triggers based on Dual Attention,EDWTDA),该模型可跳过触发词识别过程,实现在无触发词标记情况下直接判断事件类型。EDWTDA利用ALBERT改善词嵌入向量的语义表示能力,缓解一词多义问题,提高模型预测能力;采用局部注意力融合事件类型捕捉句中关键语义信息并模拟隐藏的事件触发词,解决词与触发词不匹配的问题;借助全局注意力挖掘文档中的语境信息,解决一词多义问题;最后将事件检测转化成二分类任务,解决多标签问题。同时,采用Focal loss损失函数解决转化成二分类后产生的样本不均衡问题。在ACE2005中文语料库上的实验结果表明,所提模型相比最佳基线模型JMCEE在精确率、召回率和F1-score评价指标上分别提高了3.40%,3.90%,3.67%。展开更多
安全帽与工作服是变电站工作人员安全的重要保障,为解决现有检测模型对其检测精度低的问题,本文提出了MBDC和双重注意力的变电站人员穿戴检测算法。该算法提出了多分支深度卷积(multi branch deep convolution,MBDC)网络增加深度可分离...安全帽与工作服是变电站工作人员安全的重要保障,为解决现有检测模型对其检测精度低的问题,本文提出了MBDC和双重注意力的变电站人员穿戴检测算法。该算法提出了多分支深度卷积(multi branch deep convolution,MBDC)网络增加深度可分离卷积层以增强特征提取的完备性;然后提出多通道交互注意力(multimodal interaction attention,MIA)增加模型对小目标的检测能力,并将MIA机制结合高效通道注意力(efficient channel attention,ECA)机制构成双重注意力机制,增强模型对于小目标和遮挡目标的识别精度;最后引入焦点损失函数和SIOU(scylla intersection over union)作为损失函数以解决正负样本不平衡问题并加快收敛速度。实验表明,本文算法全类平均精度达到84.88%,比原算法高9.92%,总体性能优于对比算法。展开更多
针对渔业标准实体关系抽取任务中存在重叠关系导致的效果不好问题,提出了基于双重注意力机制的实体关系抽取方法。首先,提出了一种句式分类标注策略,以解决渔业标准文本中重叠关系难以标注的问题;其次,提出了结合双重注意力机制与BERT-B...针对渔业标准实体关系抽取任务中存在重叠关系导致的效果不好问题,提出了基于双重注意力机制的实体关系抽取方法。首先,提出了一种句式分类标注策略,以解决渔业标准文本中重叠关系难以标注的问题;其次,提出了结合双重注意力机制与BERT-BiLSTM-CRF(Bidirectional Encoder Representations from Transformers-Bi-directional Long Short-Term Memory-Conditional Random Field)的渔业标准实体关系抽取模型,分别利用字级别注意力机制和句子级别注意力机制优化权重分配、消除噪音,进而提高关系抽取的准确性;最后,为验证所提出方法的有效性设计了对比试验,结果表明,基于双重注意力机制的实体关系抽取方法在DLOU-FSI(Fishery Standard Interaction)数据集(36万字符)上准确率、召回率、F1值分别达到了92.67%、92.31%、92.49%。研究表明,该方法可有效解决渔业标准关系抽取任务中存在的重叠关系问题,提升了渔业标准实体关系抽取的整体效果,为构建渔业标准知识图谱提供参考。展开更多
作为消化系统最常见的疾病之一,急性胰腺炎的医学影像仍使用简单的手工特征进行分析,效率与精度较低,与其危害性并不相称。由于胰腺的解剖变异性以及各种并发症,急性胰腺炎的影像表现复杂,不同患者不同种类的病灶差异大,基于CT影像的急...作为消化系统最常见的疾病之一,急性胰腺炎的医学影像仍使用简单的手工特征进行分析,效率与精度较低,与其危害性并不相称。由于胰腺的解剖变异性以及各种并发症,急性胰腺炎的影像表现复杂,不同患者不同种类的病灶差异大,基于CT影像的急性胰腺炎诊断难度较大。本文提出一种基于双重注意力网络用于诊断急性胰腺炎,该网络使用全局特征为不同阶段的局部特征生成局部注意力特征,使不同阶段的注意力特征关注不同尺度的病灶,最终通过融合对全局注意力特征进行分类。同时在生成注意力特征时,使用通道域注意力调整通道间的依赖,提高模型的表示能力。在真实的急性胰腺炎数据集上的实验结果表明,本文提出的网络取得了更好的急性胰腺炎诊断精度,相对原模型,灵敏度与曲线下面积(Area under the curve,AUC)分别至少提升了3.4%,3.2%;相较其他注意力机制如SENet对ResNet模型的改进,AUC提升2.7%。展开更多
文摘针对事件抽取存在未充分利用句法关系、论元角色缺失的情况,提出了基于双重注意力机制的事件抽取(event extraction based on dual attention mechanism,EEDAM)方法,有助于提高事件抽取的精确率和召回率.首先,基于4种嵌入向量进行句子编码,引入依赖关系,构建依赖关系图,使深度神经网络可以充分利用句法关系.然后,通过图转换注意网络生成新的依赖弧和聚合节点信息,捕获长程依赖关系和潜在交互,加权融合注意力网络,捕捉句中关键的语义信息,抽取句子级事件论元,提升模型预测能力.最后,利用关键句检测和相似性排序,进行文档级论元填充.实验结果表明,采用基于双重注意力机制的事件抽取方法,在ACE2005数据集上,较最佳基线联合多中文事件抽取器(joint multiple Chinese event extractor,JMCEE)在精确率、召回率和F1-score分别提高17.82%、4.61%、9.80%;在大坝安全运行日志数据集上,较最佳基线JMCEE在精确率、召回率和F1-score上分别提高18.08%、4.41%、9.93%.
文摘事件抽取是自然语言处理的重要任务,而事件检测是事件抽取的关键步骤之一,其目标是检测事件的发生并对其进行分类。目前基于触发器识别的中文事件检测方法存在一词多义、词与触发词不匹配的问题,影响了事件检测模型的精度。针对此问题,提出基于双重注意力的无触发词事件检测模型(Event Detection Without Triggers based on Dual Attention,EDWTDA),该模型可跳过触发词识别过程,实现在无触发词标记情况下直接判断事件类型。EDWTDA利用ALBERT改善词嵌入向量的语义表示能力,缓解一词多义问题,提高模型预测能力;采用局部注意力融合事件类型捕捉句中关键语义信息并模拟隐藏的事件触发词,解决词与触发词不匹配的问题;借助全局注意力挖掘文档中的语境信息,解决一词多义问题;最后将事件检测转化成二分类任务,解决多标签问题。同时,采用Focal loss损失函数解决转化成二分类后产生的样本不均衡问题。在ACE2005中文语料库上的实验结果表明,所提模型相比最佳基线模型JMCEE在精确率、召回率和F1-score评价指标上分别提高了3.40%,3.90%,3.67%。
文摘针对渔业标准实体关系抽取任务中存在重叠关系导致的效果不好问题,提出了基于双重注意力机制的实体关系抽取方法。首先,提出了一种句式分类标注策略,以解决渔业标准文本中重叠关系难以标注的问题;其次,提出了结合双重注意力机制与BERT-BiLSTM-CRF(Bidirectional Encoder Representations from Transformers-Bi-directional Long Short-Term Memory-Conditional Random Field)的渔业标准实体关系抽取模型,分别利用字级别注意力机制和句子级别注意力机制优化权重分配、消除噪音,进而提高关系抽取的准确性;最后,为验证所提出方法的有效性设计了对比试验,结果表明,基于双重注意力机制的实体关系抽取方法在DLOU-FSI(Fishery Standard Interaction)数据集(36万字符)上准确率、召回率、F1值分别达到了92.67%、92.31%、92.49%。研究表明,该方法可有效解决渔业标准关系抽取任务中存在的重叠关系问题,提升了渔业标准实体关系抽取的整体效果,为构建渔业标准知识图谱提供参考。
文摘作为消化系统最常见的疾病之一,急性胰腺炎的医学影像仍使用简单的手工特征进行分析,效率与精度较低,与其危害性并不相称。由于胰腺的解剖变异性以及各种并发症,急性胰腺炎的影像表现复杂,不同患者不同种类的病灶差异大,基于CT影像的急性胰腺炎诊断难度较大。本文提出一种基于双重注意力网络用于诊断急性胰腺炎,该网络使用全局特征为不同阶段的局部特征生成局部注意力特征,使不同阶段的注意力特征关注不同尺度的病灶,最终通过融合对全局注意力特征进行分类。同时在生成注意力特征时,使用通道域注意力调整通道间的依赖,提高模型的表示能力。在真实的急性胰腺炎数据集上的实验结果表明,本文提出的网络取得了更好的急性胰腺炎诊断精度,相对原模型,灵敏度与曲线下面积(Area under the curve,AUC)分别至少提升了3.4%,3.2%;相较其他注意力机制如SENet对ResNet模型的改进,AUC提升2.7%。
