基于多注意力融合的抗遮挡目标跟踪

针对基于孪生网络的目标跟踪算法在相似目标干扰和发生遮挡时容易丢失目标的问题,提出一种基于多注意力融合的抗遮挡目标跟踪算法(anti-occlusion target tracking based on multi-attention fusion, AOTMAF)。为更好地模拟遮挡图片,引入渐进式随机遮挡模块,由易到难地随机生成遮挡块对图像进行多区域遮挡,通过人工模拟被遮挡图像的方式扩充负样本数据集,提升模型在遮挡情况下对判别性特征的提取能力。从深度、高度与宽度三个维度挖掘特征图通道信息,并通过融合空间注意力,聚合特征图上每个位置的空间依赖性,增强特征表达能力,进一步提高跟踪的鲁棒性。实验结果表明,在OTB100、VOT2018、GOT-10K公开数据集上,本研究方法在复杂场景下能有效提升跟踪精度和鲁棒性。

基于多注意力和变分编码时序网络的发动机剩余使用寿命预测方法

准确可靠的剩余使用寿命(RUL)预测结果可为决策者提供有价值的信息,以采取适当的维护策略,最大限度地利用设备,避免昂贵的故障维修费用;为了从高噪声的真实工况中对发动机故障进行有效诊断,提出了一种融合多注意力机制和变分编码的时序预测模型(MA-VBLSTM),通过嵌入多注意力机制获得所有特征在空间维度和通道维度的不同权重,以提高退化特征的提取能力;采用变分编码器进行退化信息编码并学习数据间深度隐藏的信息;利用双向长短时记忆网络的长短期时序数据双向处理能力实现发动机RUL的预测;实验结果表明,该模型在发动机CMAPSS数据集的FD001、FD002、FD003、FD004子数据集上,RMSE和Score值相比现有方法分别平均降低5.27%和10.70%、1.37%和1.68%、6.37%和26.94%、3.02%和2.06%。

基于用电多注意力的独居老人风险识别方法

为解决中国城市独居老人健康监护难的问题,本文提出一种基于用电多注意力的独居老人风险识别方法。通过新一代智能电表采集独居老人的历史用电数据,提取独居老人各类型电器的用电特征;通过多注意力机制学习独居老人的电量趋势、负荷波动等特征,建立独居老人用电指纹。在此基础上,将当前独居老人的用电数据与用电指纹数据进行比对,判断独居老人是否存在风险。在某城市社区应用该方法,识别准确率达96.7%。该方法通过电力数据实现了独居老人风险识别,提升了政府的独居老人管理水平。

基于多注意力Faster RCNN的噪声干扰下印刷电路板缺陷检测

针对工业环境中噪声干扰导致的印刷电路板缺陷检测困难的问题,提出基于多注意力Faster RCNN的印刷电路板缺陷检测方法,分别于特征提取以及特征融合部分引入注意力机制以获得具有抗干扰能力的特征表示,提升检测效果。首先使用分离注意力网络提取缺陷特征,使网络自动关注到缺陷特征,以降低噪声干扰的影响;其次,使用平衡特征金字塔融合不同分辨率特征,利用非局部注意力机制对融合特征进行全局感受野内不同区域特征的加权,增强其缺陷表征能力并进一步抑制噪声干扰;最后,依据所获得的特征表示,利用区域建议网络生成缺陷候选框并利用全连接层对其进行位置以及类别的确定以得到检测结果。在不同程度噪声干扰下的印刷电路板缺陷数据集上进行实验验证,平均检测精度达到92.4%,证明了所提方法的有效性和可行性。

面向聊天机器人的多注意力记忆网络

如何对多轮的对话历史进行建模和推理是构建一个智能聊天机器人的主要挑战之一.基于循环或门控的记忆网络已经被证明是进行对话建模的有效方式.然而,这种方式有两个缺点,一是使用复杂的循环结构,导致计算效率较低;二是使用代价较大的强监督信息或先验信息,不利于扩展和迁移应用到新的领域.针对上述问题,本文提出了一种端到端的多注意力记忆网络.首先,该网络采取结合词向量和位置编码的方式对文本输入进行表示;其次,使用并行的多层注意力在不同子空间捕获对话交互中的关键信息来更好地建模对话历史;最后,通过捷径连接的方式叠加多注意力层管理信息流,实现对建模结果的多次推理.在bAbI-dialog数据集上的实验表明,该网络可以有效地对多轮对话进行建模和推理,而且具有较好的时间性能.

变工况的滚动轴承智能故障诊断方法

针对变工况下滚动轴承故障关键特征难提取的问题,提出了基于多尺度多注意力融合的一维卷积神经网络滚动轴承故障诊断方法。采用多尺度模块提取1DCNN对多尺度特征,通过多注意力机制加强了1DCNN对关键信息提取能力,将多尺度模块和多注意力机制融合,给出了多尺度和多注意力融合方法,构建了多尺度多注意力融合的1DCNN。以美国凯斯西储大学开放轴承数据库样本为测试对象,在不同噪声和不同载荷的工况下,将该方法与其他深度学习方法进行了对比分析。结果表明,该方法在不同载荷和不同噪声条件下平均准确率在99%以上,在T-SNE可视化下的分类效果也更显著。

基于知识图谱的问答系统中属性映射方法研究

在基于知识图谱的智能问答系统中,属性映射模块结果的错误传播会导致最终无法得到正确答案,对此提出了一种基于多注意力多维文本的属性映射方法。首先通过拆分问题文本及结合属性信息得到多维文本表示;其次使用长短期记忆网络(long-short-term memory,LSTM)层生成各自的隐层表示;然后输入多注意力机制层后使问句和属性之间的关系及语义信息更加完善,利用属性之间的交互信息及多种角度来加强问句语义信息的理解;最后通过卷积神经网络(convolutional neural networks,CNN)提取局部特征并且采用softmax分类器实现属性映射。试验结果表明,在自然语言处理与中文计算会议(NLPCC 2018)中知识库问答(KBQA)任务所提供的开源数据集上,本方法相比主流属性映射模型其性能有显著提升,准确率最高提升6.62%。本模型可以补足单一文本表示与注意力机制的短板,有效解决属性映射模块中语义歧义的问题,这有助于后续提高智能问答系统的整体性能。