基于变分模态分解与空洞卷积神经网络的配电网故障选线方法

小电流接地系统发生单相接地故障时,零序电流故障特征微弱且繁杂多变,传统选线方法可靠性有待提高。提出了一种基于变分模态分解(variational mode decomposition,VMD)与空洞卷积神经网络的配电网故障选线方法。首先,分析配电网健全线路和故障线路的电气特征,采用零序电流作为故障特征信号,为选线模型的输入量提供理论依据;其次,通过变分模态分解把零序电流序列分成不同频率的固有模态函数,提高故障信号特征的平稳性和差异性;然后,采用空洞卷积神经网络作为选线网络,以增大卷积操作感受野的方式增强模型的自适应分类能力;最后,在MATLAB/Simulink中构建10kV配电网进行算例分析,结果表明,该方法在不同故障场景条件下均有较高的选线效果,验证了所提方法的鲁棒性与准确性。

基于空洞卷积神经网络的铝硅合金实体关系联合抽取模型(英文)

近年来,材料基因组计划(Material genome initiative,MGI)已经成为全球热点。随着材料科学的不断发展,材料文献中包含的海量信息成为研究人员关注的焦点,如何获取大量有效的材料数据是现阶段的主要挑战。本文采用自然语言处理(Natural language processing,NLP)技术从铝硅合金材料文献中获取数据。命名实体识别(Named entity recognition,NER)和关系抽取(Relation extraction,RE)是NLP的两个子任务,可以高效地从文本中提取单词信息及其之间的关系。铝硅合金文献中存在多种命名实体及多种关系,本文从材料科学文献中选择11种实体类型和13种关系类型,手动标注构建了铝硅合金实体关系数据集,将命名实体识别与关系抽取进行联合学习,即对实体识别和关系抽取进行统一建模。此外,针对基础模型的编码层存在捕捉文本语义信息不充分问题,通过改进模型的编码层,将基础模型的BiLSTM层与空洞卷积模型结合,组成了新的编码器,避免了BiLSTM处理文本信息丢失的问题,最终使铝硅合金实体关系联合抽取模型能够更好地捕捉文本中句子的语义单元信息。

通道注意力引导的空洞卷积神经网络图像去噪

卷积神经网络是目前相对普遍且去噪性能较好的图像处理方法。传统的深度卷积神经网络(DnCNN)中同一层中的特征通道间的重要程度是平等的,不利于特征的提取。将DnCNN与通道注意力,以及空洞卷积神经网络构成的稀疏块相结合,提出了一种通道注意力引导的卷积神经网络CDNet用于图像去噪。不仅更有效地提取图像复杂背景下的更有用的信息,还降低网络训练的复杂性。对比试验结果表明该网络在不同公开数据集上的PSNR值以及SSIM值都优于其余去噪网络,去噪效果相对较好。

基于Dropout-多尺度空洞卷积神经网络的轴承故障诊断

为了提高故障诊断模型对故障轴承低信噪比信号的特征提取能力,使模型在强噪声环境下仍能发挥作用,提出了一种基于Dropout-多尺度空洞卷积神经网络(D-MDCNN)的滚动轴承故障诊断模型。首先,通过Dropout数据预处理,对训练数据进行“损坏”,强迫模型仅依靠少量特征便可进行故障诊断,以提高模型的抗噪声能力;然后,使用不同扩张率的空洞卷积扩充了多尺度信息,并利用CNN模块来完成对特征的提取与故障诊断;同时,在模型中加入批量归一化处理操作,用来加快模型训练的收敛速度,提高了模型的性能;最后,利用美国凯斯西储大学轴承数据集和东南大学齿轮箱数据集对基于D-MDCNN的模型进行了实验验证,并将实验结果与采用其他深度学习模型所得的实验结果进行了对比分析。实验结果表明:在无噪声至4dB的噪声环境下,D-MDCNN在西储大学和东南大学两个数据集上均可取得99%的诊断准确率;相比于其他同类模型,基于D-MDCNN的模型具有更高的诊断准确率和抗噪声能力。研究结果表明:基于D-MDCNN的模型是一种有效的轴承故障诊断模型。

基于改进空洞卷积神经网络的丘陵山区田间道路场景识别

基于机器视觉的自主导航是智能农业机械的主要导航方式之一。丘陵山区复杂的田间道路场景,使得智能农机在田间道路上的自主导航与避障存在较大的困难。该文根据丘陵山区田间道路图像特征,将田间道路场景对象分为背景、道路、行人、植被、天空、建筑、牲畜、障碍、水塘、土壤和杆等11类,构建了基于空洞卷积神经网络的田间道路场景图像语义分割模型。该模型包括前端模块和上下文模块,前端模块为VGG-16融合空洞卷积的改进结构,上下文模块为不同膨胀系数空洞卷积层的级联,采用两阶段训练方法进行训练。利用CAFFE深度学习框架将改进的网络模型与经典的FCN-8s网络模型进行了对比测试,并进行了道路阴影的适应性测试。语义分割测试结果表明:Front-end+Large网络的统计像素准确率、类别平均准确率以及平均区域重合度都最高,而FCN-8s网络最低;Front-end+Large网络在无阴影道路训练集和有阴影道路训练集上的平均区域重合度分别为73.4%和73.2%,对阴影干扰有良好的适应性。该文实现了丘陵山区田间道路场景像素级的预测,能为智能农业机械在田间道路上基于机器视觉的自主导航和避障奠定基础。

融合空洞卷积神经网络与层次注意力机制的中文命名实体识别

该文针对现有的命名实体识别(named entity recognition,NER)模型未考虑到文本层次化结构对实体识别的重要作用,以及循环神经网络受其递归性的限制导致计算效率低下等问题,构建了IDC-HSAN模型(Iterated Dilated Convolutions Neural Networks and Hierarchical Self-attention Network)。该模型通过迭代的空洞卷积神经网络(ID-CNN)充分利用GPU的并行性大大降低了使用长短时记忆网络的时间代价。然后,采用层次化注意力机制捕获重要的局部特征和全局上下文中的重要语义信息。此外,为了丰富嵌入信息,加入了偏旁部首信息。最后,在不同领域数据集上的实验结果表明,IDC-HSAN模型能够从文本中获取有用的实体信息,和传统的深度网络模型、结合注意力机制的命名实体识别模型相比识别效果有所提升。

基于残差空洞卷积神经网络的网络安全实体识别方法

近年来,网络安全威胁日益增多,数据驱动的安全智能分析成为网络安全领域研究的热点。特别是以知识图谱为代表的人工智能技术可为多源异构威胁情报数据中的复杂网络攻击检测和未知网络攻击检测提供支撑。网络安全实体识别是威胁情报知识图谱构建的基础。开放网络文本数据中的安全实体构成非常复杂,导致传统的深度学习方法难以准确识别。在BERT(pre-training of deep bidirectional transformers)预训练语言模型的基础上,提出一种基于残差空洞卷积神经网络和条件随机场的网络安全实体识别模型BERT-RDCNN-CRF。通过BERT模型训练字符级特征向量表示,结合残差卷积与空洞神经网络模型有效提取安全实体的重要特征,最后通过CRF获得每一个字符的BIO标注。在所构建的大规模网络安全实体标注数据集上的实验表明,所提方法取得了比LSTM-CRF模型、BiLSTM-CRF模型和传统的实体识别模型更好的效果。

基于空洞卷积神经网络的噪声水平可调的高斯去噪方法

基于深度学习的图像去噪方法在使用空洞卷积神经网络时,去噪后的图像容易在尖锐边缘生成伪像,并且为了处理不同的噪声水平,需要训练多个特定的去噪模型.对此文中提出基于空洞卷积神经网络的噪声水平可调的高斯去噪方法.加入噪声水平图,实现噪声水平可调性,并使用改善的空洞卷积及可逆的下采样技术,缓解由于传统空洞卷积带来的图像尖锐边缘的伪成像问题.将下采样的子图与相应的噪声水平图都输入到非线性映射模型中,并使用改善后的减小空洞率的神经网络进行训练.实验表明,文中方法在获得GPU加速的同时具有调节噪声水平的能力,能够改善尖锐边缘的伪像问题,保留更多图像细节.

融合空洞卷积神经网络的语义SLAM研究

为了解决传统视觉SLAM算法受动态环境因素影响较大、对设备的算力要求高的问题,该文提出一种融合ORB-SLAM2、语义标签以及全局性稠密光流法的视觉SLAM算法。该方法采用空洞卷积神经网络的语义分割模块为双目图像添加语义标签,识别物体类别。再结合相邻帧间位置信息对图像的动态点进行剔除。最后使用Octo-map优化定位与建图,实现动态环境下地图的建立与实时更新。实验结果证明,该文提出的算法在动态环境下的特征点提取速度和质量相较传统视觉SLAM算法有一定提高。

基于空洞转置卷积神经网络的人体骨骼关键点检测算法研究

目前对人体姿态骨骼关键点检测存在两个研究难点,一是如何由2D姿态进行3D人体姿态估计,另一个是标准数据库和用户上传的视频动作在时间上不匹配。为此,本文提出基于空洞转置卷积的沙漏结构(Dilated and Transpose Convolutions Hourglass,DTCH)神经网络;然后应用卡尔曼滤波算法进行数据降噪处理,最后利用动态时间规整(Dynamic Time Warping,DTW)算法提高患者运动时姿态匹配的准确性。在仿真实验中,该模型在Human3.6M数据集上的平均每关节位置误差(MPJPE)与相关研究的最佳结果相比减少了11%,可以精确高效地实现3D人体姿态估计。

基于新型卷积神经网络构建矿山灾害事件检测模型

事件检测属于自然语言处理的核心任务及难点之一,使用长短时记忆网络(LSTM)和卷积神经网络(CNN)进行的相关研究越来越广泛,但面对篇章级别的事件文本时,参数量庞大的LSTM与语义缺失明显的CNN导致模型检测准确性和收敛性均欠佳。该文结合迭代空洞卷积神经网络和高速神经网络,提出基于混合特征的高速迭代空洞卷积神经网络,力图优化深层模型训练中常见的梯度消失与爆炸现象,提取性能更优的篇章级文本特征。实验结果表明,该方法与当下主流的LSTM和CNN模型相比,矿山灾害事件检测效果更为理想,收敛性及训练效率也表现更优。

基于空洞CNN和LSTM的滚动轴承剩余使用寿命预测

针对滚动轴承剩余使用寿命预测方法中出现的退化阶段起始点识别困难和退化特征难以提取的问题,提出了一种基于空洞卷积神经网络(Convolutional Neural Network,CNN)和长短时记忆(Long and Short-Term Memory,LSTM)网络的滚动轴承剩余使用寿命预测方法。首先,对归一化幅值后的滚动轴承数据集构建了二次函数退化标签,避免滚动轴承退化阶段起始点的识别。其次,采用空洞CNN提取滚动轴承的退化特征,将提取的退化特征输入到LSTM网络中进行学习,并通过全连接层来进行退化特征到剩余使用寿命标签的映射,从而实现滚动轴承的剩余使用寿命预测。最后,通过PHM2012滚动轴承数据集对所提出的滚动轴承剩余使用寿命预测方法的有效性进行了验证。试验结果表明,所提方法具有较好的预测效果。

基于多分支空洞卷积网络的光谱定量分析

卷积神经网络(CNN)近年来已经广泛应用在各种化学计量学任务中。然而,通过CNN从光谱中学习长程相关性仍然是一个挑战,为了避免过拟合,很多之前的工作中使用的CNN架构都很浅。本文提出了一种并行空洞卷积网络(ACPnet)的方法来学习定量光谱的长程相关性,该方法将具有不同空洞率的并行卷积分支组合在一起,以寻找近程和长程相关性的最佳平衡。并在片剂(拉曼光谱)、土壤(近红外光谱)和葡萄酒(核磁共振光谱)3个数据集上验证了该方法的通用性。结果表明,与偏最小二乘回归(PLS)、最小二乘支持向量机(LS-SVM)、常规CNN和级联模式空洞卷积网络(ACCnet)相比,ACPnet在3个数据集的回归精度都达到了最佳。此外,将ACPnet提取的特征输入到不同的回归器中进行分析,来评估该结构作为有监督特征提取器的性能。特征提取-回归模型的预测结果表明,ACPnet在3个数据集上提取的特征信息都要优于常规CNN。

基于HDCNN-BIGRU-Attention油田措施效果预测模型

为预测油田增油控水措施效果中月产油量与含水量,提出一种基于混合空洞卷积神经网络(HDCNN:Hybrid Dilated Convolutional Neural Network)-BIGRU-Attention的措施效果预测模型。模型通过HDCNN,提取生产数据多尺度全局特征;针对措施生产数据时序性较强与波动性较大的特点,利用双向门控循环单元(BIGRU:Bidirectional Gated Recurrent Unit)充分挖掘数据间长期依赖关系,提高时序信息利用率与学习效果;引入缩放点积注意力模块(Attention),为重要信息赋予较高权重并不断调整参数使模型始终关注与预测目标相关性较大的特征。为验证模型的有效性,将LSTM(Long Short-Term Memory)、CNN(Convolutional Neural Network)-LSTM以及LSTM-Attention作为实验对比,结果表明该模型具有更低的预测误差与更好的泛化能力。

一种基于全局和局部特征表示的关键词抽取算法

为解决传统关键词算法易忽略文档上下文语义信息,以及单词重要的统计特征未在深度学习方法中得到充分利用等问题,提出一种基于全局和局部特征表示的关键词抽取算法.首先,利用Transformer和卷积神经网络搭建深度学习模型,通过多头注意力机制计算单词的全局语义特征表示,并利用每个单词的词性和词频统计特征信息,与语义特征拼接融合得出单词的特征向量表示;然后,采用多层卷积神经网络融合空洞卷积神经网络高效捕获单词局部特征信息和单词间依赖关系;最后,将关键词抽取工作看成序列标注任务抽取最终关键词.通过在两个公开语料库上的多项调参和对比实验,证明提出的算法效果优于现有的主流关键词抽取算法,在Inspec和kp20k数据集上的F1值分别达到了49.87%和35.77%,有效提高了关键词自动抽取结果的准确性.

基于多表示动态自适应的不同工况下滚动轴承故障诊断

在对不同工况下的滚动轴承进行故障诊断时,要收集足够多标记的故障样本是非常困难的。为此,以原始振动信号作为神经网络的输入,通过多表示动态自适应(MRDA)算法多表示对齐可迁移的特征、自适应动态的衡量边缘分布和条件分布相对重要性,从而构建了一种新的深度迁移模型,即一维多表示空洞动态自适应迁移网络(1D MRDDATN)。首先,对迁移学习数据分布进行了问题分析,对DDA进行了理论推导;然后,在一维空洞卷积基础上,创建了一维多表示空洞卷积神经网络(1D MRDCNN),并提出了MRDA算法和多表示动态自适应结构(MRDAM),形成了一维多表示空洞动态自适应迁移网络(1D MRDDATN);最后,采用美国凯斯西储大学(CWRU)的滚动轴承数据集进行了实验验证。研究结果表明:与传统的深度迁移学习方法相比,上述方法的平均诊断准确率有所提升,可达到98%以上;MRDA通过多表示对齐来完成不同工况下的跨域分类任务,自适应地捕获不同方面的信息,可以获得更好的性能。

藏文句义分割方法

句子是字或词根据语法规则进行组合的编码,句义分割是句子组合规律的解码问题,即对句义进行解析。在藏文分词后直接进行语义分析,其颗粒度过小,容易出现词语歧义,而以句子为分析单位,则颗粒度过大,不能较好地揭示句子的语义。为此,提出一种藏文句义分割方法,通过长度介于词语和句子之间的语义块单元进行句义分割。在对句子进行分词和标注的基础上,重新组合分词结果,将句子分割为若干个语义块,并采用空洞卷积神经网络模型对语义块进行识别。实验结果表明,该方法对藏文句义分割的准确率达到94.68%。

手写字符的快速识别模型

现有字符识别模型识别手写字符速度慢效率低。本文提出一种手写字符的快速识别模型,采用双通路卷积特征提取方式,一路分支采用常规卷积神经网络,另一路分支采用空洞卷积神经网络。不同分支的卷积神经网络能够更好地获取不同感受野的手写字符特征。提出一种图像处理方式,能够更好提取随机分布的手写字符。实验结果表明,该模型不仅拥有高识别率,同时在速度上拥有绝对优势。

基于图像处理的城市轨道交通监控系统设计

针对城市轨道交通监控系统中,由于多尺度特征提取精度低,导致乘客拥挤度检测准确率低的问题,提出将多列神经网络与空洞卷积相结合,构建一个基于人群计数的多列空洞卷积神经网络(MPCNet)。此网络采用CNN网络进行深度特征提取;然后以空洞空间金字塔池化(ASPP)为网络提供多尺度感受野,从而进行目标多尺度特征提取。实验结果表明,在Zhengzhou_MT数据集中,提出的MPCNet算法的MAE和MSE估计误差分别为1.5和2.1,均低于传统的MCNN算法和CSRNet算法。且在开发的拥挤度自动检测系统应用效果中,系统可实现轨道交通的可视化展示,可对检测结果进行批量计算,通过折线图现象得到历史数据。由此说明,本算法可对人群多尺度特征进行准确提取,可实现乘客拥挤度有效检测,具备实时性和有效性。