基于一维密集连接卷积网络的配电网故障定位研究

分布式电源大量接入配电网,加大了网络的复杂程度,需要采集的数据量变大,对现在的配电网故障诊断技术带来了挑战,以数据驱动方法作为配电网故障定位方法成为了一种新的趋势。为此提出了一种基于一维密集连接卷积网络的配电网故障定位方法。通过三个测量点将零序电流采集出来作为网络的输入信号,然后将输入信号输入到改进卷积神经网络的一维密集连接卷积网络中进行特征提取,提取出故障特诊信息后输入到Softmax分类器中进行故障区段确定,最后通过配电网模型验证所提方法能够针对不同故障类型、不同过渡电阻具有快速准确的故障定位能力,并且和传统的一维卷积神经网络相比,具有更大的优越性。

基于DenseNet卷积神经网络的短期风电预测方法

风能作为一种清洁、可再生的能源,在能源转型中扮演着至关重要的角色,准确预测风电出力对电力系统的安全高效运行非常重要,然而风速的波动性和随机性,对风电预测带来了挑战。为了提高风电预测的准确性,提出了一种基于DenseNet卷积神经网络的短期风电预测模型。该模型通过精简DenseNet201网络得到了拥有出色的密集连接结构和适当深度、宽度的DenseNet160网络,不仅能缓解训练过程中梯度消失现象,还能通过密集连接将浅层的信息反映到深层,实现深度监督。基于巴西纳塔尔地区378 d的风力数据集,采用DenseNet160网络以及27种算法对未来一天的风力发电情况进行预测。结果表明:DenseNet160网络的平均绝对误差、均方误差以及平均绝对百分误差比其他算法分别降低了至少10.89%,4.98%,8.68%;同时,与使用相同数据集的混合经济模型相比,DenseNet160网络的MAE值小了25.56%。说明该模型能精准地拟合风力发电数据,获得可靠的风力预测结果。

基于改进密集连接网络的土地卫片场景分类方法

为提高土地卫片图像场景识别的效率和精度,本文构建拉普拉斯金字塔-密集连接卷积网络(Lap-DenseNet)模型对土地场景应用进行识别分类,在Lap-DenseNet模型中Lap采用三层金字塔结构,DenseNet模型选用169层结构。将构建好的Lap-DenseNet模型应用到含有6种土地场景的卫片分类中,结果显示:Lap-DenseNet模型训练集的迭代次数不宜过多,否则会因为过拟合现象导致分类效果降低,当迭代次数为200次时分类效果最佳;Lap-DenseNet模型对农村道路分类效果最好,对以绿色背景为主的耕地复耕、未建设用地、农用地复绿分类效果较差,6种场景的平均分类准确率为93.66%;与谷歌卷积网络(GoogLeNet)、快速特征嵌入卷积网络(CaffeNet)、基于密集连接的双流深度特征融合卷积网络(TEX-TS-Net)、基于VGG16的附加资源卷积网络(ARCNet-VGG16)、基于Inception-v3的胶囊卷积网络(Inception-v3-CapsNet)、基于全局上下文空间注意和密集连接的卷积网络(GCSANet)共6种场景分类方法相比,Lap-DenseNet模型的分类效果最好,可在土地卫片场景分类工作中予以合理运用。

渐进式逐层密集连接网络图像超分辨率重建

针对现有基于深度神经网络的图像超分辨率重建,存在未完全考虑层次特征信息的提取和利用问题,本文提出了一种渐进式逐层密集连接网络。通过设计一种逐层密集连接特征融合块,以挖掘和利用图像中不同层次的特征信息,并且利用一种渐进式特征融合机制,在全局层次上融合从逐层密集连接特征融合块中提取到的特征信息,促进图像纹理细节的重建。实验结果表明,所提方法与其他方法相比,在客观评价指标与主观视觉效果上有着更加显著的表现。

基于可变形密集卷积神经网络的布匹瑕疵检测

针对传统布匹瑕疵检测方法无法适用于尺度变化大、面积占比小的瑕疵特征,提出一种基于可变形密集卷积神经网络模型。为了关注到图像中距离较远的特征信息,并避免捕获纹理信息,采用可变形卷积来增强特征的语义表达能力。通过在卷积层中设置卷积像素相对于中心像素各自的x,y方向偏移量,并利用反向传播训练偏移量以增加感受野的变形适应性。同时,采用密集连接的方式以保持模型不遗漏边缘瑕疵信息。最后,根据瑕疵类别预测和位置边框回归实现瑕疵的分类和定位检测。实验结果表明:该模型的平均检测精度和单类目标检测精度标准差分别为93.53%,2.5139,相比于其他方法更具有竞争力。

基于加权密集连接卷积网络的深度强化学习方法

针对深度强化学习中卷积神经网络(CNN)层数过深导致的梯度消失问题,提出一种将密集连接卷积网络应用于强化学习的方法。首先,利用密集连接卷积网络中的跨层连接结构进行图像特征的有效提取;然后,在密集连接卷积网络中加入权重系数,加权密集连接卷积网络中的每一层都接收到前面几层产生的所有特征图,且之前所有层在跨层连接中被赋予不同的初始权重;最后,在训练中动态调整每层的权重,从而更加有效地提取特征。与常规深度强化学习方法相比,在GridWorld仿真实验中,在相同训练步数内的平均奖励值提升了85.67%;在FlappyBird仿真中,平均奖励值提升了55.05%。实验结果表明所提方法能在不同难度的游戏仿真实验中获得更好的性能。

多维加权密集连接卷积网络的卫星云图云检测

云检测是多光谱卫星云图分析的前提。传统云检测方法不能很好地对多光谱卫星云图进行特征表示,导致了云检测不是很准确。卷积神经网络虽然能有效地提取特征,但训练时会产生梯度扩散,训练效率低,优化困难等问题。针对这些问题,提出多维加权密集连接卷积神经网络模型实现对多光谱卫星云图的云检测。跨层连接能够实现网络中所有层之间的信息流,从而减少训练过程中的梯度消失导致收敛困难的问题。特征图之间连接的权值不同使得网络能够更高效地利用特征信息。通过实验结果对比,该模型可以很好地提取云图特征,提高多光谱云图检测的准确率,具有更好的泛化性能和优化效率。

基于密集连接卷积神经网络的入侵检测技术研究

卷积神经网络在入侵检测技术领域中已得到广泛应用,一般地认为层次越深的网络结构其在特征提取、检测准确率等方面就越精确。但也伴随着梯度弥散、泛化能力不足且参数量大准确率不高等问题。针对上述问题,该文提出将密集连接卷积神经网络(DCCNet)应用到入侵检测技术中,并通过使用混合损失函数达到提升检测准确率的目的。用KDD 99数据集进行实验,将实验结果与常用的LeNet神经网络、VggNet神经网络结构相比。分析显示在检测的准确率上有一定的提高,而且缓解了在训练过程中梯度弥散问题。

基于一维密集连接卷积网络的故障诊断研究

近年来,由于深度学习的不断发展,基于数据驱动的轴承故障诊断被广泛研究,卷积神经网络(CNN)等深度神经网络模型逐渐被应用到故障诊断中.针对传统方法人工提取故障特征困难,深层CNN网络模型训练效率低,过拟合严重的问题,提出了一种基于一维密集连接卷积网络的轴承故障诊断模型.轴承的一维振动数据作为输入,利用卷积网络自动提取故障特征信息,采用密集连接机制实现高层次特征与低层次特征相结合,从而更有效地提取故障特征信息.通过批归一化等方法避免过拟合现象,最后利用SoftMax层对故障进行分类,从而实现智能故障诊断.对凯斯西储大学轴承数据集及高铁轮对轴承数据集上的不同故障类型的实测数据进行实验,实验结果表明,该方法在数据集上的准确率均能达到98%以上,能有效识别故障类型,具有一定的工程应用价值.

基于密集连接卷积网络的小面积指纹识别方法

针对基于细节特征点的传统指纹识别方法在小面积指纹识别时识别率明显下降的问题,提出一种基于密集连接卷积网络的小面积指纹识别方法。对指纹原图进行图像增强处理,充分利用密集连接卷积网络特征复用的优点构建提取指纹特征的深度学习模型,并将二值特征引进训练模型,依据指纹图像的二值特征和特征向量实现小面积指纹的注册和识别。实验结果表明,所提出的方法在自建数据集中正确识别率达到98.57%,高于基于细节特征点的传统指纹识别方法,基本满足智能移动端的应用要求。

基于空洞卷积密集连接网络的左心室MR图像分割方法

左心室核磁共振(MR)图像分割对于评估心脏功能和诊断疾病具有重要意义.传统分割算法对于左心室,尤其是含有左心室流出道的左心室MR图像,存在分割精度不够的问题.设计了一种基于空洞卷积密集连接网络的左心室MR图像分割方法.该方法利用密集连接网络和空洞卷积缓解了深度学习中梯度消失和内存过度消耗的问题,并且通过数据增强和提取感兴趣区域的方法提升了网络的准确性.分割结果采用平均垂直距离、Dice系数等指标进行评价分析.在MICCAI2009心室分割数据集的138张图片上的测试结果为:内、外膜的平均Dice系数分别为0.91和0.96,平均垂直距离分别为1.71和1.42.实验结果表明,此方法分割精度明显高于其他方法,对于含有左心室流出道的MR图像也能准确分割.

基于经验模式分解和一维密集连接卷积网络的电液换向阀内泄漏故障诊断方法

内泄漏作为电液换向阀常见的故障类型,其故障振动信号具有非平稳性、非线性等特点,且容易被其他信号淹没、破坏。对此提出了一种经验模式分解(Empirical Mode Decomposition,EMD)和一维密集连接卷积网络(Densely Connected Convolutional Networks,DenseNet)的电液换向阀内泄漏故障诊断方法。该方法首先利用EMD对振动信号进行分解得到一系列本征模态分量(Instrinsic Mode Function,IMF),并将IMF分量和原始振动信号依次进行并联堆叠;然后将并联堆叠信号作为一维密集连接卷积网络的输入进行特征的自动提取,并进行故障分类;最后通过DenseNet与传统的一维卷积神经网络(CNN)对比验证得出,该方法能准确、有效地对电液换向阀内泄漏故障进行诊断。

自学习稀疏密集连接卷积神经网络图像分类方法

通道剪枝是深度模型压缩的主要方法之一。针对密集连接卷积神经网络中,每一层都接收其前部所有卷积层的输出特征图作为输入,但并非每个后部层都需要所有先前层的特征,网络中存在很大冗余的缺点。本文提出一种自学习剪枝密集连接网络中冗余通道的方法,得到稀疏密集连接卷积神经网络。首先,提出了一种衡量每个卷积层中每个输入特征图对输出特征图贡献度大小的方法,贡献度小的输入特征图即为冗余特征图;其次,介绍了通过自学习,网络分阶段剪枝冗余通道的训练过程,得到了稀疏密集连接卷积神经网络,该网络剪枝了密集连接网络中的冗余通道,减少了网络参数,降低了存储和计算量;最后,为了验证本文方法的有效性,在图像分类数据集CIFAR-10/100上进行了实验,在不牺牲准确率的前提下减小了模型冗余。

密集连接扩张卷积神经网络的单幅图像去雾

针对大多数图像去雾算法模型参数估计准确性差及色彩失真等问题,提出了一种端到端的密集连接扩张卷积神经网络。首先,通过使用多层密集连接结构来增加网络的特征利用率,避免网络加深时的梯度消失现象。其次,通过在密集块中使用不同扩张率的扩张卷积,使网络在充分聚合上下文特征信息时不损失空间分辨率,并避免了网格伪影的产生。最后,为了提高算法的去雾能力,将该网络划分为多个阶段,并在每个阶段引入侧输出模块,从而获得更精确的特征信息。实验结果表明,所提出的去雾算法无论是在合成数据集上还是在真实数据集上都取得了较好的去雾效果,恢复的色彩更接近无雾图像,并且定量评价指标峰值信噪比(PSNR)和结构相似性(SSIM)均优于其他对比方法。

注意力密集卷积网络遥感影像多目标检测

针对遥感影像目标检测中背景复杂、正负样本严重不均衡问题,提出一种基于注意力与密集连接的遥感影像目标检测模型。在特征提取层使用卷积注意力模块分别沿通道、空间域聚合特征图正样本特征,同时通过密集连接加强层间交流;利用上下层特征融合与连续上采样构建3个尺度的特征增强金字塔。实验结果表明,本文模型对不同复杂程度场景下的各类别目标均能够实现稳定检出,且精度优于现有主流目标检测模型,具有良好的泛化能力与实时性。

基于密集连接卷积神经网络的远程监督关系抽取

密集连接卷积神经网络(DenseNet)是一种新型深度卷积神经网络架构,通过建立不同层间的连接关系,来确保网络层与层间最大程度的信息传输。在文本远程监督关系抽取任务中,针对现有神经网络方法使用浅层网络提取特征的局限,设计了一种基于密集连接方式的深度卷积神经网络模型。该模型采用五层卷积神经网络构成的密集连接模块和最大池化层作为句子编码器,通过合并不同层次的词法、句法和语义特征,来帮助网络学习特征,从而获取输入语句更丰富的语义信息,同时减轻深度神经网络的梯度消失现象,使得网络对自然语言的表征能力更强。模型在NYT-Freebase数据集上的平均准确率达到了82.5%,PR曲线面积达到了0.43。实验结果表明,该模型能够有效利用特征,并提高远程监督关系抽取的准确率。

改进密集连接卷积网络的滚动轴承故障诊断方法

针对滚动轴承工作环境噪声干扰较大、模型泛化能力不足、变工况诊断较难的问题,提出了一种改进密集连接卷积网络的故障诊断方法。将采集到的滚动轴承的原始时域信号作为模型输入,不需要任何数据处理,实现端到端的特征提取和分类任务。改进密集连接卷积网络在密集块中强调信息流动,增强特征复用,通过多尺度卷积层提取特征,利用注意力机制对多尺度特征通道加权。在堆叠的密集块和池化层完成主要特征提取后,采用多分类函数实现故障诊断。选用凯斯西储大学轴承数据集验证改进密集连接卷积网络的诊断能力,结果表明,改进密集连接卷积网络在理想试验下的识别率为99.8%、在抗噪试验下的识别率为98.22%,在泛化试验下的识别率为97.19%,识别率明显高于其他深度学习模型,证明了其在滚动轴承故障诊断方面的优越性。

基于一维密集连接卷积网络的风电齿轮箱智能故障分类

人工智能技术的飞速发展为现代能源装备的精益化故障诊断与健康管理提供了可能。风电齿轮箱由多个齿轮、轴承组成,且长期在变速、变载荷工况下运行,依靠传统的故障特征提取结合机器学习方法进行故障诊断存在精度低、缺乏智能性等缺点。文章提出了基于一维密集连接卷积网络的风电齿轮箱故障分类方法:将原始振动信号直接送入网络模型,经过密集连接、合成连接与卷积运算,匹配对应的故障类型,迭代训练故障分类模型;振动信号输入模型后的分类结果决定所属故障类别。文章所提出的风电齿轮箱故障分类方法具有诊断流程简单、故障识别率高等特点,多工况试验台故障数据验证了该方法的有效性。

DenseCNN-ATT:实体关系抽取的密集连接卷积神经网络

在远程监督(Distant Supervision,DS)实体关系抽取任务中,采用远程监督的方式虽然可以产生大量的标注数据,但是这种方法产生的数据集充满大量的噪声数据,从而会降低关系抽取的性能。为此,我们针对现有深度学习使用浅层和单一深层神经网络模型提取特征的局限,设计了一个融合注意力机制的密集连接卷积神经网络模型——DenseCNN-ATT,该模型采用五层卷积深度的CNN,构成密集连接卷积模块作为句子编码器,通过增加特征通道数量来提高特征传递,减少了特征梯度的消失现象;此外,为进一步减少噪声影响,论文将网络的最大池化结果融合注意力机制,通过强调句子权重,来提升关系抽取性能。该模型在NYT数据集上的平均准确率达到了83.2%,相比于目前效果较好的浅层网络PCNN+ATT和深层网络ResCNN-9提升了9%~11%。实验证明,该模型能够充分利用有效的实例关系,在综合性能上明显优于目前效果较好的主流模型。

密集连接卷积神经网络:让人工智能拥有更强大脑

人工智能技术经过半个多世纪的发展，伴随着这个领域的几度兴起和沉寂，终于在新的千年借助互联网、大数据、高性能芯片等技术，逐渐走向成熟和实用。相信不久的将来，随着深度神经网络等基础性技术的不断进步，人工智能将进入各个行业，彻底变革人们的生产和生活方式。