智能电网中基于批标准化LSTM的互感器故障诊断技术

互感器是高压电力系统中的必备设备之一,一旦互感器发生故障,将会导致保护装置拒动误动,造成电网瘫痪。传统的故障诊断和分类方法首先从原始过程数据中提取特征,然后采用特定的分类器进行诊断,缺乏对原始数据中动态信息的自适应处理。为了提高传统循环神经网络在诊断中的准确度,并考虑到长短记忆神经网络诊断时间较长的缺陷,提出一种基于批标准化的LSTM模型的故障诊断方法。该方法无需进行特征提取和分类器设计,直接对故障进行分类,并且能自适应学习动态故障数据。通过与其他故障诊断方法比较,该方法的诊断精度和诊断性能较高,在互感器故障诊断领域具有良好的应用价值。

基于批标准化的堆叠自编码网络风电机组变桨系统故障诊断

为了提高风电机组变桨系统故障诊断的准确性,提出一种基于批标准化的堆叠自编码(SAE)网络故障诊断模型。针对SAE网络在特征学习过程出现的梯度硬饱和问题,选用PReLU激活函数,在SAE网络中加入批标准化(BN)层进行优化,通过输出层的Softmax函数,得到变桨系统各部件故障发生概率。以均方误差最小化为目标,采用Adam算法迭代训练数据,使模型参数得到更新。在风电机组变桨系统数据采集与监视控制(SCADA)系统中的数据集中,对优化前后的SAE网络通过改变迭代次数、样本数量进行实验,结果表明,优化后的SAE网络模型具有更好的识别精度;另外,在不同样本数量的实验中,与其他传统模型相比,优化后的SAE网络模型故障识别率也更高,表明其在风电机组故障诊断领域有一定的应用价值。

随机丢弃和批标准化的深度卷积神经网络柴油机失火故障诊断

针对已有的柴油机失火故障诊断方法需要精细且耗时的时频特征提取过程,且对实际含有噪声的样本诊断准确率低的问题,提出了一种随机丢弃和批标准化的深度卷积神经网络柴油机失火故障诊断方法。在不同的转速工况下进行柴油机失火故障模拟试验,将采集到的原始缸盖振动信号作为深度卷积神经网络的输入,并在输入端引入随机丢弃抑制输入噪声,通过一维卷积操作自动提取失火故障模式特征,接着在各卷积输出层对特征信号进行批标准化处理,以减少信号在深度卷积层内部的方差偏移,最后基于多分类函数完成失火故障分类。不同噪声环境和方法的对比试验结果表明,所提方法的分类准确率最高可达100%,同时在保证算法准确率的前提下,其鲁棒性优于依赖时频提取特征的方法。

针对滚动轴承故障的批标准化CNN-LSTM诊断方法

旋转机械健康状况的实时监测十分重要,其中滚动轴承故障更是研究的重点。传统的故障诊断方法难以高效准确地诊断出结构复杂的机械故障,而深度学习强大的数据分析和学习能力,使其在机械故障诊断领域发展迅速。为了提高传统卷积神经网络(CNN)在诊断中的准确度,并考虑到长短记忆网络(LSTM)诊断时间较长的缺陷,提出一种批标准化(BN)的CNN-LSTM模型。在凯斯西储大学轴承数据集上的实验表明,批标准化提高了该混合模型的诊断精度和效率。该方法获得了优于传统深度学习故障诊断方法的诊断结果,能够高效准确地进行多种负荷下、多种故障位置以及多种故障程度的诊断。

基于改进VGG-16网络模型的苹果病害识别

针对苹果叶面病害识别问题,文章在对现有的VGG网络模型研究的基础上,提出了一种在VGG-16网络模型基础上进行改进的方法,即VGG-16-BN模型.首先对西北农林科技大学制作的数据集进行处理,然后将max pooling层替换为sort-pool2d池化层,使模型更快地收敛,最后在每一卷积层后增设BN层,加快训练速度,防止过拟合.实验结果表明,新的网络模型在数据集中的准确率相较于未增设BN层有了一定提高,其准确率达到96.67%.

转速大波动下滚动轴承智能故障诊断方法研究

机械中普遍存在的转速大波动工况是影响机械设备故障诊断的关键性难题,现有方法在计算效率及诊断误差等方面存在缺陷。深度学习理论能够利用深度神经网络实现数据的自动特征提取和分类。结合深度学习的优势,提出了一种专门用于处理转速大波动工况下的智能故障诊断方法。该方法首先根据机械转速信息提取频域样本;然后利用频域样本训练批标准化的深度神经网络,用批标准化技术中的平移和缩放参数能来处理转速大波动下频域信号的频移和幅变特性,并减轻深度网络内部协变量转移问题,加快网络收敛;最后采用两组特殊设计的转速大波动工况下的滚动轴承试验来验证提出方法的性能。研究结果表明,该方法可克服转速大波动的影响,从而实现不同轴承故障的准确识别,并获得比其他方法更高的准确率。

分布式卷积神经网络在刀具磨损量预测中的应用

刀具磨损量预测对提高设备运行的安全性和可靠性具有重大意义。为了提高刀具磨损量预测精度,本文提出了基于分布式卷积神经网络的刀具磨损量预测方法,该方法将原始高频信号样本作为输入,在模型中分为若干个子序列,利用分布式卷积-池化层作为局部特征提取器,从子序列中自适应提取特征,并对特征数据进行批标准化处理,最后经过非线性映射,对刀具磨损量进行预测。本文提出的模型与BPNN模型相比均方误差降低了51.3%,具有更高的预测精度。

基于字符编码与卷积神经网络的汉字识别

汉字识别是人工智能与模式识别领域中重要的研究内容,针对现有的研究仍然存在着参数调整难度大、训练样本数少、不能识别所有常用字符等问题,提出了一种基于字符编码与卷积神经网络的汉字识别方法,首先通过查询字库得到所有字符信息,以utf-8编码方式与多种字体编码文件进行编码输出字符图像,再进行多种图像处理后得到数据集,并利用深度卷积神经网络进行训练识别,在网络训练中通过数据扩增、批标准化、RMSProp优化等方式进行优化,同时加入正则化和Dropout防止过拟合。实验结果表明,所提方法对于汉字的识别率达到了98.08%,与Alexnet、LeNet-5相比,使用同一数据集在识别准确率上提高了9.37%、21.14%,实现了一个识别率高、特征提取能力与泛化能力强的神经网络。

基于时空图卷积网络的交通事故风险预测研究

交通事故的预测是通过对过去路段发生的交通事故进行分析,在综合考虑影响交通事故的相关因素后,对未来路段的交通事故发生状态进行预测。以往的大多数研究通常采用传统机器学习方法或单一深度学习模型预测法,利用网格化确定预测空间的单位,忽略了影响交通事故的天气、路况等外部因素,导致模型的预测性能不佳。提出一种基于时空特性的城市交通事故风险预测模型,在模型中使用改进的时空图卷积网络,利用图卷积网络(GCN)提取空间相关特征,并加入批标准化层解决梯度消失爆炸问题。在时间维度上采用门控线性单元(GLU)实现一维卷积操作,提取时间相关特征,并将GCN和GLU组合成时空卷积模块提取时空相关特征,使用均方误差损失函数解决样本数据零膨胀问题。实验结果表明,与GLU、SDCAE和ConvLSTM模型相比,该模型的RMSE指标分别降低了28%、4.87%、4.19%,能有效捕获时空相关性,综合性能得到较大提升。

基于PSWE模型的土壤水盐运移与夏玉米生产效益模拟

为实现多因素影响下土壤水盐、作物生产效益间的双层递进因果关系模拟,基于深度学习理论及方法将分级长短期记忆网络(HLSTM)与批标准化多层感知机(BMLP)耦合,且将Dropout与Adam优化算法耦合作为面向收敛的改进算法,构建了递进水盐嵌入神经网络(Progressive salt-water embedding neural network,PSWE)模型。评估了PSWE模型的有效性,并开展了多因素协同秸秆深埋下不同灌水量的土壤水盐及夏玉米生产效益的模拟。结果表明,PSWE模型具有多因素整体协同性,有效地模拟了土壤水盐运移规律、夏玉米生产效益及各变量间的内在依存关系。模型平均均方根误差为0.031,平均绝对误差为0.569,平均决定系数为0.987。模拟结果表明,单次灌水60 mm的耕作层(0~40 cm)含水率随时间推移持续降低,单次灌水135 mm的耕作层含水率变幅较大,成熟期二者在秸秆隔层积盐率分别为49.2%和11.2%;单次灌水90 mm和120 mm的耕作层含水率保持在16%~24%之间,成熟期二者在大于40 cm土层含水率保持平稳,秸秆隔层有脱盐趋势,脱盐率为6.1%和5.9%;夏玉米单次理论灌水量为89.3~96.8 mm,耕作层理论含盐量为1.38~1.55 g/kg。综上,多因素协同秸秆深埋下适宜灌溉量可实现抑盐提效的目标,PSWE模型可有效模拟土壤水盐运移和作物生产效益,为深度学习理论及技术在土壤水盐运移模型上的应用提供参考。

天然气管道泄漏声学检测及定位方法

天然气管道泄漏监测进入大数据时代,深度学习能够利用深度神经网络实现特征的自动提取和数据分类,在图像、自然语言处理等领域获得广泛应用。针对传统方法存在采集数据冗余、特征提取和识别受主观因素影响以及计算效率方面存在不足等问题,结合深度学习理论,提出一种改进的深度稀疏滤波模型来实现天然气管道泄漏智能检测识别。首先根据管道泄漏信息提取频域样本,利用样本数据训练改进的稀疏滤波,用He初始值抑制网络学习中的过拟合问题;再通过批标准化技术中平移和缩放参数调整网络隐层激活值的分布,使深度稀疏滤波更有效地进行学习;最后采用两组管道泄漏试验来验证提出方法的性能。研究结果表明,该方法可以快速有效地提取数据特征,实现准确识别泄漏孔径和定位检测,并获得比其他方法更高的准确率。

多优化机制下深度神经网络的音频场景识别

随着并行计算能力的不断攀升和音频数据量的日益扩增,音频场景识别成为场景理解领域重要的研究内容之一。针对音频场景识别建模难度大和识别准确率不高的问题,本文提出了融合多优化机制的并行卷积循环神经网络算法模型。首先,将音频信号经预处理后转化为一定尺寸的梅尔声谱图,之后输入到网络模型中进行充分的空间特征和时间特征学习,最后进行识别。为了验证模型的有效性,在DCASE2019音频场景数据集上进行识别性能测试,结果显示,该算法模型对音频场景的识别准确率能够达到88.84%,优于传统网络模型,说明该算法模型对音频场景识别问题的有效性。

基于改进堆叠自编码网络的电站辅机故障预警

为了提高对辅机故障的事前预知能力,结合深度学习中非监督学习方法的优势,提出基于改进堆叠自编码网络的电站辅机故障预警方法。该方法以辅机的历史正常数据为训练集,利用堆叠自编码(SAE)网络的非线性表达能力表示辅机各变量之间的关系,同时引入批标准化(BN)算法优化网络性能。对于输入的观测向量,SAE网络给出相应的重构向量。构造基于融合距离的相似度表示观测向量与重构向量间的偏差,当辅机开始偏离正常状态时,观测值与重构值偏差增大,相似度下降至预警阈值即表明设备出现故障。分别利用某热电机组中速磨煤机的正常数据与故障数据进行测试与验证,结果显示引入BN算法的SAE网络具有更低的重构误差,同时能够在磨煤机跳闸前做出预警,表明该方法可对辅机故障进行有效预警,具有一定的工程应用价值。

基于改进 U-Net 网络的混凝土表面裂缝分割

如何快速、高效、准确地像素级分割混凝土表面裂缝是当前研究的热点问题之一。在混凝土表面裂缝图像中裂缝面积远远小于正常路面面积,造成现有方法在这种正负样本分布不均问题中无法有效学习裂缝特征,最终分割效果较差。提出了一种将Focal损失与活动轮廓模型相结合的新损失函数,针对裂缝面积较小且连续分布的特点,通过Focal损失加强模型在训练过程中对裂缝的敏感程度;使用活动轮廓模型保证分割结果在形态上与真实结果保持一致。同时在模型卷积块中添加批标准化层,提升激活效果,抑制模型训练过程中梯度震荡的产生。为了将本模型部署于车载检测器等嵌入式环境,在保证分割精度的同时对模型进行剪枝与量化,以实现压缩模型大小。试验结果表明,提出的方法能够有效学习裂缝特征,并能精确、高效地识别出混凝土图像中的裂缝。

基于GRNN与注意力机制模型的非侵入式家用负荷分解

为了提高识别精度,提出一种基于GRNN与注意力机制模型的非侵入式家用负荷分解方法。采用批标准化来减少神经网络层与层之间的耦合,利用GRNN强大的时间序列特征表示能力,来提取电力负荷入口处测得的总用电信息与各电器能耗之间的关系,同时利用注意力机制来减少模型的权重参数。最后通过算例验证了算法的可行性与优越性。

基于神经元块级别注意力机制的LSTM关系抽取

目前关系抽取方法中,传统深度学习方法存在长距离依赖问题,并且未考虑模型内部神经元特征之间的相关性。针对以上问题,提出一种基于神经元块级别注意力机制的LSTM(long short-term memory)关系抽取方法。将多特征向量相融合作为双向LSTM的输入,采用块级别注意力机制对神经元特征进行注意力计算,通过注意力概率分布对神经元特征进行更新,同时采用批标准化算法对神经元的注意力特征进行优化,获取双向LSTM模型的输出特征;最后采用句子级别注意力机制对输出特征进行注意力计算,通过softmax分类器输出分类结果。在SemEval-2010task 8关系数据集上的实验结果表明,该方法的准确率较传统深度学习方法有进一步提升。

基于人体骨骼点检测与多层感知机的人体姿态识别

近年来,随着人工智能与机器视觉的发展,图像识别,目标跟踪监测技术越来越深入人们日常的经济生活中,对于人体的姿态识别也有着越来越多的需求。自下而上的人体骨骼点检测网络Openpose相较与自上而下的RMPE与CPN网络在识别精度和速度上都有着很大的提升。然而仍不足以在移动与嵌入式设备中进行平日的应用。针对此问题,提出了一种方法,该方法利用深度可分解卷积的方式对Openpose网络做出改进,并使用多层感知器来训练和分类所识别的骨骼点,自适应梯度法优化随机梯度下降过程,使得整个网络可以自我调节学习率,再利用批标准化得方法对网络中的参数进行处理,以提高网络最终的分类准确率。最后在Jetson TX2开发板上测试得到在网络训练迭代5000次时,对站姿,坐姿,躺姿识别精度达到了0.843,0.839,0.831,每帧图片的检测时间提升到0.5s。实验表明,整个网络可以有效对人体的站姿,坐姿,躺姿进行识别,并可以在嵌入式设备上较快速度运行。

基于卷积神经网络的单路PPG信号的连续动脉血压测量算法

利用脉搏波特征参数法估测动脉血压(ABP)时,需要进行人工特征设计和筛选以提取出与动脉血压相关性高的特征参数,具有局限性。对此,提出基于卷积神经网络(CNN)的单路光电容积脉搏波信号(PPG)的连续动脉血压测量算法。对PPG信号依次进行去噪平滑、单周期分割和插值处理后,将其输入到CNN中进行特征提取,以建立其与动脉血压间的关系。根据美国医疗器械促进协会(AAMI)的规定,医疗用途的血压测量器械的平均误差应不大于5±8 mmHg。实验结果表明,该算法的测量误差满足AAMI要求。

基于改进堆叠自编码网络的电站辅机故障预警

为了提高对辅机故障的事前预知能力,结合深度学习中非监督学习方法的优势,提出基于改进堆叠自编码网络的电站辅机故障预警方法。以辅机的历史正常数据为训练集,利用堆叠自编码(SAE)网络的非线性表达能力表示辅机各变量之间的关系,同时引入批标准化(BN)算法优化网络性能。对于输入的观测向量,SAE网络给出相应的重构向量。构造基于融合距离的相似度表示观测向量与重构向量间的偏差,当辅机开始偏离正常状态时,观测值与重构值偏差增大,相似度下降至预警阈值即表明设备出现故障。分别利用某热电机组中速磨煤机的正常数据与故障数据进行测试与验证,结果显示引入BN算法的SAE网络具有更低的重构误差,同时能够在磨煤机跳闸前做出预警,表明所提方法可对辅机故障进行有效预警,具有一定的工程应用价值。

融合阈值寻优的卷积神经网络在图像标注中的应用

多标签图像标注在根据模型预测的概率,利用排名函数进行标注时会出现多标或少标的问题,提出了融合阈值寻优的卷积神经网络(CNN-THOP)模型,该模型由卷积神经网络(CNN)和阈值寻优构成。首先,通过CNN训练模型,利用该模型对图片进行预测,得到预测概率,其中在CNN中增加了批标准化层(BN)有效地加快了收敛。其次,利用该模型对测试集图片的预测概率进行阈值寻优,经过阈值寻优过程为每类标签得到一个最佳阈值,从而得到一组最佳阈值,只有当该类标签的预测概率大于等于该类标签的最佳阈值时,才会给图片标注该标签。在标注过程中,通过载入CNN模型和一组最佳阈值可以对所需标注的图像进行更加灵活的多标签标注。通过在自然场景图像数据集8000张图片上的验证,结果表明,CNN-THOP较传统的基于排名的支持向量机法(Rank-SVM)在平均查准率上提升了约20个百分点,较基于均方误差函数的卷积神经网络(CNN-MSE)在平均召回率和F1值上分别提高了约6个百分点和4个百分点,且完全匹配度(CMD)达到了64.75%,验证了该方法在图像自动标注方面的有效性。