基于灰狼算法的配电网短路故障自动监测系统

针对接地短路故障中识别率较低、抗干扰性较大的问题,该文提出短路故障自动化监测系统。通过集成经验模态对零序电流做出分解,提取相应的本证模态分量,构建特征向量。结合灰狼算法对门控神经网络优化,加入相应的softmax分类优化,构建接地短路故障的自动化监测系统。经过实际算例验证,改进系统能够更稳定地进行故障识别,具有更高的准确率以及抗干扰性能。

基于内卷神经网络的轻量化步态识别方法

现有步态识别方法存在计算量大、识别速率较慢和易受视角变化影响等弊端,会造成模型难以部署、步态识别准确率降低等问题。针对以上问题本文提出一种基于内卷神经网络的高准确率步态识别方法。首先,基于残差网络架构和内卷神经网络算子提出了内卷神经网络模型,该模型利用内卷层实现步态特征提取以达到减少模型训练参数的目的;然后,在内卷神经网络模型基础上,建立一个由三元组损失函数和传统损失函数Softmax loss组成的联合损失函数,该函数使所提出的模型具有更好的识别性能及更高的跨视角条件的识别准确率;最后,基于CASIA-B步态数据集进行实验验证。实验结果表明,本文所提方法的网络模型参数量仅有5.04 MB,与改进前的残差网络相比参数量减少了53.46%;此外,本文网络在相同视角以及跨视角条件下相比主流算法具有更好的识别准确率,解决了视角变化情况下步态识别准确率降低的问题。

基于脉动阵列的层融合注意力模型加速器结构

注意力机制最近在深度神经网络中表现出优越的性能,但其计算包含复杂的数据流,内存开销和计算量大,需要定制加速器来优化推理计算。提出一种针对注意力机制计算的加速器结构。采用基于硬件控制的灵活分块方法,将模型中的巨大矩阵分成硬件亲和的计算块,使块矩阵的计算匹配加速器脉动阵列;提出基于双步softmax函数分解计算的层融合计算方法,有效减少了注意力模型计算对内存的访问。采用硬件描述语言HDL设计实现了细粒度计算调度的层融合注意力模型加速器结构。基于XILINX FPGA器件和HLS工具进行了性能评估。相同设置下,与CPU相比延迟加速了4.9倍,与GPU相比能效提升了1.24倍。

基于堆叠稀疏自动编码器的手写数字分类

将稀疏自动编码器(Sparse Autoencoder,SAE)模型应用于数字识别中,并通过多个稀疏自动编码器的堆叠构建了深度网络,采用非监督贪婪逐层训练算法(Greedy Layer-Wise Unsupervised Learning Algorithm)初始化网络权重,使用反向传播算法优化网络参数。利用堆叠稀疏自动编码器学习数字图像的特征,使用softmax分类器进行数字分类。经实验证明,与其它浅层学习模型对比,深度网络不仅进一步学习了数据的高层特征,同时还降低了特征维数,提高了分类器的分类精度,最终改善了手写数字的分类效果。

移动终端身份认证的深度信念网络模型

文章针对移动终端面临的信息安全问题,建立了移动终端身份认证的深度信念网络模型。利用触摸屏传感器采集用户原始触摸手势数据序列,经数据预处理后提取手势特征并传入深度信念网络模型;选用逐层贪婪算法进行无监督的预训练,再经反向传播算法进行有监督微调后固定模型参数;将测试手势特征数据作为模型输入层数据,经模型计算后得到输出层数据,由Softmax分类器对输出数据分类,认证用户身份。仿真实验结果表明,与连续隐马尔可夫模型、反向传播算法相比,文中深度信念网络模型能达到较低的错误率,明显提高认证的准确性。

基于轻量级卷积神经网络人脸识别算法的研究与应用

针对多数卷积神经网络(CNN)人脸识别算法在追求高精度的同时,加大网络层数,造成网络参数过多、计算量过大、训练速度缓慢且对设备要求高,增加了成本的问题,提出了一种改进型轻量级卷积神经网络MobileNet的人脸识别算法。首先,将MobileNet中的SoftMax层为L-SoftMax层,避免了过度拟合,实现更好的分类效果。其次,将改进的MobileNet和区域生成网络(RPN)融合,并在Jetson Nano小型设备上进行训练。实验表明:所提算法与传统的卷积神经网络人脸识别算法相比,在LFW人脸数据库和自建的小型数据库上训练测试,模型的参数量减少了88%,识别准确率与原MobileNet相比增加了0.2%,达到了97.54%。运行速度较原MobileNet网络提高了21.3%。

基于堆栈稀疏自编码器的滚动轴承故障诊断

针对提取有效滚动轴承特征和消除特征之间的冗余,提出一种基于堆栈稀疏自编码器和Softmax层构建的深度神经网络(DNN)用于轴承故障诊断。首先从振动信号提取12个统计特征和6个时频域特征,然后将获得的特征用于构建18维特征向量;高维特征向量通过堆栈稀疏自编码器逐层贪婪学习获得无冗余的高级特征;最后将高级特征输入Softmax分类层进行轴承故障诊断。实验结果表明:相比于传统BP和SVM分类器,DNN能更准确地识别滚动轴承故障类型。

多级卷积神经网络的沥青路面裂缝图像层次化筛选

如何快速准确地识别与评估沥青路面裂缝病害,已成为路面养护和保障道路安全的重要任务之一。实际采集路面图像中往往存在大量的非裂缝图像,在保证裂缝图像无漏筛的前提下,尽可能提高裂缝图像的精确率与非裂缝图像的真负例率,则对于降低人工筛选的工作强度,以及后续裂缝自动分割与病害损坏程度评估具有重要实际意义。故此,提出了一种多级卷积神经网络的沥青路面裂缝图像筛选方法,由训练、微调与验证三阶段构成,利用微调集获得softmax层输入微调增量。为避免裂缝图像召回率增加与精确率下降的问题,在对比不同卷积神经网络筛除的非裂缝图像异同基础上,采用改进AlexNet作为一级筛选网络,VGG16或ResNet50作为二、三级筛选网络的层次化处理模型。对于含噪声及复杂路面图像测试集的实验结果表明,三级层次化筛选模型能在100%召回裂缝图像时,达到高的真负例率及准确率。与其他方法的对比实验表明,所提方法可有效解决沥青路面裂缝图像漏筛问题,且具有更好的检测效果。

基于优化卷积深度信念网络的智能手机身份认证方法

针对智能手机面临的信息安全问题,研究了一种优化卷积深度信念网络的智能手机身份认证方法。先对采集的原始数据进行预处理,再引入稀疏自编码器进行预训练,预训练后的权重作为卷积深度信念网络模型的卷积核,选用逐层贪婪算法用于模型的正式训练;训练后,经均方根连接层对提取的特征进行整合,并利用监督学习算法调节均方根连接层与输出层之间的权重;最后,由Softmax分类器输出分类结果。该方法可直接处理高维手势数据,建立手势模型进行特征提取。仿真结果表明,与隐马尔科夫算法、深度信念网络算法相比,该方法可显著提高身份认证的准确率。