基于Mish函数的神经网络算法在电感辨识中的应用

随着永磁电机运行过程中转速的升高,电机的内部参数会随着磁路饱和逐渐发生改变,其中电感参数对电机的稳态和动态运行性能影响较大。本文基于模型参考自适应的理论基础,提出了加入神经网络算法对d、q轴电感进行辨识的算法,并采用mish函数作为激活函数应用到神经网络算法中,并将辨识结果应用到电机矢量控制中,仿真结果验证了该激活函数的有效性,在不影响电机系统正常运行的同时,提升了辨识过程中的收敛速度。

基于手写体数字识别的激活函数对比研究

针对手写体数据集在卷积神经网络训练时分别使用sigmoid、tanh、relu与mish激活函数进行实验,对这四种激活函数下训练集误差值收敛曲线以及测试集精度曲线进行算法结果分析,实验结果表明,mish激活函数在手写体数据集上进行卷积神经网络训练时效果更佳,而同样得出不同的训练数据集、激活函数的选择会影响算法对数据的拟合度和神经网络的收敛性。

基于ResNet与分离注意力机制的肺部超声图像分类系统设计

目的为解决传统的深度学习模型在处理具有多样性图像质量和微妙病变区域差异的肺部超声图像方面性能不佳的问题,设计一种基于残差网络(Residual Network,ResNet)与分离注意力机制的肺部超声图像分类系统。方法采用ResNet152作为基础模型,结合分离注意力机制,通过对肺部超声图像进行预处理、数据增强和标准化处理,以提高模型的特征提取和分类能力。模型首先通过ResNet152进行深度特征提取,随后在各层引入分离注意力机制,增强模型对重要图像特征的关注,从而提高分类性能。结果实验结果表明,优化后模型与原始模型相比,分类准确度在A线、B线、胸腔积液和肺实变上分别提升了0.51%、0.95%、14.17%和6.29%。通过消融实验,当同时使用Mish函数和分离注意力机制时,混合模型达到了97.92%的准确度。结论本文提出的融合ResNet与分离注意力机制的肺部超声图像分类系统模型可为临床超声诊断提供较高的参考价值。

多模态数据融合的加工作业动态手势识别方法

为了解决单模态数据所提供的特征信息缺乏而导致的识别准确率难以提高、模型鲁棒性较低等问题,提出了面向人机交互的加工作业多模态数据融合动态手势识别策略。首先,采用C3D网络模型并在视频的空间维度和时间维度对深度图像和彩色图像两种模态数据进行特征提取;其次,将两种模态数据识别结果在决策层按最大值规则进行融合,同时,将原模型使用的Relu激活函数替换为Mish激活函数优化梯度特性;最后,通过3组对比实验得到6种动态手势的平均识别准确率为96.8%。结果表明:所提方法实现了加工作业中动态手势识别的高准确率和高鲁棒性的目标,对人机交互技术在实际生产场景中的应用起到推动作用。

基于改进卷积神经网络的中药饮片图像识别

为解决AlexNet网络模型在中药饮片图像识别中存在的识别准确率和鲁棒性不够理想的问题,以常见的50种中药饮片为研究对象,对AlexNet网络模型进行改进优化。首先通过拍摄以及搜索引擎获取中药饮片图像,并对图像进行数据扩充以及细节增强预处理。其次对AlexNet网络模型进行优化改进,通过缩减原网络的卷积核个数和卷积核大小、使用全局平均池化(global average pooling,GAP)替代全连接层以减少网络参数;去除局部响应归一化(local response normalization,LRN)层、引入批量归一化(batch normalization,BN)层和使用Lion优化算法替代随机梯度下降(stochastic gradient descent,SGD)优化算法以提高网络训练速度;使用Mish激活函数替代ReLU激活函数和引入通道注意力机制SENet网络以提高模型的识别精度。实验结果表明,改进后的网络模型相比于AlexNet网络模型,平均识别率提高了6.1%,平均损失率下降了14.4%,网络参数由原来的60 M缩减至1 M,该结果表明在中药饮片数据集上,改进后的网络模型具有更高的识别率和更好的鲁棒性,可为中药饮片图像识别领域的进一步发展提供有力支持。

结合注意力机制的轻量化人脸表情识别方法

针对目前人脸表情识别方法存在参数量多、计算资源消耗大和识别精度低的问题,研究一种轻量化的人脸表情识别方法。首先,对MobileNet V3L网络层数进行缩减,同时将倒残差结构中间通道数和输出通道数增大至原来的1.5~3.2倍。其次,引入改进的条件坐标注意力机制,在坐标信息嵌入中根据中间通道的数量,选择平均池化或最大池化进行编码,提取面部表情在空间和通道位置上的详细信息。最后,使用Mish代替h-swish激活函数,实现特征提取后的非线性化。在公开数据集FERPlus和RAF-DB进行实验,结果表明,所提方法比原始MobileNet系列模型识别精度分别提高0.60%和1.07%以上。所提方法比Ada-CM网络推理速度提升21.94%,识别精度提高0.49%以上,实验表明该方法具有良好的识别性能。

基于yolov5的弱光环境航拍车辆检测

针对yolov5检测无人机航拍图像时对弱光背景目标监测性能不佳这一问题,基于深度学习方法提出了一种改进算法。首先对目标数据集visdrone2019进行数据归一化,提高后续训练效果。而后对yolov5引入添加了Mish激活函数的动态卷积核和使用分布式偏移卷积替换C3块的C3_DSConv模块,并将上述两种卷积结构融合到yolov5网络中;对网络嵌入Bi-Former注意力机制,提升对小目标检测精度。综上所述,最终得到MODB-yolov5模型,实验结果证明该模型的mAP和recall均有提高,检测阴影、黑暗环境中的车辆时精确度明显上升,且FPS较高,这保证了模型仍可用于快速检测或者实时监测。

改进YOLOv7-tiny的目标检测轻量化模型

当前目标检测算法参数量大、计算复杂度高,难以部署在计算资源有限的边缘终端设备上,为此,提出一种改进的YOLOv7-tiny模型。引入ShuffleNet v1网络,改进后作为新的特征提取网络,增强对图像特征的提取,降低计算复杂度,获取更多丰富的语义信息,进一步提升检测精度;引入GSConv(鬼影混洗卷积)模块改进网络的Neck层,在降低参数量和计算量前提下,提升检测效果;采用Mish激活函数,增加非线性表达,提高模型的泛化能力。实验结果表明,改进后的模型与原模型相比,精度提高了3.3%,参数量和计算量分别下降了4.8%和13.7%,模型规模降低了8.7%。改进后的YOLOv7-tiny在保持较高的精度下,降低了模型的参数量和计算量,进一步提升了检测效果,为在边缘终端设备部署提供了可行性。

基于改进YOLOv3模型的软包装食品自动识别方法

目的:解决现有包装食品自动识别方法存在的识别精度差、效率低等问题。方法:基于软包装食品自动识别系统,提出一种改进的YOLOv3模型用于软包装食品的自动识别。将Kmeans++算法引入模型中解决小目标不敏感问题,将Mish激活函数引入模型中提高识别的准确性,将注意力机制Senet引入模型中提高特征提取能力。通过试验分析了该识别模型的性能,验证了模型的优越性。结果:与常规识别方法相比,所提方法能更准确、高效地实现软包装食品的自动识别,识别准确率为95.40%,识别效率为23.80帧/s,满足包装食品识别的需要。结论:通过对现有食品识别模型的优化,可以有效提高识别模型的性能。

基于改进教师学生网络的隧道火灾检测

隧道空间狭小,封闭性高,当发生火灾时,火势会迅速蔓延,导致救援难度增大,严重危害人们的生命财产安全。现有隧道火灾检测方法精度低且数据集匮乏,针对上述问题,提出一种基于改进教师学生网络的隧道火灾检测方法。首先,通过无监督学习对没有火灾的样本进行训练从而检测火灾,可以弥补隧道火灾数据集匮乏的问题,同时采用相同结构的学生网络和教师网络组成整体网络结构,在用于知识蒸馏的残差块中加入注意力机制以减少重要信息损失,过滤无关信息,其次用Mish激活函数代替Relu激活函数以提高网络性能,最后引入SPD-Conv模块代替跨步卷积层和池化层以提高较小火灾区域的检测精度。实验结果表明:改进的教师学生网络在自制隧道火灾数据集的像素级AUC-ROC和图像级AUC-ROC分别达到0.93和0.82,与现有隧道火灾检测算法相比,该模型检测精度均高于其他模型,验证了该模型的有效性。

基于改进Bi-LSTM网络下的多时变状态锂电池剩余寿命预测方法

针对现有模型仅考虑一种内部状态对锂电池性能退化影响的问题,同步建立3个模型分别预测3种时变状态随锂电池性能退化的变化轨迹,并以内阻与温度预测为基础实现锂电池容量的实时更新;针对传统神经网络中的sigmoid与ReLU激活函数存在梯度消失与神经元坏死问题,在双向长短时记忆(bi-directional long short term memory,Bi-LSTM)网络与全连接网络中引入一种新的Mish激活函数,使模型以平稳的梯度流提取更高质量的特征用于剩余使用寿命(RUL)预测的建模分析。最后利用蒙特卡洛(Monte Carlo,MC)与Dropout技术对锂电池RUL的预测结果不确定性进行分析。在美国Kristen教授课题组所公开的锂电池数据集上进行对比试验的结果表明,所提改进Bi-LSTM模型预测的均方误差(mean squared error,MSE)、平均绝对误差(mean absolute error,MAE)与R^(2)可达9.16×10^(-5)、0.00795、99.794%。随着获取数据量的增加,模型对锂电池RUL预测的精度越高,RUL平均预测误差可达2.3个循环,验证了所提模型能有效地实现锂电池循环RUL的实时更新。

基于前馈去噪卷积神经网络的地震数据去噪方法

随机噪声压制是提高地震数据信噪比的有效方法,这里利用前馈去噪卷积神经网络(Denoising Convolutional Neural Network,DnCNN)的深度学习去噪方法,对地震数据随机噪声的去除进行了研究,同时利用Mish激活函数构建M-DnCNN网络进一步提升网络模型的去噪性能。该方法基于神经网络与统计学原理,通过卷积神经网络自动提取特征,利用单个残差单元来预测噪声,即输入含噪地震数据,经过M-DnCNN学习后输出预测的噪声,将输入与输出噪声作差,得到去噪后的地震数据。在实验部分,首先利用合成地震数据对该方法的去噪效果进行验证,同时将M-DnCNN与均值滤波和f-x域预测滤波方法进行去噪对比,结果表明:M-DnCNN在去除地震数据随机噪声方面优于原始DnCNN,与其他两种去噪方法相比能够更有效地压制随机噪声;随后将M-DnCNN用于实际地震数据的去噪实验,实验证明M-DnCNN在实际地震数据的去噪处理中同样适用,其在保留并突出有效信号的同时可达到较好的去噪效果。

基于多分支瓶颈结构的轻量型图像分类算法研究

传统卷积神经网络存在着参数量大、训练耗时长、轻量级模型的识别准确度不足的问题.本文提出了一种基于ResNet网络的多分支结构轻量化网络(Residual multi-branch structured Network,RemulbNet),通过在残差结构的主干中使用多分支结构增加特征多样性,利用变体的深度可分离卷积缩减模型参数量,采用Mish激活函数增加网络的非线性表达能力,在有效减少模型体积的情况下,提升网络的分类准确率.利用图像识别数据库,对网络性能进行测试.研究表明,对于5分类花卉识别问题,RemulbNet相比ResNet网络识别准确率提高3.9%,模型参数量减小71%,模型体积减小77%,缩短了约40%训练耗时;与轻量级网络(MobileNet v2和ShuffleNet v2)相比,RemulbNet在识别准确度、模型体积、训练时长和不同的图像分类数据集上都表现出优良的性能.

基于改进ShuffleNetV2网络的岩石图像识别

由于基于传统深度学习的岩石图像识别算法模型比较繁琐,而且应用于移动终端等需要一定的计算能力,因此很难实现对岩石类型的实时准确判别。为此,以ShuffleNetV2网络为基础,插入通道连接注意力机制ECA(Efficient Channel Attention)模块,使用Mish激活函数代替ReLU激活函数并引入轻量级网络部件中的深度可分离卷积。将该方法用于岩石图像识别,实验结果表明,改进后的算法结构简单,同时具有轻量化的特点,其识别精度达到94.74%,可在移动终端等有限资源环境下应用。

基于改进YOLOv5的目标检测算法研究

为提高道路目标检测精度,采用了基于YOLOv5网络模型的改进算法。其中,利用Mish激活函数来提高特征提取能力,引入CBAM注意力机制对特征信息进行增强,采用DIOU目标回归损失函数来直接最小化两个目标框的距离,从而提高收敛速度。实验结果表明,所提出的算法在公开的自动驾驶数据集KITTI上的表现非常出色,达到了91.1%的mAP和94.9%的检测精度,相比原始算法分别提高了3.1%和3.2%。此外,所提出的算法具有较好的检测速度(69帧/s)和实时性,相比一些主流的目标检测算法,具有一定的优越性。

改进YOLOv3的轮毂焊缝缺陷检测

为了实现轮毂焊缝缺陷的智能化检测,本文对深度学习目标检测算法(You Only Look Once version3,YOLOv3)进行改进,得到YOLOv3-MC算法用于轮毂焊缝缺陷的检测。首先,使用工业相机采集轮毂焊缝图像,然后标注图像制作数据集,并且通过数据增强方法扩充数据集。接着,为了提高算法检测精度,使用Mish激活函数替换YOLOv3主干网络中的激活函数。修改算法的损失函数,使用完备交并比(Complete Intersection over Union,CIoU)的计算方法提升算法检测的定位精度。最后使用训练集训练算法模型,再使用验证集和测试集图像数据进行检测试验,结果表明,YOLOv3-MC的最优模型在验证集上的平均准确率(Mean Average Precision,mAP)达到了98.94%,F1得分值为0.99,平均交并比(Average Intersection over Union,AvgIoU)为80.92%,检测速度为76.59帧/秒,模型大小234MB。该模型在测试集上的检测正确率达到了99.29%。相较于传统机器视觉检测方法,该方法提高了检测精度,满足轮毂生产企业的焊缝实时在线检测需求。

基于改进PP-YOLO和Deep-SORT的多无人机实时跟踪算法

无人机(UAV)目标尺寸较小,多架无人机之间特征也不明显,且鸟类和飞虫的干扰给无人机目标的准确检测和稳定跟踪带来了巨大挑战。针对传统目标检测算法对小目标无人机检测性能差、跟踪不稳定的问题,提出一种基于改进PP-YOLO和Deep-SORT的多无人机实时跟踪算法。首先,将压缩-激励模块融入PP-YOLO检测算法中,以实现对无人机目标的特征提取和检测;其次,在ResNet50-vd结构中引入Mish激活函数,以解决反向传播过程中的梯度消失问题,并进一步提升检测精度;然后,采用Deep-SORT算法来实时跟踪无人机目标,并将提取外观特征的主干网络更换为ResNet50,从而改善原有网络对微小外观感知能力弱的状况;最后,引入损失函数Margin Loss,既提高了类别可分性,又加强了类内紧度和类间差异。实验结果表明,所提算法的检测平均精度均值(mAP)相比原始PPYOLO算法提升了2.27个百分点,跟踪准确性相对于原始Deep-SORT算法提升了4.5个百分点。所提算法的跟踪准确性可达91.6%,能够实时跟踪600 m以内多架无人机目标,有效解决了跟踪过程中的“丢帧”问题。

基于改进YOLOv3模型的车辆前方路面坑洼检测

首先,对道路坑洼图片进行预处理以获得坑洼数据集Pothole-set;其次,将YOLOv3的激活函数修改为Mish激活函数,以提高模型准确性和泛化能力;接着,将YOLOv3的3个输出尺度进行融合以减小复杂度;然后,使用K-Means方法对坑洼数据集边界框尺寸进行聚类,同时,对坑洼数据集进行网格划分,获得最终的输出特征图;最后,将余弦退火、Mixup、标签平滑技术应用于训练过程中以提高检测精度,获得最终的坑洼检测模型YOLOv3-Pt。实验结果表明:相比于YOLOv3,YOLOv3-Pt在复杂环境下对坑洼的检测精度提升了13.99%,能够满足坑洼检测精度的需要。

地面箭头标识线检测的改进M2Det算法

针对M2Det算法在地面箭头标识线检测时存在准确率低、参量大等问题,提出了一种改进M2Det算法。该算法在特征提取时采用改进的主干特征提取网络和多级金字塔网络,利用非极大抑制对生成的密集边界框和类别分数进行筛选,进而获得检测结果。改进的M2Det算法用MobileNet v1轻量级网络替换VGG网络,用以减少参量;用Mish激活函数替换ReLU激活函数,同时在MobileNet v1网络中增加BasicRFB模块,用以提高检测精度;还引入Mosaic数据增强以实现数据扩充。实验数据集采用自主标注的地面箭头标识线构造,实验结果表明,改进的M2Det算法在地面箭头标识线检测中mAP达到88.72%,相比M2Det算法提升了约3.9个百分点,也明显高于其它对比算法。

改进Unet++在脑肿瘤图像分割的研究

针对计算机辅助脑肿瘤图像分割精度不高,提出改进的密集连接网络Unet++脑肿瘤自动分割网络。分别将残差块和数据相关型上采样Dupsampling融入网络的编码、解码部分,提高特征提取的能力并防止梯度消失;使用Mish激活函数代替Relu激活函数,更平滑的曲线有助于提升网络的非线性特征提取能力和泛化性;使用交叉熵和Dice结合的损失函数,进一步提升分割精度。该方法在BraTs2019部分数据上验证,在全肿瘤、核心肿瘤和增强肿瘤分割结果的Dice系数分别达到0.9236、0.8745、0.8404,豪斯多夫距离为1.806、2.994、1.865,优于大多数脑肿瘤分割模型。