基于纹理特征的深度学习云和云阴影检测

针对云和云阴影检测过程中存在边界不准确以及易与地表混淆等问题,构建一种融合纹理特征模块的卷积神经网络模型对Landsat 8遥感图像进行云和云阴影检测。引入基于统计特性的纹理特征模块进行纹理特征的提取和学习,在训练过程采用焦点损失函数削弱样本不均衡带来的影响。实验结果表明,该模型细化了云和云阴影的边界等纹理细节,减少了云和云阴影的误检和漏检现象,提高了云和云阴影的检测精度。

基于自适应空间特征增强的多视图深度估计

为了提高多视图深度估计结果精度,提出一种基于自适应空间特征增强的多视图深度估计算法。设计了由改进后的特征金字塔网络(feature pyramid network,FPN)和自适应空间特征增强(adaptive space feature enhancement,ASFE)组成的多尺度特征提取模块,获取到具有全局上下文信息和位置信息的多尺度特征图像。通过残差学习网络对深度图进行优化,防止多次卷积操作出现重建边缘模糊的问题。通过分类的思想构建focal loss函数增强网络模型的判断能力。由实验结果可知,该算法在DTU(technical university of denmark)数据集上和CasMVSNet(Cascade MVSNet)算法相比,在整体精度误差、运行时间、显存资源占用上分别降低了14.08%、72.15%、4.62%。在Tanks and Temples数据集整体评价指标Mean上该模型优于其他算法,证明提出的基于自适应空间特征增强的多视图深度估计算法的有效性。

一种融合注意力机制的CNN-BiGRU磁盘故障预测方法研究

磁盘作为重要的存储介质,一旦出现故障很可能会导致存储数据丢失,给个人及企业带来难以估量的损失。现有磁盘故障预测模型存在不能很好地平衡磁盘数据样本、未充分利用磁盘数据的时序特性等问题。以Backblaze云存储公司公布的真实磁盘数据为研究对象,提出了一种融合注意力机制的卷积神经网络(CNN)和双向门控循环单元(BiGRU)网络的磁盘故障预测模型。在数据预处理方面,采用负采样与焦点损失函数来平衡正负样本,利用CNN进行特征提取,并结合BiGRU网络来有效地处理时序数据。通过融合注意力机制,能够让模型快速地捕捉更多关键特征信息,将筛选出的特征与数据输入模型进行训练。通过对比其他故障预测模型,本文提出的模型在精确率等4个评价指标上均有1%~7%的性能提升,为提高磁盘存储的可靠性提供了有力的支撑。

基于Res2Net的人脸表情识别方法

为解决自然条件下人脸表情识别易受角度、光线、遮挡物的影响以及人脸表情数据集各类表情数量不均衡等问题,提出基于Res2Net的人脸表情识别方法。使用Res2Net50作为特征提取的主干网络,在预处理阶段对图像随机翻转、缩放、裁剪进行数据增强,提升模型的泛化性。引入广义平均池化(generalized mean pooling, GeM)方式,关注图像中比较显著的区域,增强模型的鲁棒性;选用Focal Loss损失函数,针对表情类别不平衡和错误分类问题,提高较难识别表情的识别率。该方法在FER2013数据集上准确率达到了70.41%,相较于原Res2Net50网络提高了1.53%。结果表明,在自然条件下对人脸表情识别具有更好的准确性。

改进ConvNeXt的肝囊型包虫病超声图像五分类研究

肝包虫病是严重危害人畜健康的重要人畜共患寄生虫病,超声检查是肝包虫病的首选检查方法,采用深度学习技术能够有效减少人工误差,降低成本并提高诊断效率。以ConvNeXt模型为基础,结合焦点损失函数和Lion优化器,最后引入CBAM构建CLCFNet模型实现肝囊型包虫病早期筛查和精确诊断。在肝囊型包虫病超声影像数据集进行的消融实验表明,对比基准模型分类准确率、精确率、召回率、特异度和F1指数平均提升了4.3%、21%、25%、4%和26%,对比实验也验证了所提出方法各指标优于现有流行方法。改进算法显著降低了模型推理时间,增强了模型训练的稳态性能,可以实现肝囊型包虫病的快速和精准分类识别。

不平衡样本下的SA-YOLO自适应损失目标检测算法

样本不平衡现象是指在数据集中以背景为主的易样本数量较大,而以前景为主的难样本数量过少,即样本存在类间不平衡与难易不平衡问题。现有目标检测算法大多是基于候选区域的两阶段算法或基于回归的单阶段算法,当应用于不平衡样本时无法避免训练中产生的预测框对大量样本过度依赖,从而导致模型过拟合且检测精度低,准确性、泛化性差。为了在不平衡样本下实现高效精准的目标检测,提出一种全新的SA-YOLO自适应损失目标检测算法。(1)针对样本不平衡问题,提出SA-Focal Loss函数,能够针对不同数据集与训练阶段对损失进行自适应调节,以达到平衡类间样本与难易样本的效果。(2)在多尺度特征预测机制下构造CSPDarknet53-SP网络架构,增强困难小目标样本全局特征的提取能力,达到提升难样本检测精度的效果。为验证SA-YOLO算法的性能,分别在样本不平衡数据集与COCO数据集上进行了大量仿真实验。结果表明:相较于现有YOLO系列算法最优指标值,SA-YOLO在不平衡数据集中mAP可达91.46%,提升10.87%,各类目标AP 50提升均在2%以上,有极强的专精性;在COCO数据集中mAP 50提升1.58%,各项指标均不低于最优值,有良好的有效性。

面向不平衡数据的机械设备故障命名实体识别

命名实体识别作为构建知识图谱的基础任务,其识别效果直接影响知识图谱的质量。在实际生产中,机械故障数据通常包含大量的领域专业词汇,同时实体类型普遍存在分布不平衡的问题,这对准确识别故障实体构成了挑战。通用领域实体识别方法在这一领域效果欠佳,从而降低了知识图谱的质量。为应对上述问题,提出一种融合焦点损失(Focal Loss)函数和专业词典的实体识别方法。该方法使用Focal Loss函数应对实体类型不平衡问题,通过引入平衡因子和调制系数,改进传统的交叉熵损失函数,提升实体识别效果,同时将领域专业词汇嵌入到模型中,进一步提高实体识别性能,这一词典包含机械故障的领域术语,有助于模型更准确地识别机械设备故障命名实体。在自建的矿井提升机实验数据集上进行广泛实验验证,结果证明,融入Focal Loss后模型的F1值比主流模型BERT-BiLSTM-CRF提高了5.57个百分点,相比用于解决数据不平衡的典型方法SMOTE效果更优,在此基础上,通过嵌入领域词典,模型的F1值得到进一步提升,达到89.13%。

基于改进ConvMixer和动态焦点损失的视听情感识别

视听双模态情感识别是情感计算领域的研究热点.目前情感识别方法存在无法同时提取视频局部和全局特征,多模态数据融合简单,损失函数在模型优化中无法关注错分样本等问题,导致情感识别结果精确度不高.本文提出一种基于改进的ConvMixer和动态权重焦点损失函数的视听情感识别方法.采用空间和时间邻接矩阵代替ConvMixer中的深度分离卷积,提取视频时域空域上的全局和局部特征.提出跨模态时间注意力模块,以对称结构捕捉模态间的时间相关性,提高特征融合效果.结合混淆矩阵计算具有动态权重的焦点损失函数,差异化地加大错分样本在损失中的占比,优化模型参数.在公开数据集上的实验结果表明,本文方法能提取到代表性特征,可有效优化网络结构,提高了情感识别的准确率.

用于胸片分类的自校正特征融合金字塔网络

胸部疾病的病灶区域面积差异较大,易受健康部位的影响,难以定位,并且用于诊断疾病的X射线胸片样本数据分布不平衡,导致胸部疾病分类网络的分类准确度较低.针对胸部疾病分类任务中仍然存在的问题和挑战,本文提出了一种自校正特征融合金字塔网络.该网络使用自校正卷积增强疾病部位在特征图上以及通道之间的位置联系,在不引入额外参数量的条件下增大了卷积的感受野,避免无病区域的信息干扰;然后通过特征融合金字塔网络整合多尺度图像特征信息,在获取高分辨率特征图的同时,能够准确地定位病变区域,可以更好地识别不同尺度疾病的特征,在多标签分类任务上具有独特的优势;同时引入频率通道注意力机制强化网络对疾病特征的提取能力,在上采样和特征融合变换之前,减少全局平均池化过程中造成的特征丢失;最后提出一种轮次焦点损失函数区分不同种类胸部疾病的训练程度,根据分类难易程度区分样本,并在不同的训练轮次调整权重,以解决胸部疾病样本分布不平衡问题.在ChestX-ray14数据集上的平均AUC值可达0.853,在CheXpert数据集上的平均AUC值可达0.903,超过了近年来较为先进的网络模型.实验结果表明,该网络与传统的胸部疾病分类网络相比能有效地提高胸部疾病的分类精度,并且具有较强的泛化能力.

融合生成对抗网络和难例挖掘的产品质量预测模型

针对连续性工业生产特点,重点关注类别不平衡造成的不合格样本召回率低问题。为了从高维数据提取有效特征,结合one class F-score和最小冗余最大相关性在特征提取方面的优势,有效降低特征维度并提取有价值特征;利用Wasserstein生成对抗网络(WGAN)方法扩增不合格样本数量;通过类别权重优化Focal Loss函数以提高困难样本识别率;通过轻量级梯度提升机算法结合阈值移动策略,构建基于WGAN数据增强和难例挖掘技术的质量预测模型(WGAN_Focal Loss_LGB(TM))。将所提模型应用于开源SECOM数据集,验证了所提方法的有效性。

基于YOLO v5l-Im的排水管道缺陷检测方法及效果分析

针对YOLO v5l(you only look once version 5 large)算法对于小目标、少样本且背景复杂的排水管道缺陷图像检测的精度低、误检和漏检率较高等问题,提出了一种基于YOLO v5l-Im算法的排水管道缺陷检测改进方法。做了三点改进:首先提出了Focal-EIoU(focal embedding intersection over union)损失函数,有效提升了检测模型的性能;其次为增强检测模型对小目标缺陷的检测效果,减少缺陷误检和漏检的概率,将骨干网络中浅层特征图融合到双向特征金字塔网络(bidirectional feature pyramid network,BiFPN)中,增加针对小目标的预测层;最后在YOLO v5l中引入坐标注意力机制(coordinate attention,CA),提高模型对图像中感兴趣区域的敏感程度,减少冗余背景信息的干扰。3种改进对平均检测准确率(mean average precision,mAP)的提升分别为2.0、2.9、5.9个百分点。将三种有效改进融合到一起,检测结果表明:本文提出的YOLO v5l-Im模型的mAP达到了92.1%,较原模型的85.5%提升了6.5个百分点。由此可见,所做的改进有效增强了YOLO v5l对排水管道缺陷的检测能力。

基于单通道上下文编码的轻量化睡眠分期模型

利用多模态信号中不同信号之间的频率关系来处理睡眠分期任务已成为当今的主流。然而,多模态信号采集的难度限制了睡眠分期任务的进一步发展。此外,数据集分类不均衡,参数量级大也是限制睡眠分期任务发展的重要原因。针对上述问题,提出了一种基于单通道脑电图(Electroencephalogram, EEG)数据的全卷积网络模型。通过U型结构和特征融合模块学习EEG信号的波形信息,利用并行的多尺度时间特征代替循环网络提取时间序列信息,使用瓶颈结构减少参数量,使用焦变函数降低数据类别间分布不均对分类精度的影响。在公共数据集Sleep-EDF上的实验结果表明,所提模型对单通道EEG数据实现了87.5%的分类准确率,缓解了数据集不平衡问题。值得一提的是,所提模型的参数数量仅为Deepsleep网络的2.86%。

Focal损失在图像情感分析上的应用研究

充分利用Focal损失函数具有挖掘困难样本和调节样本不平衡问题的特性,将其应用在基于神经网络的图像情感分析模型中。为了缓解训练数据集的类别样本不平衡问题,提升情感分类模型的训练效率,对Focal损失函数中参数设置进行了改进。该方法通过类别权重大小来确定平衡参数α,并在神经网络模型训练的不同阶段,采用渐增方式对聚焦因子γ进行调节,然后将改进的Focal损失函数应用于图像情感分析模型的神经网络训练中。仿真实验表明,相比于交叉熵损失函数,改进的Focal损失函数能够提升神经网络对图像情感分析的性能。实验结果表明,所采用方法的准确率、宏召回率、宏精准率分别提升了0.5~2.3个百分点、0.4~3.9个百分点、0.5~3.3个百分点。

基于YOLOv5s模型的边界框回归损失函数研究

针对车辆检测中边界框回归损失函数与检测目标尺度不匹配导致的误检、漏检以及精度较低等问题,基于YOLOv5s模型对4种有代表性的边界框回归损失函数进行对比实验,并在UA-DETRA、VisDrone2019、KITTI数据集上进行验证,利用漏检率、误检率、准确率、召回率、mAP@0.5、迭代过程的边界框损失值以及目标检测结果对其适用场景进行分析研究。结果显示:CIoU整体性能最差;SIoU在KITTI数据集上整体性能最优,准确率最高,达到了94.5%,漏检率降到了1.2%,适用于中尺度目标检测任务;Focal-EIoU在VisDrone2019数据集中各项指标远优于其他损失函数,召回率和mAP@0.5指标相较于CIoU分别提高了1.6%和1.8%,误检率降低了6.9%,且迭代过程损失值远低于其他损失函数,适用于小尺度目标检测任务;WIoU在UA-DETRA数据集整体性能最优,漏检率、召回率以及mAP@0.5指标优于其他损失函数,适用于大尺度目标检测任务。此研究为目标检测任务的边界框回归损失函数的选择提供了重要的基础。

基于改进YOLOv7的复杂环境下红花采摘识别

针对光照、遮挡、密集以及样本数量不均衡等复杂环境造成红花机械化采摘识别不准问题,该研究提出一种基于YOLOv7的改进模型,制作红花样本数据集建立真实采摘的复杂环境数据,增加Swin Transformer注意力机制提高模型对各分类样本的检测精准率,改进Focal Loss损失函数提升多分类任务下不均衡样本的识别率。经试验,改进后的模型各类别样本的检测平均准确率达到88.5%,与改进前相比提高了7个百分点,不均衡类别样本平均精度提高了15.9个百分点,与其他模型相比,检测平均准确率与检测速度均大幅提升。改进后的模型可以准确地实现对红花的检测,模型参数量小,识别速度快,适合在红花采摘机械上进行迁移部署,可为红花机械化实时采摘研究提供技术支持。

改进YOLOX的弱光线道路交通标志检测

针对弱光线环境下道路交通标志检测精度不高、漏检、错检等情况,提出了一种改进YOLOX的融合检测算法。该算法引入轻量级Mobile Vi T Block模块,将CNN和Transformer结合,提高了网络对物体局部和全局特征的学习能力;通过添加自适应特征融合金字塔ASFF,对有效特征层进行加权融合,加快了网络训练收敛速度;并采用Focal Loss替换二元交叉熵损失函数,用以解决因样本少导致分类不准确的问题。实验结果表明,相较于YOLOX算法,改进YOLOX算法mAP值提升了2.89%,参数量减少了6.23 M,可视化实验进一步验证了所提算法可以提高检测精度,有效避免因弱光线导致的漏检、错检现象。

融合注意力机制的木薯叶病害分类方法

文章针对木薯叶病害图像因病斑区域小,部分疾病特征相似和易受背景干扰而导致识别准确率低的问题,在研究ResNeXt神经网络的基础上,设计了3种方法以提高模型的准确性和鲁棒性:1)增加了一个数据不连续的掩膜层,以缓解神经网络的过拟合问题;2)引入了多头自注意力机制模块,将卷积神经网络和注意力机制结合起来,对图像的局部和全局特征进行分析,提高了相似疾病之间的可分离性;3)使用焦点损失函数缓解木薯叶病害数据集中的类别不平衡问题.仿真实验表明,改进后的算法在木薯叶病害数据集上具有较好的准确率,同时具有较好的泛化能力,适用于其他植物叶片数据集.

基于自适应聚焦CRIoU损失的目标检测算法

在目标检测任务中,传统的边界框回归损失函数所回归的内容与评价标准IoU(Intersection over Union)之间存在不相关性,并且对于边界框的回归属性存在一定不合理性,使得回归属性不完整,降低了检测精度和收敛速度,甚至还会造成回归阻碍的情况。并且在回归任务中也存在样本不均衡的情况,大量的低质量样本影响了损失收敛。为了提高检测精度和回归收敛速度提出了一种新的边界框回归损失函数。首先确定设计思想并设计IoU系列损失函数的范式;其次在IoU损失的基础上引入两中心点形成矩形的周长和两框形成的最小闭包矩形周长的比值作为边界框中心点距离惩罚项,并且将改进的IoU损失应用到非极大值抑制(Non-Maximum Suppression,NMS)处理中。接着引入两框的宽高误差和最小外包框的宽高平方作为宽高惩罚项,确定CRIoU(Complete Relativity IoU,CRIoU)损失函数。最后在CRIoU的基础上加入自适应加权因子,对高质量样本的回归损失加权,定义了自适应聚焦CRIoU(Adaptive focal CRIoU,AF-CRIoU)。实验结果表明,使用AF-CRIoU损失函数对比传统非IoU系列损失的检测精度最高相对提升了8.52%,对比CIoU系列损失的检测精度最高相对提升了2.69%,使用A-CRIoU-NMS(Around CRIoU NMS)方法对比原NMS方法的检测精度提升0.14%。将AF-CRIoU损失应用到安全帽检测中,也达到了很好的检测效果。

基于注意力Unet的多尺度胎儿图像分割方法

针对使用传统机器学习方法分割胎儿图像中头部和股骨的精度较低且效果差,提出了一种新型的注意力Unet架构。在注意力Unet中加入了通道注意力机制平均最大模块(AMB),将原有的卷积层模块替换为不同卷积块组合的InceptionV2+模块,并在网络深层处加入了不同尺寸的空洞卷积模块。同时,研究了Dice损失函数和Focal损失函数相结合替换二元交叉熵对图像分割效果的影响。实验结果表明,所提方法对胎儿头部和股骨图像的分割效果良好,在准确率、Dice系数、交并比(IOU)、豪斯多夫距离(HD)评价指标方面优于如今主流的医学图像分割方法。

基于迁移学习和改进残差网络的棉花叶螨为害等级识别

针对人工诊断棉叶螨害分级准确率低、耗时长、成本高的问题,提出一种基于迁移学习和改进残差网络的棉花叶螨为害等级识别方法。以3种受害等级的棉花叶片与健康叶片图像作为对象,分别于单一背景和自然环境下采集图像,构建图像数据集。首先,利用PlantVillage数据集预训练模型,使用数据增强技术对数据集进行数据增强,扩充训练样本;然后,在ResNet50网络模型的基础上,引入焦点损失函数,在不同网络层嵌入注意力机制模块,并加入Dropout正则化构建改进的ResNet50模型;最后,对比不同模型的识别效果。结果表明:同时在深层和浅层引入注意力机制模块,设定动量为0.9、学习率为0.001时,改进的ResNet50模型具有最好的分类效果,优于ResNet50、VGG16、MobileNet、AlexNet和SENet模型,对棉叶螨危害等级的平均识别准确率达到97.8%。