基于动态焦点损失函数和样本平衡方法的绝缘子缺陷检测方法

在航拍输电线路图像的绝缘子缺陷检测任务中,针对不同类型缺陷之间存在的样本数量不平衡、困难样本低效学习等问题,提出一种动态焦点损失函数和一种基于二阶矩的样本平衡方法。首先在前向传播过程中根据困难样本、简单样本分布变化动态求解焦点损失函数的衰减因子,然后利用样本损失离散值定位出困难样本、简单样本的边界,从而获得困难样本集合,最后在反向传播过程中根据不同样本损失的二阶矩对学习样本的贡献率分布进行平衡。实验结果表明所提多类绝缘子缺陷检测方法能够有效地学习到不同样本的深度特征,性能较其他方法有显著的提升。

基于图像增强与样本平衡优化的行人属性识别

由于采用的监控图像尺寸较小、分辨率低等原因,行人属性识别一直是一个极具挑战性的任务,而低分辨率的图像往往又导致数据集存在识别行人主体区域不突出、背景噪音干扰严重等问题.之前的方法大多将未作处理的原始图像作为输入,使得属性识别效果一直不够理想,并且,属性识别的主流数据集通常存在正负样本不平衡的问题,例如,许多行人的服装属性分布有着季节性或习俗性的偏差.因此,本文提出一个新的深度学习网络——图像增强与样本平衡优化模型IEBO (image enhancement and sample balance optimization).该模型通过色彩增强与提取行人主体区域的噪音抑制方法,在突出行人核心特征的同时消除无用背景信息,防止其对属性识别造成干扰.另外模型通过权重调节针对样本不平衡的属性进行优化,提高不平衡属性的识别能力.实验最终表明,新的行人属性识别模型在Market-1501-attribute数据集中取得了较好的性能.

基于难易样本平衡因子的遥感图像目标检测

遥感图像目标检测一直是遥感图像领域中的热点和难点问题,旨在分类和定位感兴趣目标。近年来卷积神经网络理论技术的快速发展,有效地解决了传统目标检测方法特征提取不足的问题。在公开的遥感数据集RSOD-Dataset上,基于YOLOv3算法模型进行目标检测,为了适应遥感图像中目标小、背景复杂等难分类样本的特点,在检测模型中引入难易样本平衡因子来改变不同类别的损失权重,从而进一步提高遥感图像检测精度。为了证明这里改进方法的有效性,进行了一组对比消融实验。实验结果表明,改进的算法比YOLOv3算法的平均检测精度提高了6%,尤其是对于背景复杂的立交桥类别,平均检测精度有了明显的提高。因此通过改进YOLOv3进一步平衡了简单样本和难例样本的损失权重,有效地提高了遥感图像目标检测精度。

深度学习滑坡识别算法中样本不平衡问题的研究

山体滑坡是一种常见的地质灾害,一旦发生会给自然生态系统和人类造成重大财产损失和人员伤亡,如何快速准确获取滑坡信息对防灾减灾至关重要。传统的深度学习方法对滑坡样本质量依赖性大,但现有的样本质量参差不齐,极少考虑滑坡样本不平衡问题对深度学习模型性能的影响。针对如何通过改善样本质量提升模型精度的问题,本文从样本质量出发,提出了一种基于多源不平衡样本的Faster R-CNN滑坡目标检测方法,通过对多种不平衡样本的集成训练,研究不同样本对模型综合性能的影响。结果表明:①在困难样本不平衡下模型的准确率为85.16%,F1值为0.69,精确率为56.96%,召回率为86.58%、漏检率为0.33,通过强化样本质量后准确率提升2.04%,精确率提升4.29%,召回率提升1.71%,漏检率降低0.04;②在正负样本不平衡下模型准确率为96.03%,F1值为0.78,精确率为64.50%,召回率为97.15%、漏检率为0.09,通过增加困难样本参与训练后,准确率下降8.45%,精确率下降6.93%,召回率下降7.25%,漏检率提升0.18。困难样本对模型综合性能影响更大,通过提高这部分样本质量可以提升模型检测精度。因此,本文提出的方法为解决深度学习中滑坡数据样本不平衡问题提供了参考。

不平衡样本下的SA-YOLO自适应损失目标检测算法

样本不平衡现象是指在数据集中以背景为主的易样本数量较大,而以前景为主的难样本数量过少,即样本存在类间不平衡与难易不平衡问题。现有目标检测算法大多是基于候选区域的两阶段算法或基于回归的单阶段算法,当应用于不平衡样本时无法避免训练中产生的预测框对大量样本过度依赖,从而导致模型过拟合且检测精度低,准确性、泛化性差。为了在不平衡样本下实现高效精准的目标检测,提出一种全新的SA-YOLO自适应损失目标检测算法。(1)针对样本不平衡问题,提出SA-Focal Loss函数,能够针对不同数据集与训练阶段对损失进行自适应调节,以达到平衡类间样本与难易样本的效果。(2)在多尺度特征预测机制下构造CSPDarknet53-SP网络架构,增强困难小目标样本全局特征的提取能力,达到提升难样本检测精度的效果。为验证SA-YOLO算法的性能,分别在样本不平衡数据集与COCO数据集上进行了大量仿真实验。结果表明:相较于现有YOLO系列算法最优指标值,SA-YOLO在不平衡数据集中mAP可达91.46%,提升10.87%,各类目标AP 50提升均在2%以上,有极强的专精性;在COCO数据集中mAP 50提升1.58%,各项指标均不低于最优值,有良好的有效性。

针对样本类不平衡的深度残差网络电力系统暂态稳定评估方法

系统的量测数据可能受到噪声以及样本类分布不平衡问题的影响,导致基于数据驱动的暂态稳定评估模型性能下降。提出一种针对样本类不平衡的的深度残差网络电力系统暂态稳定评估方法。首先,利用改进过采样技术为滤除噪声的少数类样本构造所需的新样本,改善样本类不平衡问题,并减少噪声的影响;然后,基于深度残差网络构建电力系统暂态稳定评估模型,解决梯度消失导致的模型性能退化问题,提高模型的鲁棒性和准确性;最后,在新英格兰10机39节点和47机140节点系统上的仿真结果表明,所提方法能减小噪声干扰、降低不平衡数据集所带来的影响和减少计算复杂度。

不含邻点的循环平衡样本设计的若干构造

不含邻点的平衡样本设计可被用于抽样调查.借助循环差阵,建立区组大小为4的不含邻点循环平衡样本设计(CBSEC)的递归构造.应用递归构造和基于计算机搜索的直接构造,给出含2个相同半轨道或4个四分之一轨道的CBSEC (v,4,4)的一些存在性结果.并且当k∈{3,4,5}时,利用完美差族给出了CBSEC (v,k,λ)的一个新构造.

生活垃圾分类中神经网络样本不平衡研究

针对生活垃圾分类中存在的样本不平衡问题,本文基于实例分割模型Mask R-CNN神经网络展开研究,通过调整神经网络的损失函数和扩充数据集中的难分正样本来提升神经网络的检测精度。实验结果表明,该方法降低了数据不平衡对网络性能的影响,使生活垃圾的回收率得到了提升。

考虑样本不平衡的X光安检图像违禁品分类方法

X光安检图像违禁品分类被广泛应用于协助维护航空和运输安全。针对X光安检图像中违禁品尺度不一、存在困难样本及旅客行李安检固有的正负样本不均衡等问题,提出一种端到端的考虑样本不平衡的X光安检图像违禁品分类方法。采用多尺度特征提取网络捕获尺度不一的多类型违禁品特征,通过特征融合模块提升模型对图像边缘和纹理特征的表达能力,基于代价敏感思想设计损失函数,解决数据集不平衡问题,并提高困难样本分类精准度。在公开数据集SIXray上构建的子集实验结果表明:所提方法相较于端到端分类模型,平均AP指标值提升了4.5%,特别是对剪刀等难分类样本,AP指标值都有显著的提升效果。

不平衡样本下基于变异麻雀搜索算法和改进SMOTE的变压器故障诊断方法

针对麻雀搜索算法同质化严重和变压器故障样本不平衡导致分类效果不佳的问题,提出了变异麻雀搜索算法优化支持向量机(variation sparrow search algorithm-support vector machine,VSSA-SVM)和改进合成少数过采样技术(improved synthetic minority over-sampling technique,ISMOTE)的变压器故障诊断方法。首先使用Tomek Link对数据集进行去噪,引入中心偏移权重(center offset weight,COW)改进SMOTE算法对不平衡数据集的少数类样本进行合成,得到平衡化处理后的变压器故障数据集。然后,基于变异的思想,构建VSSA-SVM的变压器故障诊断模型。最后,在413例油浸变压器的油中溶解气体分析(dissoived gas anaiysis,DGA)数据上,使用PSO-SVM、SSA-SVM和VSSA-SVM模型进行诊断,诊断结果分别为81.45%、88.71%和96.77%,同时与SMOTE-NND、SVM SMOTE、Borderline-SMOTE、SMOTE以及原始数据集方法相比,ISMOTE分别提升了3.22%、4.03%、6.45%、7.52%、11.29%。结果表明,该文所提方法能准确判别变压器的故障状态,有效解决故障数据不平衡导致分类精度低的问题,具有一定的工程实用价值。

变压器不平衡样本故障诊断的过采样和代价敏感算法

基于神经网络的变压器故障诊断方法是评估变压器状态的重要方法,然而该方法在处理各状态类别间样本数量不平衡的数据集时,各类型状态识别效果差距较大,识别结果更多偏向多数类样本。文中基于过采样方法和代价敏感算法,针对最大不平衡度为266∶19的油色谱数据集,构建了一种用于变压器故障诊断的BPNN模型。首先,基于SMOTE算法对样本数据集进行有选择的扩充,该算法结合了近邻分析和线性插值的思想,减少了样本扩充所导致的模型训练的过拟合现象。然后,构建五层神经网络,并引入Focal Loss函数取代交叉熵函数作为本模型的代价损失函数,从而更关注于少数类样本的识别和区分。实验结果表明,文中模型相比于原始BPNN模型在总体准确率上提升了6.48%,各少数类样本类别的F1分数分别提高了25.7%、11.4%、3%、26.1%、1.8%、15.3%和33.3%,并且算法收敛更快。在和传统机器学习方法的对比中,文中模型比基于KNN算法和随机森林算法模型的整体准确率分别提高了16.53%和7.98%。

面向不平衡样本的物联网入侵检测方法

随着设备的迭代,网络流量呈现指数级别的增长,针对各种应用的攻击行为越来越多,从流量层面识别并对这些攻击流量进行分类具有重要意义。同时,随着物联网设备的激增,针对这些设备的攻击行为也逐渐增多,造成的危害也越来越大。物联网入侵检测方法可以从这些海量的流量中识别出攻击流量,从流量层面保护物联网设备,阻断攻击行为。针对现阶段各类攻击流量检测准确率低以及样本不平衡问题,提出了基于重采样随机森林(RF,random forest)的入侵检测模型——Resample-RF,共包含3种具体算法:最优样本选择算法、基于信息熵的特征归并算法、多分类贪心转化算法。在物联网环境中,针对不平衡样本问题,提出最优样本选择算法,增加小样本所占权重,从而提高模型准确率;针对随机森林特征分裂效率不高的问题,提出基于信息熵的特征归并算法,提高模型运行效率;针对随机森林多分类精度不高的问题,提出多分类贪心转化算法,进一步提高准确率。在两个公开数据集上进行模型的检验,在IoT-23数据集上F1达到0.99,在Kaggle数据集上F1达到1.0,均具有显著效果。从实验结果中可知,提出的模型具有非常好的效果,能从海量流量中有效识别出攻击流量,较好地防范黑客对应用的攻击,保护物联网设备,从而保护用户。

样本不平衡下基于自定步调集成的液压系统智能诊断方法

在液压系统智能诊断中,样本不平衡将使得智能诊断模型容易学习到样本充裕的液压系统健康状态的诊断规则,忽略样本匮乏的健康状态诊断规则,致使模型诊断精度下降。针对上述问题,提出基于自定步调集成的液压系统智能诊断方法。该方法首先将多数类样本集根据不同的硬度等级分为k个容器;然后通过欠采样平衡每个容器对分类硬度的贡献,使重采样后每个容器中的样本硬度总和一致;在训练过程中不断更新自步因子,用来降低样本数量过多的容器采样权重,经过n次迭代形成最终的集成诊断模型。将提出方法应用于液压系统不同故障数据集进行智能诊断,结果表明,该方法能够提高样本不平衡情况下液压系统故障识别的准确率,且诊断结果优于传统的智能故障诊断方法。

难分类样本快速空中目标意图识别方法

针对不平衡难分类条件下空中目标群组意图快速识别的难题,提出一种基于滑动窗口估计的时空卷积自注意力网络模型的意图识别方法。该方法根据特征数据的特点对其使用滑动窗口的预先处理,通过时空卷积网络快速提取多维时序特征数据的流信息;然后采用自注意力机制捕捉每个特征数据的关键特征并优化权重。仿真结果表明该方法有效提升了不平衡样本中难分类样本意图识别的训练效率和分类的准确率。

不平衡样本下基于CVAE和CNN的结构损伤识别方法

为提高在不平衡样本下结构损伤识别的准确性,提出了一种基于条件变分自编码器(CVAE)数据增强和卷积神经网络(CNN)的结构损伤识别方法。首先,将损伤类别作为约束,构建起基于振动加速度数据的CVAE模型;然后生成损伤加速度数据对初始不平衡数据进行扩充;最后使用CNN对扩充数据集进行特征提取和损伤分类识别。通过对悬臂梁振动台实验与钢框架有限元模拟振动实验两类数据集设置不同不平衡比率,进行了CVAE数据增强的效果对比验证。结果表明:CVAE数据增强有助于CNN损伤识别模型对数据特征的提取,能够提高CNN模型的收敛速度,防止模型过拟合;相对于未经数据增强的数据集,所提方法提高了在极不平衡数据下的损伤分类识别准确率,在两类实验数据集上分别提高了15.10%和15.80%。

数据分布不平衡的课堂参与度自动识别研究

在线课堂学习参与度自动评估是提升课堂教学效果的重要技术途径.本文使用计算机视觉特征分析技术,提出一种在线课堂学习参与度自动识别方法.首先,采用VGGFace网络和C3D网络分别对学习者的面部表情和身体姿态进行特征编码;然后,设计基于注意力机制的双层级联聚合模块,对视频片段的特征进行融合,使得参与度高度相关的帧序列获得更大的权重.由于低参与度样本的数量和高参与度样本相比非常少,课堂参与度自动识别属于类别不平衡的数据分类问题.类别高度不均衡,导致模型训练存在很大挑战.为了缓解参与度数据分布不平衡带来的影响,本文提出采用双边分支网络作为参与度识别基本的网络结构.其中,传统学习分支进行表征学习,重新平衡分支关注少数样本分类,将特征学习和分类器学习进行分别建模.在DAiSEE数据集上的实验结果表明,提出的方法有效提升了参与度自动识别性能,尤其对少数类样本的分类具有明显的性能提升.

不平衡样本下基于生成式对抗网络的风机叶片开裂状态识别

针对风机叶片开裂状态样本少、识别率低的问题,提出基于生成式对抗网络(GAN)的开裂状态样本增强方法来提高识别率。以经验风险分类模型为对象,从理论角度对不平衡样本问题进行深入分析,设计了满足开裂样本生成与判别的GAN网络模型,引入批量归一化保障特征服从标准正态分布,加速网络训练过程收敛。以神经网络为分类器,以F1值、Recall、Precision为度量指标,在36个UCI基准数据集上对所提方法进行测试,结果表明增强后的结果更好。真实实验表明,以逻辑回归及神经网络为分类器,相比原始不平衡样本,增强后的结果分别提升13.88%,8.20%。与SMOTE算法对比,以上两种分类器的分类准确率分别提高74%和11%;与ADASYN算法对比,分类准确率分别提高19%和23%。

非均衡样本下基于GRA-BSMOTE-RF的瓦斯突出预测

为解决煤与瓦斯突出预测模型由于样本数据不均衡导致的分类效果不好的问题,提出一种将过采样方法(BSMOTE)和随机森林(RF)模型相耦合的预测模型。首先通过灰色关联分析(GRA)进行特征选择。其次,通过BSMOTE方法增加突出的少数类样本,有效地区分类别区域边界。最后,构建GRA-BSMOTE-RF煤与瓦斯突出预测模型,以此来减少类别不平衡对模型预测的影响。根据结果表明,提出的模型对于少数类的分类正确率明显提升,证实GRA-BSMOTE-RF模型在不平衡数据下的煤与瓦斯突出预测上具有较好的预测效果。

基于中风数据的不平衡样本最优化预测模型

目的 不平衡样本在医疗、金融等领域普遍存在,其分类的准确性至关重要,而目前的算法如决策树、逻辑回归等传统机器学习算法对不平衡数据少数类的分类精度较低,因此优化不平衡样本的分类性能非常必要。方法以中风数据集为例,从数据层、特征层、算法层三个层面对不平衡数据集建立最优化预测模型,在数据层采用SMOTEENN采样技术,在特征层采用基于随机森林的递归消除法,在算法层采用CatBoost、XGBoost集成算法。结果通过模型性能对比,得出了预测性能最佳的最优化预测模型:“SMOTEENN采样+基于随机森林的特征递归消除法(RFRFE)+XGBoost分类算法”模型,该模型可提高中风预测准确率,便于民众进行中风患病风险预估,为医生决策提供参考,也可推广应用于疾病类不平衡样本的风险预测问题。

基于梯度范数的暂态稳定评估模型的不平衡修正方法

为了解决电力系统中样本数量和质量不平衡造成的暂态稳定评估偏差问题,从评估模型的训练过程出发,通过预训练模型获得样本对模型参数修正的梯度范数,引入梯度范数均值比量化样本的不平衡程度,相较于先验信息,梯度范数均值比综合考虑了样本数量与样本质量的不平衡,并提出基于代价敏感法的不平衡修正方法,利用该方法改善模型的评估倾向性,以实现较好的修正效果。IEEE39节点系统和华东电网系统的仿真结果验证了所提方法的有效性。