基于双阶段元学习的小样本中医舌色域自适应分类方法

舌色是中医(TCM)望诊最关注的诊察特征之一。在实际应用中,通过一台设备采集到的舌象数据训练得到的舌色分类模型应用于另一台设备时,由于舌象数据分布特性不一致,分类性能往往急剧下降。为此,该文提出一种基于双阶段元学习的小样本中医舌色域自适应分类方法。首先,设计了一种双阶段元学习训练策略,从源域有标注样本中提取域不变特征,并利用目标域的少量有标注数据对网络模型进行微调,使得模型可以快速适应目标域的新样本特性,提高舌色分类模型的泛化能力并克服过拟合。接下来,提出了一种渐进高质量伪标签生成方法,利用训练好的模型对目标域的未标注样本进行预测,从中挑选出置信度高的预测结果作为伪标签,逐步生成高质量的伪标签。最后,利用这些高质量的伪标签,结合目标域的有标注数据对模型进行训练,得到舌色分类模型。考虑到伪标签中含有噪声问题,采用了对比正则化函数,可以有效抑制噪声样本在训练过程中产生的负面影响,提升目标域舌色分类准确率。在两个自建中医舌色分类数据集上的实验结果表明,在目标域仅提供20张有标注样本的情况下,舌色分类准确率达到了91.3%,与目标域有监督的分类性能仅差2.05%。

基于NVAE和OB-Mix的小样本数据增强方法

由于深度学习模型对海量标注数据的依赖性较高,导致目前许多前沿性目标检测理论难以适用于工业检测领域。为此,提出一种基于NVAE图像生成和OB-Mix数据增强的小样本数据扩充方法。具体方法是通过NVAE构建检测目标的数据分布模型,再通过采样潜变量的方式生成与真实目标图像属于同一分布的全新目标图像。在得到生成目标图像后,提出了OB-Mix数据增强策略,将生成目标图像与背景图像进行随机位置融合以构建出新的图像数据,从而提高网络的定位能力及泛化能力。方法在仅使用474张标注图像以及400张无检测目标的背景图像情况下,使YOLOv5的检测精确率达到95.86%,相比于不使用该方法的结果提高了17.60个百分点。

基于模糊聚类和改进Densenet网络的小样本轴承故障诊断

针对实际中轴承的故障数据少难以满足深度学习数据大量训练模型的要求,利用卷积神经网络的微小特征提取优势和模糊聚类不需要训练即可完成分类的特点,提出了一种基于模糊聚类和改进Densenet网络的小样本轴承故障诊断方法。首先将预训练微调的Densenet网络去掉分类只保留特征提取层,设计一个维度自适应全局均值池化层(GAP)代替全连接层(FC),其次利用模糊聚类代替Densenet网络的softmax分类层,不需要训练即可完成分类。实验结果表明:该算法利用小样本数据训练网络中的GAP参数,模型需要的训练样本大大减少,诊断时将轴承时域图像输入到网络中,在GAP层输出1 920个特征数据,不同故障状态的特征数据构建特征向量矩阵,利用模糊聚类方法求得模糊相似矩阵和模糊等价矩阵,当置信因子从大到小变化时,由对应布尔矩阵得到动态聚类图,从而实现轴承故障分类。

基于Inception-BiLSTM的小样本刀具磨损状态识别研究

针对工业生产中故障数据不足难以准确进行故障诊断问题,以Inception模块为主体结构,结合双向长短时记忆网络(BiLSTM),提出了Inception-BiLSTM故障诊断方法,并用刀具磨损状态识别进行实验验证。首先,将振动信号通过连续小波变换(CWT)得到时频特征图,利用Inception网络对时频图进行特征提取;然后,使用全局平均池化(GAP)将特征向量降维;最后,使用BiLSTM提取数据信息,以识别刀具磨损状态。实验结果表明,在小样本条件下,该方法相较于对比方法对刀具磨损状态识别的准确率更高。

小样本加速寿命试验设计与评估方法

针对工程上加速寿命试验仍然存在时间长、试样多的问题,提出一种小样本加速寿命试验设计与评估方法。该方法只需在两个加速应力水平下进行加速寿命试验,即可对产品在正常使用应力水平下高置信度、高可靠度的可靠寿命进行评估。文中首先利用工程上常用的线性加速模型(如阿伦尼斯模型、逆幂律模型和指数模型等)建立了正常使用应力水平下可靠寿命的单侧置信下限与两个加速应力水平下的可靠寿命置信限之间的数学关系式,给出了正常使用应力水平下高置信度、高可靠度的可靠寿命单侧置信下限评估方法。然后分别对指数分布、两参数Weibull分布和对数正态分布的定数截尾加速寿命试验情况进行了详细讨论,给出了相应的正常使用应力水平下高置信度、高可靠度的可靠寿命单侧置信下限计算公式。该方法计算简单,而且对完全数据、不完全数据以及各种分布均适用。大量工程算例和Monte Carlo模拟验证表明,与需要在多个加速应力水平下进行寿命试验的传统方法相比,本文方法不但可以节省大量试样和试验时间,而且理论上更加严谨,精度更高。

小样本积木式可靠性评估与更新方法

针对工程上只能进行极少甚至无法进行整机寿命试验,导致可靠性评估精度不高的情况,提出一种小样本积木式可靠性评估与更新方法。首先建立了能够根据机电产品子系统当前试验、以往试验和以往服役寿命数据,对其整机高置信度、高可靠度的可靠寿命进行评估的方法,从而解决了机电产品无法进行整机寿命试验时的可靠性评估难题,为其外场使用提供了科学依据。然后给出了能够根据该机电产品整机试验寿命数据和外场服役寿命数据对上述可靠寿命评估结果进行更新的方法,从而增大了信息量,显著提高其可靠性评估精度。文中针对工程上常用的指数分布、Weibull分布和对数正态分布情况进行了详细讨论,给出了相应的整机高置信度、高可靠度的可靠寿命评估与更新公式。

小样本下基于改进ACGAN数据增强的X射线矿石图像分类方法

针对工业领域利用深度学习模型对矿石进行在线分类时,矿石样本稀少导致的模型过拟合、分类准确率低的问题,提出一种结合X射线透射成像技术的矿石数据增强分类方法。该方法基于改进辅助生成对抗网络(Enhance-based Classification ACGAN-gp, EC-ACGAN-gp),采用卷积和连续残差块构建判别器和生成器,引入注意力机制捕捉矿石细节特征,生成高质量样本扩充原始数据集,同时使用带梯度惩罚的Wasserstein距离重构判别器的损失函数提高对抗训练的稳定性,避免模式崩溃。通过增加辅助分类器重建样本标签信息,最终实现矿石样本的类别预测。结果表明,该方法能实现矿石品位分类的精准预测,准确率可达89.62%,比现有传统方法提高3.98%。该模型生成的矿石样本泛化性良好,能够显著提高小样本数据集的泛化性,在SVM、LeNet5、VGGNet、ResNet上测试,精度分别提升了2.83%、2.36%、1.89%和3.74%,可进一步用于提升其他分类模型在矿石品位预测方面的性能。

基于改进WGAN考虑特征分布相似性的小样本负荷预测方法

对于综合能源系统中新接入用户,其往往由于历史数据匮乏而难以建立精准的短期负荷预测模型.本文基于迁移学习理论,提出了一种基于改进Wasserstein生成对抗网络(WGAN)的小样本负荷预测方法.首先,本文采用最大信息系数法量化各影响特征与负荷的相关性强弱.接着,将源域特征序列进行分割,计算各分割子序列与目标域小样本的实序列编辑距离确定初始源域.然后,引入卷积神经网络和长短期记忆模型建立源域预测网络.通过WGAN对齐目标域和源域负荷特征的空间分布,并在最优传输代价函数中加入局部特征损失以提高训练的稳定性和快速性.最后,将对抗训练后网络用于目标域负荷预测.采用该方法对某地区小样本负荷进行实验,结果表明,本文所提算法与其他预测模型相比能达到更高精度.

小样本场景下的元迁移学习睡眠分期模型

睡眠障碍受到越来越多的关注,且自动化睡眠分期的准确性、泛化性受到了越来越多的挑战。然而,公开的睡眠数据十分有限,睡眠分期任务实际上更近似于一种小样本场景;同时由于睡眠特征的个体差异普遍存在,现有的机器学习模型很难保证准确判读未参与训练的新受试者的数据。为了实现对新受试者睡眠数据的精准分期,现有研究通常需要额外采集、标注新受试者的大量数据,并对模型进行个性化微调。基于此,借鉴迁移学习中基于缩放-偏移的权重迁移思想,提出一种元迁移睡眠分期模型MTSL(Meta Transfer Sleep Learner),设计了一种新的元迁移学习框架:训练阶段包括预训练与元迁移训练两步,其中元迁移训练时使用大量的元任务进行训练;而在测试阶段仅使用极少的新受试者数据进行微调,模型就能轻松适应新受试者的特征分布,大幅减少对新受试者进行准确睡眠分期的成本。在两个公开的睡眠数据集上的实验结果表明,MTSL模型在单数据集、跨数据集两种条件下都能取得更高的准确率和F1分数,这表明MTSL更适合小样本场景下的睡眠分期任务。

适用小样本的并网光伏阵列故障诊断方法

该文提出一种适用小样本的并网光伏阵列故障诊断方法。首先,使用光伏阵列的稳态输出电信号时间序列构建特征向量,论证该特征向量可以表征正常、开路故障、短路故障、阴影等不同状态。其次,针对光伏阵列运行环境多变的情况,提出一种将实际气象条件下光伏阵列输出值转换到统一工况下的数据处理方法。然后,为适用小样本情况,将线性判别分析方法与有偏差的协方差估计、公共奇异值分解相结合,解决样本高维低量导致的样本协方差矩阵估计奇异和判别函数求解困难的问题。最后,在上海市某高校楼顶搭建实验平台,采集光伏阵列不同状态下的实验数据,验证了所提数据处理方法对使用稳态电信号的必要性,及该故障分类算法在小样本场景中的有效性。

不均衡小样本下的设备状态与寿命预测

针对面向小样本不均衡设备健康监测数据时AdaBoost处理效果差的问题,提出了基于裁剪过采样新增AdaBoost算法的设备健康状态分析以及寿命预测模型。首先,基于AdaBoost计算出样本权值分布和容量,根据样本最大权值与样本个数生成改进裁剪系数,选择性地对权值大于裁剪系数的样本进行处理从而提高计算效率。其次,通过类k近邻法则过滤出错分类样本权值,随后引入合成少数类过采样技术提升该种类样本权值个数,有效规避迭代过程中不均衡数据集可能引起的过拟合问题。最后,通过对设备运行状态进行准确分类并拟合出与时间相关的设备寿命曲线预测设备寿命。算例结果表明,所提模型能够有效分析出不均衡数据下的设备健康状况,同时也可以对剩余寿命进行有效预测。

轻量化YOLOv8的小样本钢板缺陷检测算法

钢板的表面积较大,表面缺陷非常常见,且呈现多类少量的特点。深度学习很难有效应用于此类小样本缺陷的检测中。为了解决此问题,提出一种基于轻量化YOLOv8的小样本钢板缺陷检测算法,提出一种基于模糊搜索的交互式数据增强算法,可有效解决训练样本缺失导致网络模型无法得到有效训练的问题,使深度学习应用于该领域成为可能。设计LMSRNet(lightweight multi-scale residual networks)网络替换YOLOv8的主干,以实现网络模型的轻量化,并提高其可移植性。提出CBFPN(context bidirectional feature pyramid network)和ECSA(efficient channel spatial attention)模块,使网络能更有效地提取并融合伤痕特征,同时采用Wise-IoU损失函数以提高检测性能。对比实验结果表明,与原YOLOv8算法相比,改进后的网络参数量只有原网络的30%,计算量是原网络的49%,FPS提高了9帧/s,精确率、召回率、mAP分别提高了2.9、6.5、5.5个百分点,实验结果充分验证了该算法的优势。

基于电磁超声的小样本铝板表面缺陷检测方法

使用基于电磁超声技术的智能缺陷检测算法可以实现对重要零件质量状态的监测,保证设备安全可靠运行。在实际检测过程中,一方面采集的信号往往会被噪声污染进而对检测结果造成干扰,另一方面重要零件缺陷信号往往数据量较少不能满足神经网络训练的需求。因此本文提出了一种基于变分模态分解的降噪算法对检测信号进行降噪预处理以提升信号质量,提出了一种改进型的虚拟样本生成技术用来扩充样本集,并使用迁移学习技术减少神经网络训练的参数量以解决样本数量不足的问题。在铝板表面缺陷的深度检测样例中该方法达到了97.2%的平均预测准确率,因此该方法对非铁磁性材料表面缺陷检测有一定的借鉴意义。

基于改进孪生胶囊网络的小样本轴承故障诊断

针对不同工况下滚动轴承故障数据不足,诊断准确率低的问题,提出了一种基于改进孪生胶囊网络的小样本滚动轴承故障诊断方法。首先,通过短时傅里叶变换将轴承振动信号变换为二维时频图,作为孪生网络的输入,通过对比样本间相似度扩大训练次数,解决故障数据不足的问题;然后,将多尺度Inception模块加入胶囊网络构建孪生胶囊网络模型(SICN),提取多尺度浅层特征后进行矢量化处理,经动态路由算法得到具有空间位置信息的胶囊向量;最后,设计余弦距离策略对胶囊向量进行相似性度量,判断是否属于同类,减小度量误差并实现故障类别辨识。结果表明:SICN模型可以提取更丰富、全面的特征,提高诊断准确率和泛化能力,可有效应用于小样本下滚动轴承的故障诊断。

面向回转机组电机小样本复合故障的多源异构自适应迁移学习

针对单源信号对回转机组电机多点复合故障信息表征不充分及复合故障信号小样本问题,提出一种小样本下电机复合故障的多头卷积神经网络迁移学习模型,实现小样本下电机复合故障的多源异构迁移诊断。将动力装置中电流、振动等多源原始数据作为输入,构造超参数优化的多头卷积神经网络模型。将大样本单故障的原始数据集作为源域,构建目标域下以原始数据为输入的电机小样本复合故障迁移网络模型。将正则化惩罚项应用到迁移学习模型中,构建模型目标函数参数更新准则,实现模型对源域与目标域参数的自适应更新配适。试验结果表明:单源信息的诊断可靠性依赖于数据源的选取,多源信号的多头卷积神经网络模型可有效融合电流、振动信号并实现特征提取。通过与多个模型比对,所提方法在小样本下对电机复合故障的识别精度显著提升,且收敛时间缩短近2/3。

小样本条件下的带钢表面缺陷检测

针对工业场景下带钢表面缺陷样本少、缺陷尺寸大小不一等问题,提出一种适用于小样本条件下的带钢表面缺陷检测网络.首先,算法以YOLOv5s框架为基础,设计一种融合注意力机制的多尺度路径聚合网络作为模型的颈部,增强模型对缺陷目标的多尺度预测能力;其次,提出一种自适应解耦检测结构,缓解小样本情况下分类和定位任务之间的矛盾;最后,提出一种融合Wasserstein距离的边界框回归损失函数,提升模型对小目标缺陷的检测精度.实验表明,在构建的小样本带钢表面缺陷数据集上,本文模型的检测性能优于其他小样本检测模型,更适用于工业环境下的小样本缺陷检测任务.

基于SimAM-ConvNeXt-FL的茶叶病害小样本分类方法研究

为实现茶叶病害精准分类,针对茶叶病害图像分类中小样本问题及类别分布不均的问题,提出了一种基于迁移学习的SimAM-ConvNeXt-FL模型的病害图像分类方法。首先在ConvNeXt模型中加入SimAM模块,以加强复杂特征的提取。其次针对样本分布不均问题,将Focal Loss函数作为训练过程中的损失函数,通过增加数量较少样本的权重来减小样本分布不均的影响。最后使用SimAM-ConvNeXt-FL模型对Plant Village数据集训练,将训练得到的参数迁移到实测的茶叶病害图像上并进行微调,减少过拟合带来的影响,设置消融实验证明模型改进的有效性,并与不同分类模型(AlexNet、VGG16、ResNet34模型)分别进行对比实验。实验结果表明,SimAM-ConvNeXt-FL模型识别效果最佳,准确率达96.48%,SimAM-ConvNeXt-FL模型较原ConvNeXt模型在茶煤病、茶藻斑病、茶炭疽病、健康叶片和茶白星病的F1值分别提高4.46、3.76、0.43、0.22、5.23个百分点。结果表明本文提出的模型具有较高的分类准确率与较强的泛化性,可推进茶叶病害分类工作发展。

基于MSSA-XGBoost小样本核爆地震事件分类

核爆地震与天然地震事件的分类鉴别是全面禁止核试验条约中的一项重要任务。受限于核爆数据数量缺乏,论文研究了XGBoost模型在小样本场景下两类事件的分类问题,并利用SSA算法对模型关键超参数进行自主寻优。同时针对SSA算法的不足,采用高斯混沌映射方法、提出种群比例动态调整策略和引入步长调整因子进行改进,构建了MSSA-XGBoost分类模型。模型解决了初始种群分布不均匀,导致种群多样性减少,影响算法收敛速度的问题;解决了麻雀种群比例固定,容易陷入局部最优解的问题;以及解决了发现者位置更新步长固定,从而限制算法全局搜索能力与寻优效率的问题,实现了避免人工特征提取和XGBoost迭代次数、最大树深以及学习率三个重要超参数的自主寻优,在小样本地震事件分类中取得了优异的效果。实验结果表明,MSSA-XGBoost模型分类准确率达到了96.37%,优于原模型93.47%,也优于支持向量机与卷积神经网络,同时较原始模型计算效率提升了近30%。

基于监督对比学习的小样本甲骨文字识别

针对由于甲骨文中部分字符的出现频率较低,直接利用深度神经网络进行识别会产生严重的过拟合现象,进而导致识别精度较差的问题,本文提出一种基于监督对比学习的小样本甲骨文字识别方法。选用利用增强样本的Y型(ensemble augmented-shot Y-shaped,EASY)学习框架作为网络的主干部分,通过集合数据增强、多骨干网络集成、特征向量投影等训练策略,直接实现利用少量带标签样本进行识别;引入监督对比学习,并提出联合对比损失,使得特征空间中类内特征向量距离更近,类间特征向量距离更远,进一步提高模型性能。实验结果表明:相比于当前效果最好的Orc-Bert模型,提出的小样本甲骨文识别模型在1-shot任务中的准确率提升了26.42%,3-shot任务的准确率提升了28.55%,5-shot任务的准确率提升了23.98%,较好解决了低频率出现的甲骨文字识别精度较差的问题。

融合多注意力机制的自监督小样本医学图像分割

主流的基于全监督的深度学习分割模型在丰富的标记数据上训练时可以取得良好的效果,但医疗图像领域的图像分割存在标注成本高、分割目标种类多的问题,且往往缺少足够的标注数据。提出一个模型,通过融合自监督从数据中提取标签,利用超像素表征图像特性,进行小样本标注条件下的图像分割。引入多注意力机制使得模型更多关注图像的空间特征,位置注意模块和通道注意模块致力于单一图像内部的多尺度特征融合,而外部注意力模块显著突出了不同样本间的联系。在CHAOS健康腹部器官数据集上进行实验,1-shot极端情况下DSC达0.76,相较baseline分割结果提升3%左右。通过调整N-way-K-shot任务数来探讨小样本学习的意义,在7-shot设置下DSC有显著提升,与基于全监督的深度学习分割效果的差距在可接受范围内。