基于改进Res2Net与迁移学习的水果图像分类

针对传统水果图像分类算法特征学习能力弱和细粒度特征信息表示不强的缺点,提出一种基于改进Res2Net与迁移学习的水果图像分类算法。首先,针对网络结构,在Res2Net的残差单元中引入动态多尺度融合注意力模块,对各种尺寸的图像动态地生成卷积核,利用meta-ACON激活函数优化ReLU激活函数,动态学习激活函数的线性和非线性,自适应选择是否激活神经元;其次,采用基于模型迁移的训练方式进一步提升分类的效率与鲁棒性。实验结果表明,该算法在Fruit-Dataset和Fruits-360数据集上的测试准确率相比Res2Net提升了1.2%和1.0%,召回率相比Res2Net提升了1.13%和0.89%,有效提升了水果图像分类性能。

基于条件生成对抗网络与迁移学习的暂态电压稳定超前判别

为解决样本不平衡导致的暂态电压稳定判别准确性不足的问题以及实现暂态电压稳定超前判别,提出一种基于条件生成对抗网络(CGAN)与迁移学习的暂态电压稳定超前判别方法。考虑暂态电压稳定样本类型,利用CGAN定向扩增暂态电压样本集,解决样本不平衡问题,从而提升暂态电压稳定判别准确性;考虑到CGAN生成器与暂态电压时序预测模型具有相似的学习任务,将CGAN生成器模型迁移至暂态电压时序预测模型,结合工程判据实现暂态电压稳定超前判别,并进一步提升暂态电压稳定判别准确性。在CEPRI-VC暂态电压稳定分析系统中验证了所提方法的有效性。

改进的GAN和迁移学习的轴承故障诊断方法

针对实际设备运行中轴承故障样本往往比较匮乏,传统的人工智能算法越来越难以满足实际情况故障诊断需要的问题,提出了一种改进的生成对抗神经网络模型,并结合迁移学习提出了一种智能故障诊断方法。该方法将机械故障时所采集的原始数据与大量源域数据通过生成对抗网络中得到大量与原始数据相似的新样本数据,然后从新样本数据中学习特征优化神经网络的参数,并通过样本的分布相应的调节神经网络的结构,最后,将部分原始故障数据输入已训练好的神经网络,得到诊断结果。实验结果表明,所提方法较传统的深度学习和迁移学习在诊断准确率上分别提高了28.10%和24.42%,能够为实际制造中轴承故障诊断任务提供可行的解决方案。

基于迁移学习的改进EfficientNet网络的皮肤病分类研究

针对目前皮肤病辅助分类技术所应用的网络模型参数量大、分类准确率不高的问题,提出了一种基于迁移学习的改进EfficientNet皮肤病分类方法。该方法应用迁移学习思想对轻量级深度卷积神经网络EfficientNet进行改进,具体包括添加全局平均池化层、冻结不同层数等对模型进行微调,形成TL-EfficientNet网络。实验结果表明,TL-EfficientNetB0在经类别权重预处理后的ISIC2018皮肤病数据集上的准确率达到85.07%,Macro_P达到0.82,网络参数只有4.49 M,适合部署到移动端。

基于深度迁移学习的跨工况在线刀具磨损预测

随着深度学习在工业中的广泛应用,通过精确可靠的刀具剩余寿命预测,可以有效地提高刀具的利用率,进而最大程度地提高加工可靠性并降低生产成本。然而,传统的刀具磨损预测通常是在相同工况下进行,致使在工况变化后预测精度较差。针对加工条件的复杂性和多样性,提出了一种用于跨工况进行刀具磨损状态预测的方法,以实现跨工况条件下精准预测刀具磨损量。针对刀具多传感器数据提出了一种提取原始数据特征的多尺度卷积神经网络,以高效、精准提取刀具数据特征,进而使多尺度卷积神经网络和Transformer训练得到具有强泛化能力的模型。最后通过共享的参数信息在新工况的下游任务中进行预测。实验中以IEEE PHM 2010挑战数据集为源数据集,以UC Berkeley Milling数据集为目标数据集进行验证。实验结果表明,在跨工况条件下能够实现精准刀具磨损预测,证实了方法的鲁棒性和可靠性。

多尺度迁移学习的轴承故障诊断

针对实际采煤机轴承故障诊断中存在变工况特征提取困难,故障训练样本不足等问题,结合当今流行的迁移学习的方法,提出了一种多尺度迁移学习的轴承诊断方法。首先通过经验模式分解(Empirical Mode Decomposition,EMD)从振动信号中分解成不同频率的本征模态函数(Intrinsic Mode Function,IMF);其次将得到的不同频率的IMF与卷积神经网络中不同尺寸卷积核提取到的丰富特征互补构建多尺度特征融合;采用联合最大平均差异(Joint Maximum Mean Discrep⁃ancy,JMMD)特征迁移的方法使源域与目标域联合分布差异最小化,然后通过多尺度融合模型进行分类识别;最后在凯斯西储大学轴承数据集和江南大学数据集对该方法进行了验证。实验结果证明该模型在两种不同工况和型号的轴承数据集中均取得较高的准确率,表现出模型良好的泛化能力。

基于主动迁移学习的电力系统暂态稳定自适应评估

构建了一个基于主动迁移学习的框架,基于原始场景数据搭建并训练源域暂态稳定评估(transient stability assessment,TSA)模型。当运行场景变化导致模型性能下降时启动更新机制,通过短时时域仿真生成大量无稳定性标签的样本以及完整仿真生成小批量带标签样本,采用基于变分对抗的主动学习方法学习数据潜在的特征表示空间,根据置信度选择信息量最大的无标签样本并进行标注。迁移基础模型参数并结合有标签样本进行微调,在保证迁移精度的情况下节省更新时间,通过IEEE 39节点验证了所提方法的有效性。

基于MPCNN模型的sEMG快速迁移学习的手势识别应用研究

为解决个体间差异性的问题并提高手势识别技术的普适性,提出基于多并行卷积神经网络(MPCNN)的迁移学习策略,旨在实现基于表面肌电信号的高效手势识别。MPCNN通过并行架构和优化的迁移学习机制,对比以往的卷积神经网络(CNN)迁移框架以更有效地处理不同个体间的生理差异,从而提高模型对新用户的适应性和识别准确率。此外,MPCNN通过减少模型训练时间和提高泛化能力,增强系统的实用性。通过多组实验,包括倍数交叉验证、消融实验和健壮性测试来证实所提策略在多个方面的有效性。实验结果表明,与传统CNN模型相比,提出的MPCNN迁移学习策略显著提升手势识别准确率,在Ninapro DB7数据集上的识别率达到了94.95%,对比CNN迁移学习框架提高了4.38百分点,同时训练时间减少了超过50%,验证了MPCNN迁移模型在减轻训练负担、增强泛化能力和提高抗干扰性方面的优点。基于实验模型对人机交互能力进行了验证,验证了其在肌电控制应用前景。

一种增强迁移学习能力的多领域适配器融合算法

为了增强迁移学习中的域适应能力,提出了一种基于适配器融合多领域知识的方法。首先在多个领域上分别训练基座适配器来学习域对齐和任务表示信息,然后融合除了目标领域外的其他源领域的基座适配器学习多领域知识用于目标领域的各种任务。实验结果表明,该方法在多领域文本情感分类AMAZON数据集和多流派自然语言推理MNLI数据集上最高分别取得了85.79和76.68的F1分数,而在更难的域泛化问题上,取得了85.96和76.74的F1分数。提出的方法可以有效提高迁移学习中的域适应和域泛化能力。

基于改进迁移学习的红外光谱图像自适应分割研究

为了从红外光谱图像中获取有用信息,设计基于改进迁移学习的红外光谱图像自适应分割方法。采集系统获取红外光谱图像,采用直方图均衡技术对红外光谱图像进行增强处理,依据增强后图像各帧像素的高斯正态分布,重建红外光谱图像,将红外光谱图像重建结果输入双分支卷积神经网络模型,利用迁移学习子网提取红外光谱图像全局特征,结合残差注意力子网提取的图像细小特征;通过集成学习融合差异红外光谱图像特征,输出分割后的红外光谱图像。测试结果表明:该方法可实现红外光谱图像分割,且分割结果清晰,具有显著细节特征。

基于半监督V-Net和迁移学习的三维地震波阻抗反演

近年来,深度学习算法因其优越的非线性表征能力,在地球物理反演领域受到广泛关注.本文针对实际应用中可用于制作网络训练标签的测井资料量较少,以及以深度学习算法为基础的一维和二维地震波阻抗反演方法在处理三维地震数据时可能存在的空间连续性问题,提出一种基于半监督V-Net和迁移学习的三维地震波阻抗反演方法.该半监督V-Net网络由一个反演网络和一个正演网络组成.反演网络是一个具有三维卷积核和分段残差块连接的多分辨率V-Net网络,正演网络由五个三维卷积层构成.首先用具有较复杂地层结构的模型合成数据对反演网络进行预训练,接着用实际测井数据插值得到的井旁数据对反演网络进行迁移学习微调,使其更适用于目标实际数据,从而完成反演网络的初始化.正演网络也用井旁插值数据进行预训练初始化.然后在波阻抗低频模型的基础上,用测井标签和地震数据半监督训练整个神经网络.最后,把三维地震数据输入到训练好的反演网络,即可预测得到相应的三维波阻抗.模型和实际数据算例表明,与一维半监督卷积-门控循环神经网络(CNN-GRU)、二维半监督U-Net以及未使用迁移学习的半监督V-Net方法相比,本文方法反演得到的波阻抗的空间连续性很好、精度最高,且本文方法对噪声具有较好的鲁棒性.

基于MRI深度迁移学习影像组学术前预测直肠癌脉管浸润的研究

目的探讨基于横轴位高分辨T2WI深度迁移学习影像组学术前预测直肠癌患者脉管浸润(lymphovascular invasion,LVI)的应用价值。材料与方法回顾性分析皖南医学院弋矶山医院2018年1月至2023年12月行MRI检查且术后病理证实为直肠癌的384例患者,收集临床及影像资料。根据病理LVI状态将患者分为LVI阳性(LVI+)组81例及LVI阴性(LVI-)组303例,按7∶3比例将患者随机分为训练组(n=269)与验证组(n=115)。以ResNet-34为深度迁移学习特征提取的基础模型,基于瘤体分别提取深度迁移学习特征与传统影像组学特征,通过Spearman秩相关和最小绝对收缩和选择算子(least absolute shrinkage and selection operator,LASSO)回归的方法进行降维,消除冗余特征,保留最具预测价值的特征。使用自适应增强(adaptive boosting,AdaBoost)、朴素贝叶斯(na?ve Bayes,NB)、弹性网络(elastic net,Enet)、梯度推进机(gradient boosting machine,GBM)、神经网络(neutral network,NN)及支持向量机(support vector machine,SVM)共6种机器学习算法基于传统影像组学特征、深度迁移学习特征及组合特征分别构建预测模型。通过受试者工作特征(receiver operating characteristics curve,ROC)曲线评价各模型的诊断效能。结果通过Spearman秩相关及LASSO回归降维后共筛选出23个最优特征,其中传统影像组学特征6个,深度迁移学习特征17个,构建的所有模型中基于组合特征模型的曲线下面积(area under the curve,AUC)均高于单独特征模型,6种机器学习算法基于组合特征的AUC在训练组分别为0.956、0.802、0.879、0.966、0.973、0.944,验证组分别为0.924、0.868、0.901、0.892、0.817、0.905。结论基于组合特征的模型在预测直肠癌LVI状态方面具有高效能,可辅助术前个体化预测,改善患者预后。

结合迁移学习和标签优选的半监督CNN-GRU地震数据衰减补偿

本文提出了一种基于卷积神经网络(Convolutional Neural Network,CNN)和门控循环单元(Gated Recurrent Units,GRU)组成的半监督网络,结合迁移学习和标签优选策略对地震数据进行吸收衰减补偿的方法.半监督CNN-GRU网络包含一个反演网络和一个正演网络.首先用具有较复杂地层结构的典型模型数据对反演和正演网络进行预训练,然后基于迁移学习策略将衰减地震数据送入预训练好的反演网络,其输出再输入预训练好的正演网络,用反演结果相对于标签数据的损失结合正演结果相对于衰减地震数据的损失指导更新半监督CNN-GRU的网络参数.该训练方法可充分利用模型数据、标签数据和无标签地震数据对网络进行训练,较好地缓解标签训练样本不足的问题.对于测井数量极少的情况,本文给出了一种两步训练策略:第一步,使用K-Means++方法聚类优选标签位置,并在这些位置处用一种基于分子分解的传统Q校正方法制作标签数据,然后用上述迁移学习结合半监督方法训练半监督CNN-GRU网络;第二步,用测井数据生成的标签继续半监督训练网络,最后用训练好的半监督CNN-GRU网络中的反演网络从衰减地震数据预测未衰减地震数据.模型和实际数据算例结果表明,结合迁移学习和标签优选两步训练策略,在仅有一口测井数据的情况下,本文方法也能够从衰减地震数据直接反演得到较高精度的衰减补偿数据.其中,在模型算例中,衰减补偿地震数据相对于未衰减地震数据的皮尔逊相关系数(Pearson Correlation Coefficient,PCC)可达到0.9892;在实际算例中,测井处的PCC可达到0.9989,相应的正演结果的PCC可达到0.9956.此外,本文方法计算效率较高、对噪声具有良好的鲁棒性.

基于深度迁移学习的压力容器裂纹检测系统研究

压力容器用于具有一定毒性、腐蚀性、易燃易爆的介质工况中,一旦产生裂纹将会引起石化装置爆炸等事故,造成不可逆的环境和经济负效应。人工智能的发展,将现有的声发射检测与机器学习相结合,提出一种基于深度迁移学习的压力容器裂纹检测系统,通过卷积神经网络((Convolutional Neural Networks,CNN)模型结构中卷积层和池化层强大的自学习能力提取对于裂纹检测任务有用的特征值,判断检测结果,减少人工主观误差影响。该检测系统可作为常规检验检测的补充,更全面地保障压力容器使用的安全性。最后,在此基础上,结合总体设计,探讨基于深度迁移学习的压力容器裂纹检测系统可行性。

基于迁移学习的苹果落叶病识别与应用

为解决现有卷积神经网络苹果叶片病害识别模型泛化能力弱,模型体积较大等问题,该研究提出一种基于改进MobileNetV3苹果落叶病识别模型。以健康叶片和常见苹果落叶病为研究对象,包括斑点落叶病、灰斑病、褐斑病、锈病4种,每种病害2级,共9类特征,通过改进网络的注意力模块、全连接层及算子,结合迁移学习的训练方式,构建苹果落叶病识别模型。在扩充前后的数据集上对比不同的学习方式、学习率和注意力模块等对模型的影响,验证模型的识别性能。试验结果表明:采用迁移学习的方式,在训练50轮达曲线收敛,比全新学习的准确率增加6.74~10.79个百分点;使用引入的ET(efficient channel attention-tanh)注意力模块,网络损失曲线更加平滑,模型的参数量更少,模型体积减小了48%,提高了模型的泛化能力;在扩充数据集上,学习率为0.000 1时,结合迁移学习的训练方式,改进MobileNetV3(ET3-MobileNetV3)苹果落叶病识别模型,平均准确率能达到95.62%,模型体积6.29 MB。将模型部署到喷药设备上,可实现基于苹果叶片病害识别的变量喷施,该研究可为苹果叶片病害的检测与果园的现代化管理提供参考。

基于SMOTE-IKPCA-SeNet深度迁移学习的小批量生产质量预测研究

随着智能制造技术的发展和客户个性化需求的增加,多品种小批量生产方式逐渐成为制造业的主流。面向大批量生产、以统计过程控制为核心的质量管理方式并不适用于小批量生产。针对复杂生产过程存在参数多、非线性和交互作用的问题,提出利用深度迁移学习的方式将历史生产数据作为源域迁移至小样本目标产品数据进行质量预测。首先,通过合成少数类过采样技术(synthetic minority over-sampling technique,SMOTE)和改进的核主成分分析(improved kernel principal component analysis,IKPCA)算法筛选源域和目标域的可迁移特征,这不仅兼顾了特征重要性和可迁移性,还减少了“负迁移”,提高了模型泛化能力;然后,采用结合通道注意力机制的卷积神经网络SeNet构建基于深度迁移学习的质量预测模型。仿真结果表明,随着目标域样本的增加,所提方法的预测准确性明显优于广泛采用的支持向量机建模方法。同时,所提可迁移特征筛选方法显著提高了深度迁移学习的质量预测效果,为复杂的小批量生产过程质量保证提供了新方法。

基于迁移学习与残差网络的快递包裹X光图像识别

针对快递包裹违禁物品识别存在种类繁多、依赖人力和X光图像获取难度大等问题,为提高快递包裹违禁物品识别的效率和准确度,本研究提出一种迁移学习与残差网络相结合的快递包裹X光图像识别方法(TL-ResNet18)。首先构建了相似度高的源领域数据集和目标领域数据集;其次,选用ResNet18作为预训练模型,调整初始化参数结构,并将ResNet18学习到的内容作为初始化参数迁移到目标领域,实现快递包裹X光图像分类;最后,将相同数据集作为三种模型的输入并对结果进行对比。实验结果表明,TL-ResNet18模型的局部微调和全局微调的识别准确率分别为93.5%、95.0%,相比于ResNet18模型提高了7%、8.5%,且精确度、召回率和F1值都优于ResNet18模型,该方法性能更优,且不受小型数据集对深层网络训练的限制,有利于快递包裹X光图像识别的智能化发展。

基于迁移学习图像识别的桥梁监测数据异常检测方法

为了改善桥梁结构健康监测数据多模式异常检测难以全覆盖的问题,提出了基于迁移学习图像识别技术的数据异常检测方法。首先,绘制结构应变和温度数据时程图,统计分析数据日周期变化规律,并标记异常类型作为训练集;通过图像仿射变换实现数据增强,减少网络对不平衡数据集的过拟合。其次,以AlexNet预训练网络为基础,选择迁移学习策略,建立多个对比模型用于分析不同优化算法、初始学习率、Dropout取值和结构轻量化对网络识别结果的影响;以模型分类准确率、训练速率和内存需求作为评价指标,获得性能优越的监测数据异常检测深度网络模型,模型对试验数据的异常分类准确率可达95.5%,体量可缩减94.7%。最后,基于优化模型编译数据异常检测模块,并以某斜拉桥一个月的监测数据为例进行验证,验证集准确率为98.0%。所提方法准确率高、计算速度快、内存需求小,方便应用于桥梁健康监测数据预处理平台。

基于LeNet5like的迁移学习风电机组叶片覆冰故障诊断研究

针对海上风电场和高海拔地区风机机组的叶片覆冰故障模型精度低、建模速度慢等问题,提出一种基于LeNet5like的迁移学习风电机组叶片覆冰故障诊断方法。首先,整合监控和数据采集系统的记录数据与风机覆冰情况进行预处理,建立训练数据集;其次,基于改进后的LeNet5like网络构建覆冰故障诊断模型,提取数据集中多变量间的相关性特征信息;然后,经网络参数微调迁移学习对模型进行训练,实现对其他风机覆冰故障诊断模型的快速建立;最后,经实验验证,该模型覆冰故障诊断准确率为98.90%,较无迁移模块网络训练时间缩短28 s,提升约15.91%,验证了基于LeNet5like的迁移学习风电机组叶片覆冰故障诊断方法的精确性和快速性。

基于迁移学习的棉/毛纤维自动识别方法

针对纺织品废料中织物纤维手工分类存在效率低、主观性强等问题,提出了一种小样本条件下纺织品废料中棉/毛纤维的自动识别方法。首先使用扫描电子显微镜,对已有的棉/毛纤维进行拍照,形成小样本棉/毛纤维图像集;然后分别加载4种经ImageNet数据集训练过的模型进行迁移学习,保留或部分微调模型的网络参数,并基于小样本图像集进行训练和验证,生成棉/毛纤维的分类模型;最后基于准确率、精确率和召回率评价指标,对各种分类模型进行对比测试,选出最优分类模型,实现棉/毛纤维的自动识别。经过实验发现ResNetXt50模型在模型训练过程中取得了最高的精确率,其值为97.33%。对测试集进行测试,结果显示通过微调后的4种分类模型中,ResNet50和ResNetXt50的测试准确率可达99.537%,验证了方法的有效性。