基于多源迁移学习的变位姿刀尖点模态参数预测

切削颤振会导致被加工工件表面质量变差、材料去除率降低以及刀具磨损增加等问题。刀尖点模态参数是构建稳定性叶瓣图、选取无颤振加工参数必不可少的输入。然而在加工过程中刀尖点模态参数随刀具位姿而变化且刀具更换频繁,经典锤击试验方法效率低、成本高,如何准确高效地预测变位姿下的刀尖模态参数成为切削加工中亟待解决的问题。本文结合迁移学习思想,提出一种基于多源迁移学习的变位姿刀尖点模态参数预测方法。当更换新刀具后,仅需通过锤击试验获取少量位姿下的刀尖点模态参数,再结合已有多把刀具的模态参数数据进行多源迁移得到新刀具的刀尖点模态参数预测模型。最后,在实际五轴机床上进行试验,试验表明所提方法是有效的。

基于共同决策方向矢量的多源迁移及其快速学习方法

多源迁移学习提取了多个相似领域之间有用信息,提高了学习效率,但存在计算核矩阵的空间和时间复杂度较高的问题.提出了一种多源迁移学习方法,该方法基于结构风险最小框架理论,以共同决策方向矢量为基准,将多个相似领域的决策方向矢量嵌入到支持向量机的训练过程中,提高了目标领域分类器的分类性能.并结合核心向量机理论提出了共同决策方向矢量核心向量机,实现对大样本数据集的快速分类学习.模拟和真实数据集实验表明了所提算法的有效性.

电子商务中隐空间多源迁移协同过滤

评分数据的极端稀疏性是制约协同过滤(CF)算法在电子商务推荐中有效应用的关键瓶颈。为此,提出一种新颖的隐空间多源迁移协同过滤(latent multi-source transfer collaborative filtering,LMTCF)方法,在某个优化的隐子空间内,LMTCF桥接多个用户/项目源领域隐因子,并保留目标数据的局部几何结构,从而更好地解决协同过滤中存在的数据稀疏性问题,且还能有效克服现有方法存在的负迁移和迁移不充分的问题。在实际基准数据集上的实验结果显示了所提方法明显优于现有相关方法。

基于shapelets时间序列的多源迁移学习滚动轴承故障诊断方法

针对滚动轴承故障诊断在工程实际中故障数据稀缺的问题,提出一种基于shapelets时间序列的多源迁移学习滚动轴承故障诊断方法。首先利用典型故障信息丰富、标记样本充足的滚动轴承数据构建多源域数据集,使用不同源域的数据对源域特征提取器与分类器进行预训练;然后利用基于动态时间规整的shapelets学习算法提取源域与目标域的shapelets作为判别结构,通过度量判别结构优化源域数据,对源域网络进行微调以得到诊断模型;最后根据每个源域与目标域的shapelets之间的差异,利用自适应域权重对各分类器的结果进行聚合得出诊断结果。实验结果表明,该方法在小样本与强噪声的情况下具有较高的故障诊断准确率。

基于相似度的神经网络多源迁移学习算法

为了解决迁移学习中的"负迁移"问题,提出了基于相似度的神经网络多源迁移学习算法。该算法是以经典的BP神经网络模型为基分类器,利用梯度下降法对各个源领域与目标域之间的相似度进行学习和优化,把各个源领域的网络权重参数信息按照与目标域之间的相似程度迁移到目标域中,提高机器学习算法在目标域的分类性能。在UCI数据的Letter-recognition数据集以及20Newsgroups文本数据集上进行实验。实验结果表明了MTL-SNN算法比传统的多源迁移学习算法以及BP神经网络算法在分类准确率上有所提升,因此MTL-SNN算法有效地解决了"负迁移"问题。

基于动态策略的多源迁移学习数据流分类研究

为解决数据流分类中的概念漂移和噪声问题,提出一种基于样本确定性的多源迁移学习方法。该方法存储多源领域上由训练得到的分类器,求出各源领域分类器对目标领域数据块中每个样本的类别后验概率和样本确定性值。在此基础上,将样本确定性值满足当前阈值限制的源领域分类器与目标领域分类器进行在线集成,从而将多个源领域的知识迁移到目标领域。实验结果表明,该方法能够有效消除噪声数据流给不确定分类器带来的不利影响,与基于准确率选择集成的多源迁移学习方法相比,具有更高的分类准确率和抗噪稳定性。

多源域迁移学习的肌电-惯性特征融合及手势识别

在跨用户手势识别研究中,针对单源域迁移学习存在的负迁移和模型泛化性能差的问题,本研究创新性地提出了一种基于肌电-惯性特征融合的多源域迁移学习策略,关键创新点在于整合多个源域的数据,并在此基础上采用域特有特征对齐与域分类器对齐的技术手段。这一方法旨在强化模型在不同用户间的手势识别性能,进而显著提升跨用户手势识别系统的准确性。首先,引入长短时记忆(long short-term memory, LSTM)网络模型,提取肌电-惯性信息的平均绝对值、方差、峰值等时序特征;其次进行域特有特征对齐与域分类器对齐,利用多个源域数据完成对目标域的特征提取;最后融合分类损失、域特有特征差异损失和域分类器差异损失3个损失函数,协同优化整体损失。实验结果表明,所提方法与单源域、源域组合等多种传统方法相比,识别平均率有所提高,在NinaPro DB5数据集上,目标用户的手势识别平均准确率达到80%以上。

基于多源域迁移学习的带式输送机剩余寿命预测方法

煤矿开采过程中,带式输送机运行环境恶劣、工况复杂,致使获得的传感监测数据量有限且存在大量噪声干扰,严重限制了其剩余寿命预测的准确度。针对该问题,提出了一种多源域迁移学习剩余寿命预测方法,充分利用煤矿运输过程中积累的带式输送机多工况数据,以达到准确预测其关键零部件托辊轴承剩余寿命的目的。首先构建集成多尺度卷积神经网络和双向门控循环单元(MCNN-BiGRU)的设备退化特征提取模型,对单工况数据进行特征提取挖掘,并使用PSO算法确定模型超参数。在此基础上,加入多源域迁移学习(MDT)方法,利用多个工况数据进行剩余寿命预测,通过最大均值差异(MMD)与相互关系对齐(CORAL)联合损失拉近各源域数据分布差异,解决因数据量少导致的模型训练精度不高的问题。最后以煤矿实际生产数据集为例进行实验,结果表明:MDT-MCNN-BiGRU模型的预测效果较好,Savitzky-Golay滤波去噪后模型性能得以进一步提升;使用IMS数据集与现有方法进行比较,发现所提方法预测准确度较高,对煤矿运输设备健康管理具有一定的指导意义。

基于多源域迁移学习的行人重识别探讨

文中以多源域迁移学习方法作为支持,对行人重识别策略的应用进行了分析,包括多源域迁移学习算法、行人重识别现状及其发展需求、多源域迁移学习方法下的行人重识别策略。以期为多源域迁移学习方法的合理应用与行人重识别质量的提升提供科学参考,对提高监管区域监控效能具有积极意义。

对不平衡数据的多源在线迁移学习算法

多源在线迁移学习利用多个源域的标记数据来增强目标域的分类性能,针对不平衡的数据集,提出一种可以在源域和目标域的特征空间中过采样的多源在线迁移学习算法。该算法包含两部分:对多个源域过采样和对在线的目标域过采样。对源域过采样阶段,在支持向量机(SVM)的特征空间中过采样来生成少数类样本,新的样本是通过在源域特征空间中的邻域信息来扩增原始的Gram矩阵得到的。对在线的目标域过采样阶段,目标域的样本分批次到达,当前批次的少数类样本从前面已经到达的多个批次中寻找特征空间中的k近邻,利用生成的新样本和当前批次中的原始样本一同训练目标域函数。通过核函数将源域和目标域的样本映射到同一特征空间中进行过采样,使用类别分布相对平衡的源域和目标域数据训练相应的决策函数,从而提升算法的整体性能。在四个真实数据集上进行了全面的实验,在Office-Home数据集的任务上相较其他基线算法,准确率提升了0.0311,G-mean值提升了0.0702。

多源域分布下优化权重的迁移学习Boosting方法

深度决策树迁移学习Boosting方法(DTrBoost)仅能适应一个源域与一个目标域的训练数据,无法适应多个不同分布的源域的样本。此外,DTrBoost方法同步地从源域中学习数据至目标域模型,并没有根据重要程度量化学习知识的权重。在实践中,对于某数据集的数据按照某一或某些特征划分出来的数据往往分布不一致,并且这些不同分布的数据对于最终模型的重要性也不一致,知识迁移的权重也因此不平等。针对这一问题,提出了多源域优化权重的迁移学习方法,主要思想是根据不同分布的源域空间计算出到目标域的KL距离,利用KL距离的比值计算出不同分布的源域样本的学习权重比例,从而优化整体梯度函数,使学习方向朝着梯度下降最快的方向进行。使用梯度下降算法能使模型较快收敛,在确保迁移学习效果的同时,也能确保学习的速度。实验结果表明,提出的算法在整体上实现了更好的性能并且对于不同的训练数据能够实现自适应效果,分类错误率平均下降0.013,在效果最好的OCR数据集上下降0.030。

基于多源差异对抗的高速列车小幅蛇行识别

高速列车的蛇行运动会增加车辆各部分的载荷,剧烈的蛇行运动会使得轮轨间产生较大冲击,产生脱轨的风险,严重威胁到行车安全,因此需要对车辆的蛇行状态进行识别,特别是对蛇行失稳状态开始之前的小幅蛇行状态的识别。目前大多数的研究主要集中在利用单工况数据进行的深度学习以及单源迁移学习,然而高速列车在运行时面临复杂多变的工况。考虑到不同工况下的多源域数据具有不同的分布,仅使用单个工况数据建立的列车蛇行识别模型很难满足各种工况下的识别精度要求。提出一种基于多源双层差异对抗的高速列车小幅蛇行状态识别方法。该方法在训练过程中使用多个工况下具有不同分布的真实蛇行运动数据,并采用双层差异对抗训练策略。初层差异对抗中结合矩匹配模块和领域对抗模块,使得模型既能减小源域与目标域的分布差异,也能减小源域与源域的分布差异。在初层差异对抗的基础上,采用次层差异对抗训练方法,使得模型能够进一步对齐数据的边缘分布和条件分布,从而更好地学习可区分的特征,提高诊断任务的准确性。通过公共轴承数据验证该模型可行性后,用于高速列车蛇行状态识别研究中。实验结果表明,该方法能够正确识别出蛇行运动的不同状态,几种不同识别任务准确率均在99%以上,其诊断效果明显优于单源模型以及其他多源模型,证明了该方法的可靠性。说明该方法在高速列车蛇行状态智能监控中具有一定的工程应用价值。

基于GCN的多源变工况滚动轴承故障诊断

滚动轴承是旋转机械的关键部件,其健康状况的识别非常重要。迁移学习作为一种有效工具被广泛应用于故障诊断领域,但单源迁移学习方法可能存在泛化性能较差甚至引起负迁移,造成识别效果不佳的问题。提出一种基于多感受野图卷积网络(GCN)的多源迁移学习方法(MS-GCN),通过在多个源域数据上学习迁移知识,实现变工况下滚动轴承的故障诊断。该方法首先利用小波变换将振动数据样本转换为二维时频图样本,将获得的N组源域样本和目标域样本进行构建得到N组源域-目标域样本数据对;其次,先利用深度卷积网络学习每组数据对的高维特征,再由多感受野图卷积网络学习所提特征的数据结构,使得自适应方法能充分学习域不变特征,更有效地将源域与目标域特征进行对齐,训练得到N组分类器;最后,取N组分类器分类结果的平均值为目标域样本的状态识别结果。基于江南大学轴承数据集对所提方法展开实验验证,在3组不同的变工况轴承故障诊断任务中,所提方法对4种不同状态(正常、内圈故障、外圈故障及滚动体故障)的分类准确率均在99%以上,与其他方法相比诊断准确率提升了0.22~8.27个百分点。对比结果表明:所提方法对变工况下滚动轴承的故障进行识别,可以有效地诊断出轴承的故障类型,具有一定的工程实用价值。

基于多源域混淆蒸馏的变工况轴承故障诊断方法

针对新工况下标记的故障样本不足和信号分布有差异等问题,提出基于多源域混淆蒸馏的轴承变工况故障诊断方法,将域混淆方法与多教师知识蒸馏方法相融合。首先,令每个源域模型在互相蒸馏的过程中混淆所提取的特征,在提取源域不变信息的同时抑制源域特异信息;然后,在目标域模型中蒸馏整合所有源域不变信息;最后,利用目标域数据进行模型迁移,以有效改善多个源域迁移时效果不稳定的现象。经实验验证,该方法可以通过多种已知工况数据实现对目标工况数据的故障诊断,准确率较高。

基于主动轮廓探索的多源色彩迁移

传统的多源色彩迁移算法常常利用欧氏色彩距离来分割目标图像,由于色彩序列的模糊性与不确定性,使得这种分割极易出现色彩扭曲现象.针对这个问题,提出一种基于主动轮廓探索的多源色彩迁移算法.首先,为将目标图像的主体与背景分离开,利用一种主动进化的方法生成虚拟轮廓线,并采用能量函数评价机制迫使虚拟轮廓线逐渐逼近实际轮廓线.其次,合理利用源图像与目标图像在RGB、Gray和LMS等不同色彩空间的表示、分割、转换,实现其在lαβ空间的多源色彩迁移.最后,将在lαβ空间迁移得到的目标图像逆向操作后恢复为RGB显示.单源与多源色彩迁移的对比、灰度化色彩通道的选择以及各色彩空间不同色彩通道间的干涉性对比等实验验证了所提算法的合理性与有效性.

基于样本平衡策略的多源迁移学习方法及其在乙烯精馏塔质量指标预测的应用

基于数据驱动的工业过程建模需要依赖大量的标记良好的数据集,但与目标任务直接相关的标注数据往往是有限的。因此,可以利用与其具有相关性的辅助训练数据进行建模以实现任务迁移。然而,样本的不平衡问题一定程度上影响了迁移学习的性能表现。因此,提出了一种基于样本平衡策略的多源迁移学习方法,首先,对于同一源域内样本,采用最小二乘方法融合多个候选预测器得到单个源预测器,以协同利用域内不同样本包含的可迁移信息。此外,对于不同源域间样本,基于误差函数将多个源预测器加权组合得到多源预测模型。最后以乙烯精馏塔为对象进行案例分析,验证了所提出方法的有效性。

概念漂移数据流分类中的多源在线迁移学习算法

现有概念漂移处理算法在检测到概念漂移发生后,通常需要在新到概念上重新训练分类器,同时"遗忘"以往训练的分类器。在概念漂移发生初期,由于能够获取到的属于新到概念的样本较少,导致新建的分类器在短时间内无法得到充分训练,分类性能通常较差。进一步,现有的基于在线迁移学习的数据流分类算法仅能使用单个分类器的知识辅助新到概念进行学习,在历史概念与新到概念相似性较差时,分类模型的分类准确率不理想。针对以上问题,文中提出一种能够利用多个历史分类器知识的数据流分类算法——CMOL。CMOL算法采取分类器权重动态调节机制,根据分类器的权重对分类器池进行更新,使得分类器池能够尽可能地包含更多的概念。实验表明,相较于其他相关算法,CMOL算法能够在概念漂移发生时更快地适应新到概念,显示出更高的分类准确率。

基于域相关性与流形约束的多源域迁移学习分类算法

针对传统机器学习要求训练样本和测试样本具有相同分布的假设在实际应用中难以满足的问题,进行了迁移学习的研究。当源域与目标域的相关性较小时,粗暴式地强制性迁移不仅不能促进目标域学习,甚至会降低学习性能,即出现负迁移问题。为此,提出了一种基于多重相似性的多源域迁移学习方法。该方法首先从域—域和样本—域两个层面来更加准确地衡量目标域与多个源域的相关性;然后根据目标域分类器与相关源域分类器对目标域无标记样本具有相似决策值的平滑性流形假设,实现源域知识向目标域迁移的目的。在公共数据集上的实验结果表明,所提出的迁移学习方法不仅能够从多个不同源域中挖掘更多的知识用于目标域学习,而且能够根据域间相似性有选择地进行迁移,可以有效地避免负迁移问题。

对不平衡目标域的多源在线迁移学习

多源在线迁移学习已经广泛地应用于相关源域中含有大量的标记数据且目标域中数据以数据流的形式达到的应用中。然而,目标域的类别分布有时是不平衡的,针对目标域每次以在线方式到达多个数据的不平衡二分类问题,本文提出了一种可以对目标域样本过采样的多源在线迁移学习算法。该算法从前面批次的样本中寻找当前批次的样本的k近邻,先少量生成多数类样本,再生成少数类使得当前批次样本的类别分布平衡。每个批次合成样本和真实样本一同训练目标域函数,从而提升目标域函数的分类性能。同时,分别设计了在目标域的输入空间和特征空间过采样的方法,并且在多个真实世界数据集上进行了综合实验,证明了所提出算法的有效性。

基于多源域深度迁移学习的液晶面板缺陷检测算法

针对液晶面板缺陷检测中现有的基于深度神经网络的方法所面临训练数据不足、模型泛化性能差和模型稳定性能差等问题,提出了一种基于多源域深度迁移学习的缺陷检测算法,该算法利用多种相似任务的数据集构建了多源域的训练数据,以Mask R-CNN为基础框架,采用混淆域的迁移学习方法对模型进行知识迁移,实现了对液晶面板缺陷的检测。另外,本文还提出一种参数更新的方法,以保证多源域数据知识的正向迁移。为验证所提方法的有效性和实用性,本文以四个源域数据集为基础,在液晶缺陷数据集上进行了实验。实验结果表明,该算法达到了79.6%的mAP,相比于非迁移学习的方式提升了23.8%。模型训练稳定后的检测效率符合工业生产的要求,证明了算法的有效性和实用性。