基于自步学习策略的归纳式迁移学习模型研究

在机器学习任务中很多时候是单任务学习,所以往往会忽略学习任务之间的相关性,并且在单任务学习中容易忽略样本的复杂度,为此,本文提出了一种新的基于自步学习策略的归纳式迁移学习模型,通过对当前多个相关的源任务共享参数学习构建一个预测模型,从而解决目标任务的分类问题。首先提出模型基于自步学习的策略,按照预先设定的自步学习模型参数对多个相关的源任务进行联合学习,利用源任务中样本的损失大小与难易程度对学习的样本赋予一个权重,在迭代的过程中更新自步学习的参数从而挑选出比较合适的样本(损失较小的样本),然后使用在多个相关的源任务中学习到的知识帮助学习目标任务,构建多个相关迁移学习目标任务的模型,将多个源任务学习到的模型迁移到相关的目标任务中从而提高模型的泛化能力,最后通过拉格朗日函数进一步优化目标模型以提高分类器的性能。实验结果表明,提出的模型在相同的实验条件下优于现有的归纳式迁移学习模型。

基于DLSR的归纳式迁移学习

传统机器学习方法的有效性依赖于大量的有效训练数据,而这难以满足,因此迁移学习被广泛研究并成为近年来的研究热门.针对由于训练数据严重不足导致多分类场景下分类性能降低的挑战,提出一种基于DLSR(discriminative least squares regressions)的归纳式迁移学习方法(TDLSR).该方法从归纳式迁移学习出发,通过知识杠杆机制,将源域知识迁移到目标域并同目标域数据同时进行模型学习,在提升分类性能的同时保证源域数据的安全性.TDLSR继承了DLSR在多分类任务中扩大类别间间隔的优势,为DLSR注入了迁移能力以适应数据不足的挑战,更加适用于复杂的多分类任务.通过在12个真实UCI数据集上进行实验,验证了所提出方法的有效性.

基于迁移学习的离心式水泵扬程性能预测

离心式水泵作为工业领域常见的抽水机械,一直有着广泛的应用.然而在其性能指标预测过程中,理论模型难以达到高精度要求,而机器学习模型难以应用于多工况环境.本文提出了一个最小二乘归纳式迁移学习(LSITL)方法,该方法利用离心式水泵扬程性能曲线特征,通过最小二乘方式提取迁移知识,并利用归纳法建立多工况下的迁移模型,再通过最小二乘支持向量机(LSSVM)方法的反向求解实现对离心式水泵的性能预测.本文通过与机理建模方法和传统机器学习方法的对比,表明了本文中方法具有准确性高,适用范围广的优势,可以实际应用到离心式水泵性能指标的预测当中.