改进在线贯序极限学习机在模式识别中的应用

针对传统在线贯序极限学习机存在的过学习和分类器输出不稳定等问题,将结构风险最小化理论引入到极限学习机中,用小波函数替代原有的隐层激励函数构建正则小波极限学习机,并与在线学习方法结合,提出在线正则小波极限学习机。仿真实验结果表明,在线正则小波极限学习机克服过学习和局部最优等问题,能够实现快速在线学习,具有良好的泛化性和鲁棒性。

一种基于在线序贯极限学习机的大型舰船甲板态势预测方法

在舰船摇荡运动无法有效抑制时,可利用惯性导航系统实时测量甲板运动,并利用甲板运动的当前以及历史数据对未来时刻的甲板运动进行预测,以提高舰载机的起降安全性。然而甲板摇荡运动作为风浪、潮汐等共同作用的产物,具有较强的非线性、随机性和时变性。针对上述特性,引入具有信息实时更新功能的在线序贯极限学习机(OS-ELM)方法对甲板运动态势进行预测。该方法通过实时更新参与模型解算的样本数据,具有计算量小、学习映射能力强的优点。针对OS-ELM中存在的隐含层节点个数选择,以及甲板态势预测中出现的样本个数、历史数据长度等参数选择问题,引入遗传算法(GA)进行寻优。基于模拟甲板摇荡数据的仿真表明,该预测方法可以实时跟踪甲板运动的实时性变化,并对甲板运动态势进行预测。

基于在线贯序极限学习机的齿轮故障诊断方法

针对表征齿轮故障信息的特征难提取与极限学习机无法处理随时间变化的信息流,致使齿轮故障分类模型精度差、泛化能力弱的问题,提出一种基于在线贯序极限学习机的齿轮故障诊断方法。该方法首先将齿轮振动信号进行相空间重构,并对重构矩阵进行奇异值分解得到奇异值特征向量;其次,建立在线贯序极限学习机的齿轮故障分类模型,并将奇异值特征向量作为模型输入进行齿轮不同故障状态的辨识。实验结果表明:与基于BP、SVM与ELM的故障分类方法相比,基于基于在线贯序极限学习机的齿轮故障诊断方法具有更快的学习速度、更高的分类精度与更强的泛化能力。

加权在线贯序极限学习机算法及其应用

针对在线贯序极限学习机对所有数据等权处理这一缺陷,提出加权在线贯序极限学习机算法。依据运算过程中产生的网络均方根误差的差异,给新数据以及历史数据分配不同的权值,当网络均方根误差较大时减小其权值,较小时增大其权值。该算法实现了对新旧数据的不等权处理,利用航空发动机传感器数据验证该算法的可行性。验证结果表明,基于该算法所建的航空发动机传感器故障诊断模型要比基于传统在线贯序极限学习机算法所建模型的精度更高。

基于主曲线的不均衡在线贯序极限学习机研究

针对现有机器学习算法难以有效提高不均衡在线贯序数据中少类样本分类精度的问题,提出了一种基于主曲线的不均衡在线贯序极限学习机。该方法的核心思路是根据在线贯序数据的分布特性,均衡各类别样本,以减少少类样本合成过程中的盲目性,主要包括离线和在线两个阶段。离线阶段采用主曲线分别建立各类别样本的分布模型,利用少类样本合成过采样算法对少类样本过采样,并根据各样本点到对应主曲线的投影距离分别为其设定相应大小的隶属度,最后根据隶属区间削减多类和少类虚拟样本,进而建立初始模型。在线阶段对贯序到达的少类样本过采样,并根据隶属区间均衡贯序样本,进而动态更新网络权值。通过理论分析证明了所提算法在理论上存在损失信息上界。采用UCI标准数据集和实际澳门气象数据进行仿真实验,结果表明,与现有典型算法相比,该算法对少类样本的预测精度更高,数值稳定性更好。

基于M-estimator与可变遗忘因子的在线贯序超限学习机

该文针对时变离群值环境下的在线学习问题,提出一种基于M-estimator与可变遗忘因子的在线贯序超限学习机算法(VFF-M-OSELM)。VFF-M-OSELM以在线贯序超限学习机模型为基础,通过引入一种更加鲁棒的M-estimator代价函数来替代传统的最小二乘代价函数,以提高模型对于离群值的在线处理能力和鲁棒性。同时VFF-M-OSELM通过融合使用一种新的可变遗忘因子方法进一步增强了其在时变环境下的动态跟踪能力和自适应性。仿真实例验证了所提算法的有效性。

基于量子进化在线序贯极限学习机的变桨系统故障检测

针对复杂工况下风电机组变桨系统故障检测问题,采用在线序贯极限学习机建立变桨系统状态监测模型,利用ReliefF算法进行模型的特征选择,通过量子进化算法优化在线序贯极限学习机的超参数集,并引入马氏距离函数计算变桨系统状态监测模型的残差,判断风电机组变桨系统的异常。以辽宁某风电场1.5 MW双馈风电机组变桨系统为例,将所提出的模型分别与粒子群优化极限学习机、粒子群优化支持向量机、随机权神经网络、极限学习机和反向传播神经网络模型进行对比,结果表明所提出的模型精度优于其他模型,所提方法的故障检测正确率高于3σ阈值法和核主成分分析方法。

基于在线序贯极限学习机的温室温度预测方法及其自适应控制系统设计

针对现有的温室控制方法难以对温室系统做出精准预测和有效控制等问题,提出一种基于在线序贯极限学习机(online sequential extreme learning machine,简称OS-ELM)神经网络的温室温度预测及其自适应控制方法。该方法采用OS-ELM神经网络构建温室系统的温度预测模型,并用于温室温度预测;将预测模型的输出作为模糊神经网络控制器(fuzzy neural network controller,简称FNNC)的理想输出参考量,结合FNNC的实际输出量,将FNNC输出误差作为遗传算法(genetic algorithm,简称GA)优化FNNC参数的目标函数,构成在线预测的模糊控制策略。在温室温度预测模型采用物理建模、Elman神经网络建模和OS-ELM神经网络建模方法下对温室温度控制进行试验,结果表明,基于OS-ELM的温室温度预测方法及其自适应控制系统具有较好的性能优势,可有效提高温室的预测和控制精度。

PID补偿的完全在线序贯极限学习机控制器在输入扰动系统自适应控制中的应用

针对输入受外界扰动的系统在实现自适应控制难的问题,提出一种比例-积分-微分(PID)补偿的完全在线序贯极限学习机(FOS-ELM)控制器设计方法。首先,建立系统的动态线性模型,采用FOS-ELM算法设计控制器并学习其参数;其次,计算系统的实际输出误差,结合系统的控制误差,设计所需补偿的PID增量参数;最后,对PID补偿的FOS-ELM控制器参数在线调整并用于系统控制。在发动机空气燃油比(AFR)控制系统模型上进行实验,实验结果表明上述方法在实现自适应控制的同时降低了系统扰动输入带来的干扰,提高了系统有效控制率,在正负干扰系数为0.2时,其有效控制率从不足53%提高到93%以上。同时该方法易于实现,具有很强的鲁棒性和实用价值。

面向贯序不均衡数据的混合采样极限学习机

针对现有机器学习算法难以有效提高贯序不均衡数据分类问题中少类样本分类精度的问题,提出一种基于混合采样策略的在线贯序极限学习机。该算法可在提高少类样本分类精度的前提下,减少多类样本的分类精度损失,主要包括离线和在线两个阶段:离线阶段采用均衡采样策略,利用主曲线分别构建多类和少类样本的可信区域,在不改变样本分布特性的前提下,利用可信区域扩充少类样本和削减多类样本,进而得到均衡的离线样本集,建立初始模型;在线阶段仅对贯序到达的多类数据进行欠采样,根据样本重要度挑选最具价值的多类样本,进而动态更新网络权值。通过理论分析证明所提算法在理论上存在损失信息上界。采用UCI标准数据集和实际的澳门空气污染预报数据进行仿真实验,结果表明,与现有在线贯序极限学习机(OS-ELM)、极限学习机(ELM)和元认知在线贯序极限学习机(MCOS-ELM)算法相比,所提算法对少类样本的预测精度更高,且数值稳定性良好。

前馈网络的一种高精度鲁棒在线贯序学习算法

基于离散傅里叶变换-极限学习机(DFT-ELM)提出了一种新的单隐层前馈神经网络在线贯序学习算法,命名为"在线贯序-离散傅里叶变换-极限学习机"(OS-DFT-ELM).该算法能够逐个或逐段学习数据,随着新数据的逐渐到达,单隐层前馈神经网络的内权矩阵和外权矩阵得到逐步调整.该算法与在线贯序-极限学习机(OS-ELM)相比,具有更高的精度和鲁棒性.同时,通过实验和分析,表明OS-DFT-ELM具有优良性能.

改进小波序贯极限学习机的光电经纬仪空间配准算法研究

针对光电经纬仪数据融合系统中的空间配准问题,提出复合函数小波神经网络序贯极限学习机光电经纬仪空间配准算法。该算法将小波理论引入到极限学习机中,利用小波函数和任意分段连续非线性函数构造极限学习机隐层节点激励函数,小波函数的伸缩因子和平移因子根据输入数据范围进行初始化,并结合极限学习机在线学习方法进行训练。实验结果表明:改进小波序贯极限学习机的光电经纬仪空间配准算法可以使光电经纬仪的测量精度提高到3″以内,与标准极限学习机空间配准算法相比,该算法能够实现在线增量式快速学习,具有更好的泛化性能。

基于在线惯序极限学习机的瞬变电磁非线性反演

基于梯度下降法的传统人工神经网络瞬变电磁反演方法计算效率低,不能保证全局收敛。为了解决上述问题,提出一种在线惯序极限学习机(online sequential extreme learning machine,OSELM)的瞬变电磁反演方法。该方法针对瞬变电磁法所获取的高维勘探数据进行建模反演,首先,通过随机设定隐层参数(输入权值和偏差)来简化模型的学习过程;然后,将测试得到的预测样本加入训练样本中,作为下一次的更新信息,建立在线贯序极限学习机预测模型,从而最大限度提高反演精度;最后,设计了两个经典的瞬变电磁层状地电模型并进行了拟二维地电模型的反演。反演结果表明,该方法能够较好地解决瞬变电磁法高维数据非线性建模的反演问题,同时相较极限学习机(extreme learning machine,ELM),非线性反演方法具有更加准确的反演结果、更好的泛化能力以及更高的计算效率,为神经网络在地球物理反演中的应用提供了新思路。

抗离群值的鲁棒正则化贯序超限学习机

针对离群值环境下的在线学习问题,提出一种鲁棒正则化贯序超限学习机(Robust regularized online sequential extreme learning machine,RR-OSELM)。RR-OSELM以增量学习新样本的方式实现在线学习,并在学习过程中基于样本的先验误差进行逆向加权计算以降低学习模型对于离群值的敏感性;同时RR-OSELM通过融合使用Tikhonov正则化技术进一步增强了其在实际应用中的稳定性。实验结果表明,RR-OSELM具有较同类算法更好的鲁棒性和实用性,对于离群值环境下的在线建模与预测问题是积极有效的。

一种训练支撑向量机的改进贯序最小优化算法

对于大规模问题,分解方法是训练支撑向量机主要的一类方法.在很多分类问题中,有相当比例的支撑向量对应的拉格朗日乘子达到惩罚上界,而且在训练过程中到达上界的拉格朗日乘子变化平稳.利用这一统计特性,提出了一种有效的缓存策略来加速这类分解方法,并将其具体应用于Platt的贯序最小优化(sequential minimization optimization,简称SMO) 算法中.实验结果表明,改进后的SMO算法的速度是原有算法训练的2~3倍.

不平衡数据下船舶主机在线故障诊断研究

[目的]针对传统船舶主机的故障诊断模型难以采用实时数据及时更新,且船舶主机还存在监测点多但故障样本少的问题,提出一种能够处理不平衡数据并可以在线更新模型的故障诊断方法。[方法]首先,采用主成分分析法(PCA)对监测样本进行降维和特征提取,降低训练模型的复杂度;然后,通过SMOTETomek构造故障样本以平衡训练集;接着,针对诊断模型难以实时更新的问题,引入结合正则化方法且具备在线更新功能的在线贯序极限学习机(OSELM)模型;最后,以主机燃油系统为例验证OSRELM模型的可行性,并采用不平衡船舶主机数据进行消融实验以验证整体模型的有效性。[结果]结果显示,所提方法在原始模型的基础上可使诊断精度提升29.73%。[结论]研究表明所提方法较其他同类方法具有更高的诊断精度,波动幅度较小,具有较好的稳定性;且在样本不平衡的情况下,对于故障类样本仍具备较强的识别能力,适用于船舶主机故障诊断方面的研究。

采用序贯学习的改进型Elman神经网络预测研究

针对石油化工领域监测系统中,广泛存在的非线性时间序列预测问题,将Elmann神经网络方法引入化工过程监测的在线预测。并在其理论框架基础之上,改进了Elman神经网络的内部结构,引入了串行学习机制,可以根据实时数据对网络进行在线训练,提高网络预测精度。通过对某芳烃厂实时数据在线预测仿真,表明该方法能够准确地在线预测未来数据,同时具有训练速度快、结构简单、适应性强的优点。

序贯最小优化的改进算法

序贯最小优化(sequential minimal optimization,简称SMO)算法是目前解决大量数据下支持向量机(support vector machine,简称SVM)训练问题的一种十分有效的方法,但是确定工作集的可行方向策略会降低缓存的效率.给出了SMO的一种可行方向法的解释,进而提出了一种收益代价平衡的工作集选择方法,综合考虑与工作集相关的目标函数的下降量和计算代价,以提高缓存的效率.实验结果表明,该方法可以提高SMO算法的性能,缩短SVM分类器的训练时间,特别适用于样本较多、支持向量较多、非有界支持向量较多的情况.

基于正则化与遗忘因子的极限学习机及其在故障预测中的应用

为了解决在线贯序极限学习机(OS-ELM)算法容易产生奇异矩阵、算法贯序更新过程中没有考虑训练样本时效性的问题,提出基于l2-正则化和自适应遗忘因子的OS-ELM(RFOS-ELM)算法。RFOS-ELM在初始阶段加入正则化机制,克服因矩阵奇异而降低OS-ELM泛化能力的缺点。在贯序更新阶段,RFOS-ELM通过引入自适应遗忘因子实时调整新旧训练样本所占比重,推导正则化条件下带遗忘因子RFOS-ELM的递推更新算法,提高其对动态变化系统的跟踪能力。某型无人机机载发射机故障预测实例表明,相比于传统OS-ELM和正则化OS-ELM算法,本文提出方法具有更高的预测精度。

基于OS-ELM的风机关键机械部件故障诊断方法

针对传统故障诊断中前馈神经网络算法诊断效果不佳、泛化能力不强问题,提出了基于在线贯序极限学习机(OS-ELM)的风机关键机械部件故障诊断方法。该方法将测试得到的预测样本加入训练样本,作为下一次的更新信息,建立在线贯序极限学习机诊断模型,从而最大限度提高故障诊断精度,分析了激活函数、隐层节点数目对诊断性能的影响,并同BP神经网络、SVM以及ELM神经网络进行对比。实验表明,该方法在风机关键机械部件出现故障情况下,OS-ELM网络能够作出准确诊断且性能明显优于BP神经网络,与SVM、ELM故障分类准确率相当,但极大地提高了运算速度,便于工程应用。