一种新型径向基函数神经网络学习算法——递归正交最小二乘法(ROLS)

径向基函数神经网络在很多领域都得到了成功的应用。但迄今为止仍没有一种有效的方法来确定隐层中心数目。笔者将递归正交最小二乘 (ROLS)方法引入RBFNN建模训练 ,利用ROLS算法训练网络后所得的有用信息 ,采用后向选择算法 ,逐步去掉那些使网络残差增加最小的中心 ,在得到网络有效中心的同时 ,还满足了精度要求 ,从而大大简化了RBF网络结构 ,节约了大量的存储空间以及计算量。

基于相关函数的递推最小二乘算法及其在回波消除中的应用

本文给出一种新的类似于RLS(recursive least squares)算法的递推最小二乘算法,该算法直接对输入信号的相关函数进行处理而不是对输入信号本身进行处理, 理论分析表明了该算法的收敛性。该算法应用于回波消除问题中,克服了常规自适应滤波算法在出现双方对讲的情况下需停止调节自适应滤波器系数这一不足。计算机模拟仿真表明该算法在双方对讲的情况下有良好的收敛性能。

二阶伏特拉滤波器RLS算法改进

分析了二阶伏特拉滤波器的一种快速RLS算法,针对其存在的收敛速度与收敛精度之间的矛盾,构造了遗忘因子函数并取代该算法中的固定遗忘因子,得到改进的RLS算法。提出了遗忘因子函数的构造原则并分析了相关参数的选取方法。算例表明:改进的RLS算法能解决收敛速度与收敛精度之间的矛盾,有效地加快了收敛速度。

基于递推最小二乘法的多步时序差分学习算法

强化学习是一种重要的机器学习方法。为了提高强化学习过程的收敛速度和减少学习过程值函数估计的误差,提出了基于递推最小二乘法的多步时序差分学习算法(RLS-TD(λ))。证明了在满足一定条件下,该算法的权值将以概率1收敛到唯一解,并且得出和证明了值函数估计值的误差应满足的关系式。迷宫实验表明,与RLS-TD(0)算法相比,该算法能加快学习过程的收敛,与传统的TD(λ)算法相比,该算法减少了值函数估计误差,从而提高了精度。

基于递推最小二乘自适应滤波算法的图像去噪

递推最小二乘RLS(Recursive of Least Square)算法是自适应滤波算法中的精确分析算法。它具有收敛速率快,精确度高等特点,但是发现目前RLS算法多用于对一维信号的去噪处理。使用递推最小二乘(RLS)算法对二维图像进行去噪,从处理一维信号变成处理二维图像信号,需要对RLS算法进行改进。先迭代得到滤波器参数,形成3×3滤波掩模,再改进算法对图像进行滤波;同时与常数比率维纳滤波和自相关函数的维纳滤波算法的去噪效果进行对比。结论证明在对图像进行较严重的模糊和加噪处理后,其他两种算法对图像的还原能力差,而递推最小二乘自适应滤波(RLS)算法具有优良的图像去噪性能。

基于改进ELM的递归最小二乘时序差分强化学习算法及其应用

针对值函数逼近算法对精度及计算时间等要求,提出了一种基于改进极限学习机的递归最小二乘时序差分强化学习算法。首先,将递推方法引入到最小二乘时序差分强化学习算法中消去最小二乘中的矩阵求逆过程,形成递推最小二乘时序差分强化学习算法,减少算法的复杂度及其计算量。其次,考虑到LSTD(0)算法收敛速度慢,加入资格迹增加样本利用率提高收敛速度的算法,形成LSTD(λ)算法,以保证在经历过相同数量的轨迹后能收敛于真实值。同时,考虑到大部分强化学习问题的值函数是单调的,而传统ELM方法通常运用具有双侧抑制特性的Sigmoid激活函数,增大了计算成本,提出采用具有单侧抑制特性的Softplus激活函数代替传统Sigmoid函数,以减少计算量提高运算速度,使得该算法在提高精度的同时提高了计算速度。通过与传统基于径向基函数的最小二乘强化学习算法和基于极限学习机的最小二乘TD算法在广义Hop-world问题的对比实验,比较结果证明了所提出算法在满足精度的条件下有效提高了计算速度,甚至某些条件下精度比其他两种算法更高。

基于累积量的递归最小二乘算法研究

从基于累积量的均方误差（ＣＭＳＥ）准则，本文推导了一种基于累积量的递归最小（ＣＲＬＳ）算法。并从信号检验和估计的角度对三阶ＣＲＬＳ算法中出现的加权求和系数给出的一种物理解释，以说明其抗高斯噪声的机理。本文提出应根据三种不同条件下信号的最优估计来确定最佳窗口函数的原则。

异步CDMA系统中基于预处理递归最小二乘恒模算法的盲自适应接收

该文提出一种基于预处理递归最小二乘恒模算法(PP-RLSCMA)的多径异步CDMA系统盲自适应接收技术。首先对接收信号进行自适应预处理,并分析了预处理器的复杂性和稳定性。预处理的目的是通过对干扰和噪声的部分抑制以提高恒模接收的性能,所提出的预处理方法只与多径信道的最大长度有关。鉴于统计恒模算法收敛速度慢的缺点,提出一种快速递归最小二乘恒模算法的盲自适应接收。仿真表明,该文算法的误码率及收敛性能比LCMMV,LCCMA好。

基于格型递归最小二乘算法的船舶运动极短期预报

在最小二乘方法(RLS,recursive least square)的基础上,提出利用格型递归最小二乘(LRLS,lattice recursiveleast square)算法对AR模型参数进行自适应估计。该算法为模块式的多极格型结构,降低了一般RLS算法的计算复杂度。利用实测的动态数据结合AIC准则建立自适应AR预报模型,并将该模型应用于船舶运动预报中,仿真结果表明,相对于最小二乘算法,基于LRLS算法的AR预报模型可有效提高船舶运动预报精度。

加权随机汇池网络中递归最小二乘算法研究

实际应用中信号和噪声的统计知识经常是未知的,为探究未知噪声环境中加权随机汇池网络模型的信号参数估计性能,本文研究了加权随机汇池网络中信号估计的递归最小二乘自适应递推算法,分析了该模型下算法的收敛性、均方误差、学习曲线等统计特征。在非平稳输入信号下,引入遗忘因子,探究了算法有效跟踪信号变化的能力。实验结果验证了关于算法收敛性与均方误差性能的理论分析,同时还证实了自适应过程中的超阈值随机共振现象。本文研究结果对于加权随机汇池网络的实际应用具有理论指导义。

最小二乘递推算法和 Kalman 滤波算法

就一般加权、最优加权和指数加权三种情形分别介绍了最小二乘递推（ＲＬＳ）算法和Ｋａｌｍａｎ滤波算法，且首次将状态向量的概念扩展到了状态矩阵的概念．这将使我们在某些应用中能采用比以前规模小得多的模型而丝毫不会因此带来任何误差．最后，我们还指出了ＲＬＳ算法和Ｋａｌｍａｎ滤波算法所存在的一些问题．

基于递归最小二乘的微波对射雷达信号处理算法

微波对射雷达被用在安全防护领域的雷达系统,可形成电子栅栏,这种雷达系统容易受雨、雪等天气因素的干扰,出现虚警。针对这个现象,文章提出了采用中值均值法和递归最小二乘算法对雷达回波的强度进行估计的微波对射雷达信号处理算法,同时提出了目标持续时间、最大相对幅度变化比例、接收能量损失三个判决统计量和相应的判决方法。经验证,采用该算法的微波对射雷达在降水过程中检测到入侵者的同时未引起虚警。

严格的最小二乘递推算法在系统辨识与滤波中的应用

研究了严格的最小二乘递推（R2LS）算法在系统辨识与滤波中的应用。另一重要内容是给出了与R2LS算法相对应的充分激励（PE）系列及重要性质。且从关于多目标飞行轨迹的跟踪应用中可知，由于采用了状态矩阵这一新概念，使我们能用一规模很小的模型同时描述多个目标的运动，从而使计算量大为减小。

衰减激励条件下递阶最小二乘辨识的均方收敛性

为减少递推辨识的计算量 ,提出了递阶辨识原理 ,它是将系统分解为多个维数较小的虚拟子系统进行辨识 ,从而获得递阶最小二乘辨识方法。在衰减激励条件下 ,针对时不变系统研究了递阶最小二乘法的收敛性 ,得到了参数估计误差均方收敛于零时衰减指数应满足的条件。递阶最小二乘具有良好的性能 ,其计算量比递推最小二乘辨识要小得多 。

偏最小二乘相关算法在系统建模中的两类典型应用

讨论了偏最小二乘回归(PLSR)的相关算法对两类典型实际系统建模的有效应用。分析了传统的偏最小二乘回归批处理算法及由此产生的一种简化算法的基本原理和技术特点。在此基础上,对原有的递推算法进行了一定程度的改进,直接采用自变量主元t的回归系数矩阵P和R来取代旧的数据信息,从而进一步简化了计算过程。针对上述两种算法的特点,分别对无人机费用模型(少样本,多变量)和切削力峰值模型(多样本,少变量)参数进行了估计计算,说明了各自算法的应用优势。

基于RLS算法的并联型APF全局积分滑模变结构控制

针对并联型有源电力滤波器(active power filter,APF)谐波检测环节的延时和谐波电流跟踪环节的鲁棒性差、跟踪精度不高的问题,建立了系统解耦后的数学模型,提出了基于递归最小二乘(recursive least squares,RLS)算法的并联型APF全局积分滑模变结构控制策略。谐波检测环节采用改进的瞬时无功功率理论的id-iq法,用RLS自适应滤波器替换传统的Butterworth低通滤波器,解决了传统的Butterworth低通滤波器因延时而导致的一个基波周期(20 ms)内检测盲区问题。谐波电流跟踪环节采用全局积分滑模变结构控制方法,引入了全局积分滑模面,运用Lyapunov稳定性理论导出的控制律兼顾了全局滑模的快速性和积分滑模的准确性。在解决了谐波检测环节延时的情况下,将全局积分滑模控制策略与传统的PI控制和滞环控制对比,仿真实验结果表明:全局积分滑模控制对指令电流具有更高的跟踪精度,且具有更低的电网侧电流总谐波畸变率(total harmonic distortion,THD)。

基于自适应RLS算法的鱼雷电磁引信直接耦合干扰消除

为了有效消除鱼雷电磁引信收发天线之间的直接耦合干扰,弥补传统方法的不足,提出了一种基于自适应递归最小二乘(RLS)算法的干扰消除新方法。首先分析了自适应滤波器的一般原理;其次阐述了RLS算法的滤波原理和实现流程;最后结合典型的鱼雷电磁引信过靶参数并设置不同的耦合干扰强度,在MATLAB环境中进行了算法的仿真研究。仿真结果表明,采用该方法可在直接耦合干扰的幅值是目标信号幅值的10万倍的条件下将其有效消除,是一种消除同频强背景干扰的有效方法。此外,该方法还具有自适应算法运算量小、收敛速度快和实时性数据处理等优点。

基于可变遗忘因子RLS算法的谐波电流检测方法

为了提高有源电力滤波器谐波检测环节的动态响应性能和精度,进而取得更好的谐波补偿电流跟踪效果,提出了一种基于可变遗忘因子递归最小二乘法(RLS)的谐波电流检测算法。该算法通过设定负载谐波电流动态过程发生的判别条件判断动态过程的发生,并动态地给出遗忘因子的取值,从而提高算法收敛速度。算法不但克服了的p-q和ip-iq法中低通滤波环节对动态响应特性的不利影响,而且化解了传统的RLS谐波电流检测算法中稳态与动态过程对遗忘因子不同的要求所产生的矛盾。最后,通过Simulink仿真分析和APF样机实验验证了本文所提的改进算法比传统的RLS谐波电流检测算法具有更快的动态响应特性,是一种非常有效的谐波电流检测方法。

改进的偏最小二乘回归推荐算法

基于已有的相关PLS算法,提出了针对QSAR研究和工业过程控制建模的环境要求的PLS回归改进算法:加强递归PLS算法.模拟实验结果表明:在实时建模过程中,该算法的性能优于传统的PLS回归算法.

一种具有快速跟踪能力的改进RLS算法研究

为了改善固定遗忘因子RLS(Recursive least-square)算法在时变系统中的跟踪性能,提出了一种改进的RLS算法。改进的RLS算法结合了可变遗忘因子的RLS算法和自扰动RLS算法,既克服了固定遗忘因子RLS算法中跟踪速度和参数失调的矛盾,而且也避免了当参数估值趋向于参数真值时,卡尔曼增益趋于零,从而RLS算法失去对时变系统的跟踪能力的问题。最后,在MATLAB平台下,对改进后的RLS算法进行了仿真验证。仿真结果表明,算法具有较快的收敛速度和跟踪速度以及较小的稳态误差。