一种新型径向基函数神经网络学习算法——递归正交最小二乘法(ROLS)

径向基函数神经网络在很多领域都得到了成功的应用。但迄今为止仍没有一种有效的方法来确定隐层中心数目。笔者将递归正交最小二乘 (ROLS)方法引入RBFNN建模训练 ,利用ROLS算法训练网络后所得的有用信息 ,采用后向选择算法 ,逐步去掉那些使网络残差增加最小的中心 ,在得到网络有效中心的同时 ,还满足了精度要求 ,从而大大简化了RBF网络结构 ,节约了大量的存储空间以及计算量。

基于递归正交最小二乘的径向基函数网络人脸识别

本文提出了一种基于递归正交最小二乘的径向基函数(RBF)网络人脸识别算法,该算法首先使用主成分分析(PCA)提取输入图像特征,将提取的特征作为RBF网络的输入进行识别,在求取网络权值时采用递归正交最小二乘(ROLS)算法。实验表明,该算法能明显地缩短训练时间同时具有较高的识别率。

基于递推正交最小二乘的RBF网络结构优化

讨论了次胜者受罚的竞争学习规则 ,提出了基于正交最小二乘 ( OLS)递推算法 ,采用改进的 Givens旋转变换技术避免了大型矩阵的 QR分解运算。在满足系统测量精度条件下 ,使用反向优选算法优化 RBF网络结构。仿真结果表明 ,所得算法能有效地解决网络学习隐层单元的确定需要人介入的问题 。

径向基函数神经网络正交最小二乘改进算法的实现

综合现有文献提出的径向基函数 (RBF)神经网络关于正交最小二乘学习算法 ,对它作了改进 ,增加对于回归矩阵线性无关的判断及 β值调整的方法 ,提出具体编程实现。

基于改进ELM的递归最小二乘时序差分强化学习算法及其应用

针对值函数逼近算法对精度及计算时间等要求,提出了一种基于改进极限学习机的递归最小二乘时序差分强化学习算法。首先,将递推方法引入到最小二乘时序差分强化学习算法中消去最小二乘中的矩阵求逆过程,形成递推最小二乘时序差分强化学习算法,减少算法的复杂度及其计算量。其次,考虑到LSTD(0)算法收敛速度慢,加入资格迹增加样本利用率提高收敛速度的算法,形成LSTD(λ)算法,以保证在经历过相同数量的轨迹后能收敛于真实值。同时,考虑到大部分强化学习问题的值函数是单调的,而传统ELM方法通常运用具有双侧抑制特性的Sigmoid激活函数,增大了计算成本,提出采用具有单侧抑制特性的Softplus激活函数代替传统Sigmoid函数,以减少计算量提高运算速度,使得该算法在提高精度的同时提高了计算速度。通过与传统基于径向基函数的最小二乘强化学习算法和基于极限学习机的最小二乘TD算法在广义Hop-world问题的对比实验,比较结果证明了所提出算法在满足精度的条件下有效提高了计算速度,甚至某些条件下精度比其他两种算法更高。

基于累积量的递归最小二乘算法研究

从基于累积量的均方误差（ＣＭＳＥ）准则，本文推导了一种基于累积量的递归最小（ＣＲＬＳ）算法。并从信号检验和估计的角度对三阶ＣＲＬＳ算法中出现的加权求和系数给出的一种物理解释，以说明其抗高斯噪声的机理。本文提出应根据三种不同条件下信号的最优估计来确定最佳窗口函数的原则。

RBF网络的微分进化正交最小二乘算法

研究用于径向基函数(RBF)网络训练的一种微分进化正交最小二乘(DEOLS)算法。把微分进化(DE)算法的种群作为正交最小二乘(OLS)算法的候选径向基函数集合,利用OLS对DE的种群个体进行评断,以确定RBF网络的隐结点的数目、中心和宽度。该算法融合了DE的强大搜索能力和OLS的高效评断能力,隐结点的选择比OLS要合理,同时避免DE的复杂性。最后使用实验验证了该算法的优越性。

正交函数-偏最小二乘算法及其在复方制剂分析中的应用

提出了一种由正交函数（ＯＦ） 与偏最小二乘法（ＰＬＳ） 相结合的正交函数偏最小二乘算法（ＯＦＰＬＳ） ，并把它用于撒痛风注射液各组分的同时测定，与偏最小二乘法（ＰＬＳ） 所预测的结果进行比较，两者所测得安替比林、水杨酸钠、咖啡因的平均回收率和相对标准偏差分别为１００－２ ％ ，１－６ ％ ；１００－１ ％ ，０－３７％ ；１００－１ ％ ，０－９６ ％ 和９９－４ ％ ，２－０ ％ ；１００－９ ％ ，１－２ ％ ；９９－８ ％ ，１－５ ％ ．

异步CDMA系统中基于预处理递归最小二乘恒模算法的盲自适应接收

该文提出一种基于预处理递归最小二乘恒模算法(PP-RLSCMA)的多径异步CDMA系统盲自适应接收技术。首先对接收信号进行自适应预处理,并分析了预处理器的复杂性和稳定性。预处理的目的是通过对干扰和噪声的部分抑制以提高恒模接收的性能,所提出的预处理方法只与多径信道的最大长度有关。鉴于统计恒模算法收敛速度慢的缺点,提出一种快速递归最小二乘恒模算法的盲自适应接收。仿真表明,该文算法的误码率及收敛性能比LCMMV,LCCMA好。

基于格型递归最小二乘算法的船舶运动极短期预报

在最小二乘方法(RLS,recursive least square)的基础上,提出利用格型递归最小二乘(LRLS,lattice recursiveleast square)算法对AR模型参数进行自适应估计。该算法为模块式的多极格型结构,降低了一般RLS算法的计算复杂度。利用实测的动态数据结合AIC准则建立自适应AR预报模型,并将该模型应用于船舶运动预报中,仿真结果表明,相对于最小二乘算法,基于LRLS算法的AR预报模型可有效提高船舶运动预报精度。

快速模糊正交最小二乘算法

在非线性正交最小二乘辨识方法中引入模糊基函数 ,得到可以统一利用语言信息和数据信息的模糊正交最小二乘方法 ,并且针对其计算量大 ,速度慢的缺点 ,推导出不用计算正交项的快速模糊正交最小二乘算法 ,并且在玻璃窑炉温度系统离线建模中进行了仿真实验 。

加权随机汇池网络中递归最小二乘算法研究

实际应用中信号和噪声的统计知识经常是未知的,为探究未知噪声环境中加权随机汇池网络模型的信号参数估计性能,本文研究了加权随机汇池网络中信号估计的递归最小二乘自适应递推算法,分析了该模型下算法的收敛性、均方误差、学习曲线等统计特征。在非平稳输入信号下,引入遗忘因子,探究了算法有效跟踪信号变化的能力。实验结果验证了关于算法收敛性与均方误差性能的理论分析,同时还证实了自适应过程中的超阈值随机共振现象。本文研究结果对于加权随机汇池网络的实际应用具有理论指导义。

最小二乘递推算法和 Kalman 滤波算法

就一般加权、最优加权和指数加权三种情形分别介绍了最小二乘递推（ＲＬＳ）算法和Ｋａｌｍａｎ滤波算法，且首次将状态向量的概念扩展到了状态矩阵的概念．这将使我们在某些应用中能采用比以前规模小得多的模型而丝毫不会因此带来任何误差．最后，我们还指出了ＲＬＳ算法和Ｋａｌｍａｎ滤波算法所存在的一些问题．

基于递归最小二乘的微波对射雷达信号处理算法

微波对射雷达被用在安全防护领域的雷达系统,可形成电子栅栏,这种雷达系统容易受雨、雪等天气因素的干扰,出现虚警。针对这个现象,文章提出了采用中值均值法和递归最小二乘算法对雷达回波的强度进行估计的微波对射雷达信号处理算法,同时提出了目标持续时间、最大相对幅度变化比例、接收能量损失三个判决统计量和相应的判决方法。经验证,采用该算法的微波对射雷达在降水过程中检测到入侵者的同时未引起虚警。

严格的最小二乘递推算法在系统辨识与滤波中的应用

研究了严格的最小二乘递推（R2LS）算法在系统辨识与滤波中的应用。另一重要内容是给出了与R2LS算法相对应的充分激励（PE）系列及重要性质。且从关于多目标飞行轨迹的跟踪应用中可知，由于采用了状态矩阵这一新概念，使我们能用一规模很小的模型同时描述多个目标的运动，从而使计算量大为减小。

衰减激励条件下递阶最小二乘辨识的均方收敛性

为减少递推辨识的计算量 ,提出了递阶辨识原理 ,它是将系统分解为多个维数较小的虚拟子系统进行辨识 ,从而获得递阶最小二乘辨识方法。在衰减激励条件下 ,针对时不变系统研究了递阶最小二乘法的收敛性 ,得到了参数估计误差均方收敛于零时衰减指数应满足的条件。递阶最小二乘具有良好的性能 ,其计算量比递推最小二乘辨识要小得多 。

偏最小二乘相关算法在系统建模中的两类典型应用

讨论了偏最小二乘回归(PLSR)的相关算法对两类典型实际系统建模的有效应用。分析了传统的偏最小二乘回归批处理算法及由此产生的一种简化算法的基本原理和技术特点。在此基础上,对原有的递推算法进行了一定程度的改进,直接采用自变量主元t的回归系数矩阵P和R来取代旧的数据信息,从而进一步简化了计算过程。针对上述两种算法的特点,分别对无人机费用模型(少样本,多变量)和切削力峰值模型(多样本,少变量)参数进行了估计计算,说明了各自算法的应用优势。

化学计量学非线性偏最小二乘算法进展评述

评述了偏最小二乘法 (PLS)近年来非线性化的进展以及重要算法的原理、特性和应用。一类是对自变量进行非线性前处理的方法 ,包括二次变换、Chebychev变换和基于机理的变换 ;另一类是基于内部非线性映射的PLS ,主要有多项式映射、样条函数映射、由遗传算法辅助实施的任意非线性映射和神经网络映射 ;介绍了具有类似功能的正交网模型。本文还就算法的普适性、稳健性和简易性 ,及其非线性化的演变进程予以评述。

改进的偏最小二乘回归推荐算法

基于已有的相关PLS算法,提出了针对QSAR研究和工业过程控制建模的环境要求的PLS回归改进算法:加强递归PLS算法.模拟实验结果表明:在实时建模过程中,该算法的性能优于传统的PLS回归算法.

QR分解的最小二乘格型自适应滤波算法在噪声主动控制中的应用

在噪声主动控制系统中,滤波-x递归最小二乘(FxRLS)算法收敛速度快但计算量大。基于此,提出了格型联合估计滤波器结构与基于QR分解的最小二乘格型(QRD-LSL)自适应滤波算法相结合的噪声控制方法,该方法对联合估计过程进行了改进并得到了基于各阶估计误差的联合过程估计权系数更新关系,格型联合估计器结构简单,QRD-LSL自适应滤波算法数值稳定性好。仿真结果表明提出的噪声控制方法有良好的噪声控制效果,收敛速度快,计算量小,稳态误差小,跟踪性能好。