一种新型非线性偏最小二乘方法研究及应用——基于Chebyshev多项式改进的PLS方法

在实际生产过程中,过程变量之间往往存在大量相关关系,甚至非线性相关关系。过程变量间存在线性相关时,可采用偏最小二乘方法(PartialLeastSquares,PLS)计算模型参数,但由于PLS方法采用线性关系来联系输入和输出因子,因而并不能有效地应用于非线性较强的过程。在这种情况下要对变量进行有效的压缩维数,需要采用非线性PLS方法。基于Chebyshev多项式改进的多元多项式PLS方法,是一种新的非线性PLS方法。该方法利用Chebyshev多项式的正交性质和递推性质,将过程输入变量正交化、线性化后,再应用PLS方法计算模型参数并还原,从而得到比较精确的模型。由于该方法综合考虑了输入变量的自相关和输入变量间的协相关关系,能够更有效地表达过程变量间的非线性关系,因此其对非线性过程的研究提供了新的思路。

可分离非线性最小二乘计算方法及其在LiDAR波形分解中的应用研究

非线性最小二乘作为最基本的非线性优化方法,广泛应用于测绘领域中非线性函数模型的参数估计。LiDAR全波形回波信号的高斯特征参数的求解通常并未考虑模型可以分解成多个高斯函数的结构特点,而将所有的待求参数看作非线性参数,用泰勒级数展开公式对非线性模型线性化,进而利用LM(Levenberg-Marquardt)算法进行求解,对待求参数初值要求较高。

基于偏最小二乘回归的城镇化与农业经济协调发展研究——以厦门市为例

文章选取《厦门经济特区年鉴(2011—2022)》数据为研究样本,运用偏最小二乘回归分析方法,构建了厦门市城镇化与农林牧渔业总产值、劳动力资源、财政支农资金、农民可支配收入的偏最小二乘回归模型,并对厦门市城镇化与农业经济协调发展关系进行实证分析。所得模型通过检验,表明模型对城镇化的解释能力较强,选取的各项指标中,农村居民人均可支配收入、农业产值、农林牧渔服务业、劳动力资源、财政支农对城镇化影响显著,是城镇化发展的主要影响因素。研究结果表明:渔业产值对城镇化有一定的解释作用,但对城镇化发展作用为负效应;牧业产值对城镇化发展影响不显著,说明目前牧业产能还比较低。为此,提出厦门应积极探索智慧牧渔业发展模式,加快渔业生产转型,稳步扩大现代水产养殖;精准规划生猪养殖规模,适度提高猪肉自给率等发展建议,为实现城乡融合发展、落实乡村振兴战略,提供合理参考。

多项式偏最小二乘法对非线性体系红外谱图的分析

文章利用了一种非线性模型多项式偏最小二乘法(PPLS),结合傅里叶变换红外光谱遥感技术,对大气中的五组分混合体系进行了同时分析。并与偏最小二乘法(PLS)得到的结果进行了比较,PPLS显示出较好的处理非线性数据的能力。尤其是对混合物中的苯和氯仿的预测,均方根预测误差(RMSEP)分别是0.043和0.087,用PLS预测相应的RMSEP为0.402和0.842。PPLS的这一预测精度,可以满足遥感傅里叶变换红外光谱对大气中有毒气体的实时、在线监测的需要。同时PPLS可以用较少的潜变量对变量进行解释,显示出PPLS模型的稳健性和简单化。

斯托克斯椭偏仪的非线性最小二乘拟合偏振定标

由于传统的斯托克斯椭偏仪定标方法中入射光源的偏振效应、定标单元中光学元件的制造与装调误差都会降低仪器矩阵的定标精度,从而影响偏振态的测量精度,本文提出了基于非线性最小二乘拟合算法的仪器矩阵偏振定标方法.该方法将描述定标单元的参量和仪器矩阵的所有矩阵元一起作为未知参数,根据偏振光学传输理论建立探测光强与未知参数的函数关系式；然后,基于非线性最小二乘拟合方法拟合实际探测光强随定标单元方位角的变化曲线,进而得到斯托克斯椭偏仪的仪器矩阵.实验中使用该方法和传统方法在500～700 nm波段分别定标了KD＊P型斯托克斯椭偏仪的仪器矩阵.结果显示,新方法在500～600 nm波段获得的斯托克斯参数的总均方根（RMS）偏差为1.6％,较传统定标方法提高约0.5％；波长大于600 nm时,由于系统信噪比降低使得新方法的测量精度降为2.4％,但仍然远高于传统方法的测量精度.结果表明,提出的方法简单易行,适用于各种斯托克斯椭偏仪的仪器矩阵定标.

基于投影寻踪的非线性鲁棒偏最小二乘法及应用

来自工业现场的数据往往具有非线性特性且包含离群点,利用非线性偏最小二乘法(partia lleast squares,PLS)建模易受离群点的影响.针对这一问题,结合径向基函数(radial basis function,RBF)网络,本文提出了一种基于投影寻踪的非线性鲁棒PLS方法.该方法首先利用RBF变换将自变量与因变间的非线性关系转化为线性关系;然后利用投影寻踪算法提取变换后自变量的鲁棒偏最小二乘法成分;最后建立鲁棒PLS成分与因变量之间的鲁棒线性回归模型.将该方法应用于湿法冶金萃余液pH值软测量建模问题,结果验证了其有效性.

非线性偏最小二乘回归在电力负荷预测中的应用

非线性(二次多项式)偏最小二乘既能够解决线性偏最小二乘只能提取线性成分的问题,它又借鉴了偏最小二乘回归方法能够有效地解决自变量集合多重相关性的问题,因而它更具有先进性,其计算结果更为可靠。本文将二次多项式非线性偏最小二乘回归应用于泉州地区的电力负荷预测。文章还将二次多项式偏最小二乘的预测结果并线性偏最小二乘和logistic模型的预测结果进行比较,实例预测结果表明,非线性偏最小二乘具有较高的预测精度,它能满足实际工程的要求。

道路交通事故的非线性偏最小二乘回归建模

就有效预防交通事故、提高道路交通效率而言,借助高精度的道路交通事故预测模型,准确分析事故原因是重要的基础性工作。首先基于偏相关分析方法,对影响事故起数、死亡人数和受伤人数这3个事故指标的11个因素进行相关性分析,确定最相关的影响因素及其线性相关性;然后利用偏最小二乘回归方法,对事故指标与影响因素之间的线性关系进行建模;进而基于非线性偏最小二乘回归方法,建立两者之间的非线性关系模型。通过对回归模型的精度分析,用偏最小二乘回归方法仅能对事故指标与影响因素之间线性关系准确建模,测定系数最大为0.98,相对误差最大为21.77%。用非线性偏最小二乘回归方法,对事故指标与影响因素之间的线性和非线性关系均能准确建模,测定系数最大为1.相对误差最大为4.23%。

基于非线性偏最小二乘回归的软测量建模及应用

针对复杂工业过程存在的多变量、相关性和非线性问题,提出一种新的基于非线性偏最小二乘(partial least squares,PLS)回归的软测量建模方法。该方法利用PLS作为模型的外部框架来提取输入输出主成分变量,同时消除变量间的相关性,然后用最小二乘支持向量机(least squares support vector machine,LSSVM)作为内部函数来描述主成分变量之间的非线性关系,并引入基于误差最小化的权值更新策略,来改进模型的预测精度。以pH中和过程的Benchmark模型来验证该方法的性能,并与其他建模方法比较,结果表明该方法预测精度较高,而且具有较强的泛化能力。将该方法应用于某电站燃煤锅炉的NOx排放软测量建模之中,取得了较好的预测效果。

化学计量学非线性偏最小二乘算法进展评述

评述了偏最小二乘法 (PLS)近年来非线性化的进展以及重要算法的原理、特性和应用。一类是对自变量进行非线性前处理的方法 ,包括二次变换、Chebychev变换和基于机理的变换 ;另一类是基于内部非线性映射的PLS ,主要有多项式映射、样条函数映射、由遗传算法辅助实施的任意非线性映射和神经网络映射 ;介绍了具有类似功能的正交网模型。本文还就算法的普适性、稳健性和简易性 ,及其非线性化的演变进程予以评述。

一个求解非线性最小二乘问题的新方法

在Gauss Newton(G N)方法和Levenbery Marquardt(L M)方法(阻尼最小二乘法)的基础上给出了一种新的求解非线性最小二乘问题的方法,它是通过寻求新的非线性方程组的数值方法来实现的.首先给出了不用计算导数的求解非线性方程组的收敛迭代方法,该方法是建立在求解动力系统的稳定点的基础上,采用了较稳定的常微分方程初值问题的数值方法进行迭代求解,并采用Steffensen加速技术以提高收敛速度.最后,给出了用Matlab试算的数值例子.试验结果表明了该方法的有效性.

无刷直流电机输出转矩的非线性偏最小二乘回归估计

针对无刷直流电机直接转矩控制系统中,电机输出转矩估计或观测存在需检测电机状态信号难以精确地检测、观测或计算等不可避免的难题,提出一种利用电机线电流和转速两个易检测信号进行电机输出转矩估计的方法。该方法首先基于拉丁超立方抽样方法确定建模数据,确保离散数据的可靠性;然后通过核函数将建模数据中的自变量变换到特征空间,将自变量与因变量之间的非线性关系在特征空间中线性地展开;最后在特征空间中利用偏最小二乘回归方法建立电机输出转矩的估计模型。通过对转矩估计精度和控制系统性能进行分析及实验验证,证明了所提转矩估计方法能准确地估计电机输出转矩,确保电机直接转矩控制系统的性能,该方法具有较强的实用性。

非线性偏最小二乘导数分光光度法同时测定复方新诺明中二组分的含量

构造了导数光谱与多组分浓度间的非线性模型 ,以偏最小二乘法估计模型参数 ,建立了同时测定两组分的非线性偏最小二乘导数分光光度法 ,方法用于复方新诺明中磺胺甲唑SMZ(Sulfamethoxazole)和甲氧苄啶TMP(Trimethoprim)含量的测定 ,10份模拟样中SMZ ,TMP的回收率分别为 99 8%和 10 0 1% ,RSD分别为 1 3%和 1 6 %。结果明显好于线性偏最小二乘导数分光光度法。用该法测定复方新诺明片中的二组分含量测定结果与药典方法一致 ,该法为复方制剂的分光光度分析提供了更为理想的新途径。

OPLS在非线性偏最小二乘回归模型的应用

为了解决隐含潜变量回归(implicit non-linear latent variable regressionI,NLR)建模方法中加入自变量的非线性项使系统中出现了与因变量无关的信息或者噪音的问题,提出了基于正交投影(orthogonal projection to latent structures,OPLS)方法,对INLR数据进行预处理。OPLS算法能有效去除预测矩阵中与因变量无关的信息,在不影响INLR建模效果的同时减少有意义的成分,改善了模型的解释性和真实性。模拟实验结果表明,改进后算法的建模效果优于INLR、偏最小二乘回归(partialleast squares regression,PLSR)算法得到的模型。

基于偏最小二乘回归的焦炭热性质非线性预测模型

针对基于煤质指标预测焦炭热性质建模过程中易出现的多重共线性问题,提出应用偏最小二乘回归对焦炭热性质进行预测的建模思路。考虑到煤质指标与焦炭热性质之间复杂的非线性关系,采用拟线性化处理的方法,将煤质指标的一次效应、二次效应及交互效应作为模型输入,建立焦炭热性质预测的偏最小二乘回归模型;基于拟线性化处理的非线性偏最小二乘回归和线性偏最小二乘回归对焦炭热性质预测实例进行分析。研究结果表明:基于偏最小二乘回归方法建立的焦炭热性质预测模型是有效可行的;非线性偏最小二乘回归模型的预测精度明显比线性偏最小二乘回归模型的预测精度高。

基于均匀设计及非线性偏最小二乘法的非闭合电极ECT传感器参数优化设计

提出了一种非闭合电极电容层析成像(ECT)传感器结构参数的优化方法。采用均匀设计结合非线性偏最小二乘(NPLS)回归,提取传感器结构参数(电极极板的宽度 l、绝缘外壳的壁厚δ_1、屏蔽罩与绝缘外壳间距δ_2及绝缘外壳材料的相对介电常数ε)与待优化指标(敏感场的均匀度及灵敏度指标 p′、最大与最小电容的比值 K)间的函数关系,建立相应的优化目标泛函,通过对优化目标泛函的求解,最终获得传感器结构参数的最优值。并以10电极非闭合电极 ECT 传感器为研究对象,进行了结构参数的优化设计,根据优化结果设计制作了非闭合电极 ECT 传感器,对其成像进行了仿真与实测。结果表明,参数优化后的传感器图像重建质量优于未优化的传感器。

基于符号运算和信赖域方法的非线性最小二乘法

以牛顿法为基础 ,通过符号运算求导和信赖域方法 ,解决其Hesse矩阵计算工作量大和局部收敛性的问题 ,设计和实现了非线性最小二乘的通用算法。该方法计算速度快 ,计算精度高 ,对初始值的选择不敏感 ,不仅可以直接用于线性最小二乘 ,而且可以适用于大数据量的非线性最小二乘。

偏最小二乘Kriging模型辅助的高效全局优化方法

针对昂贵约束优化问题中因超参数过多引发的维数灾难及优化效率不高问题,提出一种新的偏最小二乘Kriging模型辅助的高效全局优化方法。该方法通过偏最小二乘核函数提升Kriging模型建模效率,构建两种偏最小二乘权期望填充准则实现模型的自适应调整及高效全局优化。测试函数及工程实例结果表明,所提方法可有效减少超参数计算量,提升昂贵约束优化问题求解效率。尤其在高维问题中,所提方法在解的收敛速度,稳健性及精度方面均具有优势。

基于偏最小二乘法实现非线性回归分析

从应用的角度,提出了一种基于偏最小二乘回归和多项式回归相结合的多元非线性回归分析方法。通过理论分析及实例验证,指出该方法可以较好的进行多元非线性回归分析,具有较强的适用性。

基于偏最小二乘线性求解的结构损伤识别

基于模态参数化线性求解结构损伤的识别方法在工程中具有较为广泛的应用。然而,在噪声的干扰下,当结构可测量的模态阶数较少时,利用该方法求解的结果会出现大量的虚假损伤,严重扰乱真实的损伤信息。针对此问题,引入了一种基于偏最小二乘多线性回归建模的方法来对损伤识别结果进行降噪处理。通过对损伤结构的频率和振型信息添加一定水平的噪声干扰,分析确定结构单元的损伤参数,并利用偏最小二乘法重构线性方程组。同时,选择识别结果较为稀疏的解作为标准样本点,利用奇异值分解法回代求解结构的损伤参数。以桁架模型为例的数值模拟结果表明,在噪声干扰下,该方法与传统最小二乘法和奇异值分解法相比,不仅损伤识别结果准确,而且能够最大程度抑制虚假损伤的产生。