正则化最小二乘的正交局部保持判别投影的人脸识别

提出一种新的子空间学习方法:正则化最小二乘的正交局部保持判别投影.为了更好地保持数据流形的结构,融合局部保持投影和线性判别分析的特点,对类内和类间加权矩阵分别进行了定义,从而构造目标函数.首先使用特征分解求出训练样本在人脸子空间的投影,然后使用最小二乘法解出投影子空间,最后将子空间的基向量正交化.在标准人脸数据库上的试验证明了这种识别方法的正确和有效.

权重化QR分解的正交匹配追踪算法硬件实现

为在小型化、低成本的硬件平台实现正交匹配追踪(Orthogonal Matching Pursuit,OMP)算法,针对OMP算法中最小二乘法的问题,该文构造一个确定性的传感矩阵,提出一种低复杂度、低资源的权重化QR分解的OMP(Weighted QR decomposition OMP,WQR-OMP)算法硬件结构,在ZYNQ 7020型号芯片上搭建WQR-OMP SOC系统.WQR-OMP算法在传感矩阵进行QR分解后,根据三角矩阵R中元素的分布特性,通过权重化运算只保留主对角线上的元素而其他余元素归零,得到对角矩阵D,然后近似计算稀疏向量的解.实验结果表明:与基于QR分解的OMP(QR decomposition OMP,QR-OMP)和Batch-OMP算法的硬件结构相比,WQR-OMP算法硬件结构的重构速度更快、存储资源更少.在压缩率为0.25的条件下,WQR-OMP SOC系统对256×256分辨率图像的重构时间为400 ms左右,其速率比仅使用ARM处理器的重构速率提高了约6.3倍.与其他现有研究对比,该系统在Block RAM存储资源消耗较少的情况下,进一步提升了重构速度,适用于存储资源受限的硬件平台.

大地电磁双二次插值FEM正演及最小二乘正则化联合反演

从大地电磁(MT)二维正演所满足的偏微分方程边值问题出发,应用矩形网格剖分和单元内双二次插值推导有限单元法求解大地电磁TE与TM两种极化模式正问题详细算法。应用反演理论将病态问题求解的正则化方法应用到最小二乘优化方法中,获得最光滑约束最小二乘正则化反演目标函数,并利用Matlab编制了大地电磁二维正反演计算程序。应用该程序对高低阻地电模型和Sasaki模型开展了正反演计算,并绘制TE模式和TM模式、TE&TM联合反演模式的反演成果剖面图。将所得的反演剖面与初始模型对比可知,TE模式反演剖面纵向分辨率较高,TM模式横向分辨率较高,TE&TM联合反演优于单一极化模式的反演,并证明双二次插值有限元法MT正演及最小二乘正则化反演算法的有效性与可行性。

病态整体最小二乘的迭代正则化算法

当误差含变量(EIV)模型的设计矩阵病态时,采用普通整体最小二乘(TLS)算法得不到稳定的数值解。为了减弱病态性,在整体最小二乘准则的基础上附加解的二次范数约束,组成拉格朗日目标函数,推导EIV模型的正则化整体最小二乘解(RTLS)。然后将RTLS的求解转换为矩阵特征向量问题,设计一个迭代方案逼近RTLS解。通过L曲线法求得正则化因子来确定正常数,从而避免人为选择正常数的随意性。数值实例表明,提出的迭代正则化算法是有效可行的。

解线性最小二乘问题的正交化方法及应用

文章讲述在求解线性最小二乘问题时系数矩阵出现病态时,应用Househo lder变换把系数矩阵正交三角化,从而求出最小二乘解,以及在实际中的应用.

最小二乘逼近与正交化方法

本文对最小二乘问题求解过程作递推化,由此给出逐次正交化程序。揭示了正交化过程与最小二乘解之间的内在关系,使用关理论推导趋于简明。

基于正则总体最小二乘准则的OFDM系统信道估计算法

基于导频的最小二乘(LS)估计方法的优点是结构简单,容易实现,但对噪声和干扰敏感。通过对OFDM系统中由于信道的时变性产生的载波间干扰进行了分析,在此基础上提出正则总体最小二乘(TLS)信道估计算法。根据Tikhonov正则化原理,导出了总体最小二乘正则化解法的计算公式。与一般的LS信道估计相比,TLS方法同时考虑了信道噪声和信道时变特性,所以该算法不仅在一般的信道条件下具有良好的性能而且也适合快变信道条件下的OFDM系统。仿真结果表明,该算法具有很好的均方误差和误比特率性能。

非负正交约束优化问题的理论、算法及应用

非负正交约束优化问题是同时带有非负约束和正交约束的优化问题,该类问题在机器学习和数据科学中有着重要的应用。常见的非负正交约束优化问题包括二次指派问题、图匹配问题、非负正交矩阵分解问题、非负主成分分析和K-指示模型等。由于非负约束和正交约束的共同作用,该类问题具有一定的组合结构,一般是NP-难的。本文主要介绍非负正交约束优化问题的基本理论性质、求解算法以及相关的应用模型。

基于二维正交化WLCLMS的自干扰对消方法

广义线性结构广泛用于解决共平台系统中同相/正交相位(in-phase/quadrature-phase,IQ)不平衡引起的自干扰镜像信号残留问题。由于在共轭项维度上的拓展,输入信号间的相关性使得用于实现权值向量自适应更新的广义线性复数最小均方(widely linear complex least mean square,WLCLMS)算法出现明显的收敛速度下降。针对这一问题,本文提出了一种二维正交化方法,通过特征值分解实现输入信号在样本延时以及共轭项两个维度上的去相关。同时建立了包括格形预测器、基于梯度的白化器,以及数字对消器三级结构的自适应二维正交化WLCLMS模型,实现了时变环境中自干扰信号的实时跟踪。仿真结果表明,该方法在有效提升收敛速度的同时,有着稳定的稳态误差性能,并且针对系统采样率、滤波器阶数、IQ不平衡量的变化具有良好的鲁棒性。

非正交联合对角化盲源分离算法

提出一种表征联合对角化近似程度的代价函数,给出优化该代价函数的非正交联合对角化算法.该代价函数对经典的最小二乘代价函数进行了改进,使原算法中关于混迭矩阵的四次函数转化为3组待定参数的二次函数.因此,可通过基于梯度下降法的迭代算法交替估计3组待定参数,搜索代价函数最小点,从而得到混迭矩阵的估计,实现盲源分离.分析了算法的收敛性能,证明存在估计误差时,该算法依然全局渐进收敛.仿真结果表明,与经典的非正交联合对角化(ACDC)算法相比,该算法收敛所需计算时间仅为ACDC的一半,而全局拒噪水平改善了6 dB,可有效地解决瞬时盲源分离问题.

基于改进的单通道对称正交化FastICA的间谐波检测方法

针对电力系统中间谐波检测的问题,提出一种基于改进的单通道对称正交化FastICA的间谐波估算算法。该算法首先对单通道电力系统混合信号进行循环平移,构造出多道观测信号,通过主成分分析法对其进行降维处理;其次利用改进的对称正交化FastICA算法对多个独立成分并行估计,分离出基波、谐波和间谐波信号频率;最后应用最小二乘法对谐波和间谐波幅值和相位进行估计。仿真结果表明,该方法可以较准确地检测出各次谐波和间谐波的频率、幅值和相位,较之FastICA算法,该算法不需任何先验知识,收敛速度快,检测精度高。

基于参数自修正的配电网故障定位数字孪生技术研究

配电网参数受天气条件和负载条件等因素影响会发生变化。由于传感装置安装有限、数据延时传输等因素,无法实时获得配电网准确参数,进而给传统故障定位方法的精度带来影响。针对以上问题,通过建立配电网数字孪生模型,基于配电网数字孪生模型的参数自修正技术,提出了一种定位模型随参数变化动态校正的配电网故障定位方法。同时,搭建了基于数字孪生服务器和实时数字仿真系统(real time digital system, RTDS)的数字孪生平台,实现了配电网实时的物理模型和数字孪生模型的同步运行。在算例仿真中,利用该数字孪生平台,验证了基于数字孪生技术的配电网故障定法方法。结果表明,该方法可在各类系统运行条件下实时修正配电网参数,显著提高配电网故障定位的速度和精度。

生、醋柴胡UPLC-DAD指纹图谱建立及抗肝纤维化作用的谱效关系研究

目的建立生、醋柴胡的指纹图谱,比较生、醋柴胡化学成分差异,考察两者抗肝纤维化作用的差异,探究其与抗肝纤维化药效之间的关联性。方法采用UPLC法建立10批生柴胡和10批醋柴胡的指纹图谱,以TGF-β诱导肝星状细胞(LX-2)建立肝纤维化体外细胞模型,以Ⅰ型胶原蛋白(collagenⅠ,col1a1)和α-平滑肌肌动蛋白(α-smooth muscle actin,α-SMA)蛋白表达情况为药效指标,利用MetaboAnalyst 5.0网站,以变量重要性投影(VIP)值>1为标准筛选影响生、醋柴胡质量的差异标志物,并采用正交偏最小二乘判别分析(OPLS-DA)研究生、醋柴胡差异化学成分及与抗肝纤维化作用的谱效关系,筛选生、醋柴胡抗肝纤维化作用的主要成分。结果生、醋柴胡样品的UPLC指纹图谱共有峰有18个,生、醋柴胡的主要差异成分有9个,其中峰9、7、6可以指认为柴胡皂苷d、柴胡皂苷a、柴胡皂苷f。药效结果发现,生、醋柴胡均有抗纤维化活性,且醋柴胡抗纤维化活性更强。通过谱效关联结果发现,柴胡抗肝纤维化作用的主要相关成分为11、12、14、15、18号峰。结论建立生、醋柴胡的指纹图谱方法简单可行,通过谱效关系筛选出抗肝纤维化活性的重要成分,为明确生、醋柴胡抗肝纤维化作用物质基础提供依据。

线性最小二乘问题求解讨论

通过最小二乘准则及线性最小二乘拟合问题的引入,给出了超定方程组及最小二乘问题的概念,同时给出了最小二乘解的定义。讨论了最小二乘问题与法方程组的解的关系,并指出了极小最小二乘解及其解的表达式,着重讨论了法方程组的病态问题。研究的结论,给出了较稳定的算法——4R算法,有改进的正交化方法和左乘H法。

不同基原的化橘红UPLC指纹图谱、化学模式识别及含量测定研究

目的 建立化橘红药材的超高效液相色谱(UPLC)指纹图谱,并进行化学模式识别分析及含量测定,以鉴别不同基原的化橘红差异。方法 通过建立UPLC指纹图谱,确定20批化橘红样品共有峰及峰面积,采用《中药色谱指纹图谱相似度评价系统》(2012A版)进行相似度分析。以共有峰峰面积数据为基础,采用统计分析软件SPSS 19.0进行聚类分析,SIMCA 13.0进行主成分分析(PCA)及正交偏最小二乘法判别分析(OPLS-DA),并对指认的化学成分进行含量测定。结果 UPLC指纹图谱确定了18个共有峰,指认其中5、6、8、12、15号峰分别为7-羟基香豆素、柚皮苷、野漆树苷、佛手柑内酯、异欧前胡素;相似度评价结果显示样品S2、S3、S6、S8相似度介于0.851~0.891之间,其余16批样品相似度均>0.900。聚类分析可大致区分毛橘红和光橘红,少数批次存在偏差;PCA和OPLS-DA结果显示毛橘红和光橘红有更明显的区分趋势,并筛选出3个可能造成两种化橘红差异的标志物。含量测定结果表明,化橘红近成熟组柚皮苷含量高于幼果组和未成熟组(P<0.05),未成熟组佛手柑内酯含量明显高于近成熟组(P<0.05),各组野漆树苷、异欧前胡素含量无显著性差异。结论 所建立的UPLC指纹图谱结合化学模式识别及含量测定方法,可系统、全面地评价化橘红药材质量,筛选出的差异性标志物可为药效物质研究提供参考。

解线性最小二乘问题的一个半正交化算法

1.引言 我们知道,对于满秩线性最小二乘问题,可以用正交化方法(如Householder正交化,修正的Gram-Schmidt正交化和快速Givens正交化等)有效地求解。对于秩亏损的最小二乘问题,可用带列主元的QR分解求解;但一般说来,用这种方法求得的解只是可行解而不是最短解。要求出最短解,则必须作出秩的判定。

结构化稀疏线性判别分析

在监督场景下线性判别分析(linear discriminant analysis,LDA)是一种非常有效的特征提取方法.然而,LDA在小样本情况下通常会出现过拟合现象,并且学习的投影变换难以给出人类认知上的解释.针对这些问题,特别是可解释性结构的发现,借助于LDA的线性回归模型和结构化稀疏L2,1范数,提出了结构化稀疏线性判别分析(structured sparse LDA,SSLDA)方法.进一步,为了去除线性变换间的相关性,提出了正交化的SSLDA(orthogonalized SSLDA,OSSLDA),它能更加有效地学习到细致的结构信息.为了求解这2个模型,引入了一个半二次的优化算法,它在投影变换和新引入的辅助变量之间采用交替优化的思想.为了验证所提出的方法,在AR、扩展的YaleB和MultiPIE 3个人脸数据库上对比了LDA及其变种方法,实验表明了所提出方法的有效性以及可解释性.

基于统计学习理论的小波神经网络优化

传统的离散仿射小波神经网络训练都是建立在大样本基础上的,当样本数量较少时,不能保证网络的泛化能力。在研究统计学理论的基础上,提出了以结构风险最小化为目标的训练方法。首先根据样本数据和小波基函数的时频局部化特性构造隐含层函数集,并按照小波基函数的能量大小来建立函数嵌套结构,然后采用自适应正交最小二乘法来训练网络权值,保证训练的小波神经网络结构风险最小化。仿真表明该方法不仅具有较高的收敛速度,而且最大限度地保证了网络的泛化能力。

快速聚类和统计信息优化准则在模糊建模中的应用

给出了一种快速聚类方法,得到采样数据的聚类中心,用高斯隶属函数获得T- S模型的前提隶属度,然后采用正交最小二乘和“客观”的统计信息准则来选择一些重要的模糊规则,简化模糊模型,提高辨识精度和泛化能力,奇异值分解方法得到结论参数。最后通过仿真实例验证了此方法的有效性。

温度干扰下的葡萄糖水溶液近红外光谱修正方法与比较

水的近红外吸收光谱受温度影响较大,采用近红外光谱法对水溶液样本进行成分测量时,温度的影响不能忽视。特别对于葡萄糖这种弱吸收成分,温度的微小变化会对其测量精度造成较大影响。实验发现葡萄糖水溶液在30℃附近时,温度每变化1摄氏度,在1 160nm处溶液的吸光度变异系数约0.344 7%,这个变化约相当于500~600mg·dL^(-1)葡萄糖浓度引起的溶液吸光度变化量。将近年来发展的几种化学计量学方法用于温度扰动下葡萄糖水溶液的光谱修正,以提高葡萄糖测量精度,具体包括广义最小二乘加权法(GLSW)和外部参数正交化方法(EPO)。对不同温度的葡萄糖水溶液样品在900~1 350nm的光谱进行采集,测试了两种方法对温度变化后光谱的修正效果,考察了修正后光谱的葡萄糖预测误差,并与传统的考虑温度变量的多变量回归方法—偏最小二乘(PLS)回归法进行了比较。结果表明,GLSW和EPO方法对不同温度下的溶液光谱有好的校正效果,不同温度下溶液光谱的变异系数得到显著改善,同时两种方法在模型复杂性、温度修正效果等方面都优于传统方法。研究可推广到其他水份含量较大的样品测试场合,也对人体组织中的葡萄糖测量有借鉴价值。