奇异值分解下在线鲁棒正则化随机网络

在线鲁棒随机权神经网络(OR-RVFLN)具有较好的逼近性、较快的收敛速度、较高的鲁棒性能以及较小的存储空间.但是,OR-RVFLN算法计算过程中会产生矩阵的不适定问题,使得隐含层输出矩阵的精度较低.针对这个问题,本文提出了奇异值分解下在线鲁棒正则化随机网络(SVD-OR-RRVFLN).该算法在OR-RVFLN算法的基础上,将正则化项引入到权值的估计中,并且对隐含层输出矩阵进行奇异值分解;同时采用核密度估计(KDE)法,对整个SVD-OR-RRVFLN网络的权值矩阵进行更新,并分析了所提算法的必要性和收敛性.最后,将所提的方法应用于Benchmark数据集和磨矿粒度的指标预测中,实验结果证实了该算法不仅可以有效地提高模型的预测精度和鲁棒性能,而且具有更快的训练速度.

一种基于标签迁移学习的改进正则化奇异值分解推荐算法

基于正则化奇异值分解(RSVD)的推荐算法在预测准确性上具有明显优势,但存在计算量大的缺点,一定程度上限制了其在实际工程中的应用。针对这个问题,该文提出一种基于标签迁移学习的改进RSVD推荐算法,在相对稠密的辅助数据集合上根据标签信息来提取用户/项目特征,然后将用户/项目特征应用到RSVD算法中,在目标数据集合上进行评分预测。在MovieLens数据集合上的实验结果表明,该算法能够缓解数据稀疏性问题,显著降低预测误差(约0.01 RMSE),同时减少约50%的训练时间。

正则化的奇异值分解参数构造法

Tikhonov正则化法引入正则化参数和稳定泛函来改善矩阵的病态性。稳定泛函表示为参数的二范约束时,正则化矩阵为单位阵的正则化法即为岭估计法。通过对岭估计的方差与偏差进行分析可知,岭估计改善矩阵病态性的同时也过度地引入了偏差,降低了解的可靠性,对较大奇异值的修正不能有效地减小估计的方差,却引入了偏差,而对较小奇异值的修正可有效地减小估计的方差。因此,选择较小奇异值特征向量构造正则化矩阵,调节各奇异值的修正,可有效减小参数估计的方差,减少偏差的引入,得到更为可靠的参数估计。通过试验证明了该方法的有效性。

基于Tikhonov正则化及奇异值分解的载荷识别方法

针对矩阵求逆法应用中存在的病态逆问题,用Tikhonov正则化及奇异值分解法解决。通过对平板模型仿真分析,利用频响函数法矩阵条件数评价系统的病态性,系统病态性不同时用奇异值分解法与基于不同正则化参数选择的Tikhonov方法对载荷进行识别。研究表明,条件数大于1 000时,Tikhonov正则化方法识别误差较小;反之,奇异值分解法较优。提出综合使用Tikhonov正则化与奇异值分解的载荷识别方法,给出方法流程。仿真与实验结果表明该方法可提高结构载荷识别精度,具有一定工程应用价值。

炉膛三维温度场重建中Tikhonov正则化和截断奇异值分解算法比较

在煤粉锅炉诊断中火焰辐射能图像扮演着越来越重要的角色,通过电荷耦合器件(CCD)获得的辐射能图像可以重建出炉内火焰三维温度场,CCD用于获取视场角内的辐射能图像.温度场重建的矩阵方程是一个严重病态的方程,本文使用两种算法(Tikhonov正则化算法和截断奇异值分解(TSVD)算法)来重建温度场.应用广义交叉检验算法来选取正确的正则化参数.数值模拟的环境为一个10 m×10 m×10 m的三维炉膛,系统被划分为10×10×10的1000个网格,每个网格单元都是边长为1 m的立方体.在正问题求解所得到的CCD接受信号基础上加上不同随机误差以模拟测量时的CCD接受信号.研究两种算法重建后的温度重建误差、两者的重建时间,以及最高温度的重建效果.初步的研究结果显示,一般情况下基于Tikhonov算法重建的温度场比基于TSVD算法重建的温度场误差要小,计算所需时间短,最高温度重建更准确.

奇异值分解(SVD)和Tikhonov正则化方法在振速重建中的应用

基于辐射声压重建结构表面的振动速度存在着解的离散病态问题 ,从间接边界元法( IBEM)的双层势表达式出发 ,建立了外部场压和结构表面振动速度之间关系的传递矩阵 .为消除病态问题引起的重建结果对附加噪声的高度灵敏性的影响 ,对传递矩阵进行奇异值分解 ,并用Tikhonov正则化方法对重建结果处理 ,且采用 L -曲线标准选择出最佳的正则化参数 .数值计算结果表明 ,重建结果与真实振源比较接近 .

超声逆散射图象重建问题中截断奇异值分解正则化方法研究

为解决超声逆散射成像问题中的非线性性,人们需要反复地求解前向散射方程和逆散射方程,以达到对全场和未知函数的精确近似,从而根据这一未知函数的精确近似,较好地重建物体内部的断层图象.前向散射方程是一个适定的方程组,可以采用通常的方法进行求解;而逆散射方程则是一个不适定性的方程组,即使数据中存在一个微小的误差,都可能引起解的较大偏离,因此,对这个不适定方程组的求解问题是整个迭代算法成功的关键.而在不适定性问题的求解过程中,正则化参数的选取又是非常重要的.求解不适定性方程的传统方法是Tikhonov正则化方法,这一方法的实质是在传统最小二乘方法上加上一个小于1的滤波因子,对于超声逆散射成像问题来说,效果并不太好.本文将截断奇异值分解正则化方法应用于逆散射方程的求解问题中,并对正则化参数的选取方法进行修正.数值仿真结果表明,这一方法配合适当的正则化参数选取,可以更好地滤除噪声,提高重建图象的质量与可信度,同时还可以减小迭代过程中的计算量.

基于奇异值比值的正则化矩阵修正方法

针对雷达数据反演过程中存在的不适定性问题,基于岭估计方法分析,提出了一种基于奇异值比值的正则化矩阵修正方法。奇异值分解矩阵后,通过条件数法在奇异值矩阵中确定门限奇异值,将门限奇异值与各奇异值比值的平方根构造对角矩阵,将对角矩阵与左奇异值向量矩阵结合构造正则化矩阵。该方法能够加强对较小奇异值的修正,而减弱对较大奇异值的修正,从而保证了不适定问题解算结果的可靠性及计算精度。数值计算与误差分析结果证明了该方法的有效性。

Hessian正则化的低秩矩阵分解算法

流形正则化低秩矩阵分解(Manifold Regularized Low-rank Matrix Factorization,MRLMF)算法是一种最近提出的能考虑样本间流形结构的矩阵分解算法.MRLMF采用Laplacian图来表示样本的流形结构,但是,最近研究表明,由于Laplacian图的零空间中的测地线函数为常数,使得其往往不能较好的保持样本间的局部拓扑结构.为了解决这一问题,提出一种Hessian正则化的低秩矩阵分解算法(Hessian Regularized Low-rank Matrix Factorization,HRLMF).HRLMF利用二阶Hessian能来保持样本的局部流形结构,而Hessian能可以使测地线函数随距离变化,从而使得其保持样本局部拓扑结构的能力更强.此外,也给出了一种求解HRLMF的高效算法.在实际数据库上的实验表明,MRLMF算法比现有的算法有着更好的性能.

一种基于奇异值修正的SBAS-InSAR形变模型正则化解算方法

在利用SBAS-InSAR进行地表形变监测中,形变模型的病态性会对反演结果的精度产生影响。Tikhonov正则化方法是通过引入正则化参数及正则化矩阵,将病态问题转换为病态性较弱或良性问题进行解算,其关键是构建起有效的正则化矩阵。本文在奇异值分解正则化矩阵构建方法的基础上,提出了基于最小均方误差奇异值修正的正则化方法,该方法通过比较方差下降量和偏差引入量,确定满足均方误差最小的较小奇异值分界值,进而通过奇异值修正降低估计方差并减少偏差的引入,结合北京地区SBAS-InSAR的沉降反演实验对该方法的有效性进行了验证。

奇异值分解中两个酉矩阵的配置

给出求解矩阵奇异值分解的明确步骤,说明了分解中两个酉矩阵的相互关系.并利用两个酉矩阵之间的关系,针对第二个酉矩阵无法单独通过标准正交特征向量来确定的问题,给出了解决的方法.

用随机奇异值分解算法求解矩阵恢复问题（英文）

本文研究了大型低秩矩阵恢复问题.利用随机奇异值分解(RSVD)算法,对稀疏矩阵做奇异值分解.该算法与Lanczos方法相比,在误差精度一致的同时运算时间大大降低,且该算法对相对低秩矩阵也有效.

结合TSVD正则化和离散反卷积的电压行波精确检测方法

为解决行波传感器传变过程中的衰变及噪声干扰等因素影响而导致的电网一、二次侧行波波形不一致问题,提出一种结合截断奇异值分解(TSVD)正则化和离散反卷积的电网故障电压行波精确检测方法。该方法选择集中参数传递函数模型构建电压行波传感器的正演模型;然后利用反卷积原理建立行波反演模型;针对行波波形反演过程中产生的病态问题,提出结合TSVD正则化理论的波形反演方法,实现电网故障电压行波的精确检测。仿真分析表明,该检测方法能够实现二次行波信号的精确反演,反演一次行波信号波形特征可以反映真实的故障波形特征。

基于正则化矩阵补全的用户电量缺失值填补研究

针对用户电量采集过程中数据缺失的问题,提出一种基于正则化矩阵补全的用户电量缺失值填补方法。首先,基于原始用户电量缺失值进行特性分析,构造初始化矩阵;其次,搭建一个新的近似矩阵,采用低秩矩阵分解策略将近似矩阵拆分为两个潜在矩阵;最后,引入随机梯度最速下降法对目标参数进行优化,求解近似矩阵模型,完成缺失电量数据的填补。算例采用真实电网数据进行仿真分析,结果表明,所提方法能准确补全用户电量缺失值。

截断奇异值分解的生物发光断层成像重建问题

目的研究生物发光断层成像重建问题的求解方法,通过生物体表面检测到的光学信号准确、稳定地重建出生物体内部荧光光源的分布。方法将截断奇异值分解TSVD正则化技术用于已知光源可行区域的生物发光断层成像逆问题求解中,并利用广义交叉验证法结合一维搜索来选择合适的正则化参数。结果数值仿真表明,TSVD法可以快速有效地进行单光源和双光源的重建。结论TSVD方法在BLT重建中是可行和有效的,与常用的Tikhonov正则化方法相比,TSVD法的抗噪性能更好,重建时间也较少,且正则化参数的选取及调整更为方便。

基于Tikhonov正则化参数矩阵的激光吸收光谱燃烧场二维重建光路设计方法

有限投影条件下激光吸收光谱二维测量光路优化对燃烧场重建结果具有重要影响.针对基于Tikhonov正则化的病态投影方程组求解问题,提出了基于正则化参数矩阵的光路设计与二维重建方法.建立了基于Tikhonov正则化参数矩阵的光路设计目标函数,利用遗传算法获得最佳光路布置方式,通过匹配光路与正则化参数分布对测量区域内正则化权重进行调整以减小重建误差.采用7185.6 cm^–1波段H2O特征谱线并结合20条投影光路对10×10离散化测量区域内双峰高斯分布模型进行了重建,对5种光路布置方式重建结果进行了对比分析,结果表明基于Tikhonov正则化参数矩阵的光路布置方式重建结果最佳.光路数量越少, Tikhonov正则化参数矩阵作用效果越明显.开展了针对气液两相脉冲爆轰发动机外流场的模拟测量研究,验证了本文光路布置方式在复杂多变流场环境下重建效果.在实验室内针对小型燃气炉进行了实验测试,重建燃烧场峰值位置和幅值与实际情况吻合.研究结果对于推动激光吸收光谱二维重建技术在发动机诊断及燃烧效率提升方面的应用具有重要意义.

基于TGSVD的桥梁移动荷载识别及正则化矩阵选取

基于时域法（time domain method,简称TDM）识别移动荷载理论,通过引入正则化矩阵,提出采用截断广义奇异值分解法（truncated generalized singular value decomposition,简称TGSVD）识别桥梁移动荷载。比较不同正则化矩阵对TGSVD识别结果影响,并与TDM识别结果进行比较,两轴移动荷载识别结果表明,正则化矩阵选取对TGSVD识别精度、鲁棒性等影响较大。当正则化矩阵选取适当,TGSVD采用弯矩和加速度响应均具有较高识别精度且识别结果受噪声干扰小。在测点类型单一或测点数量较小时优势更为突出,适宜于现场移动荷载识别,具有较强的工程应用价值。

压缩感知框架下基于K-奇异值分解字典学习的地震数据重建

针对地震勘探中由于采集成本及采集环境等诸多因素导致地震数据不完整或者不规则问题,本文提出了一种压缩感知框架下基于K-奇异值分解(K-SVD)字典学习的地震数据重建算法。基本思路是首先对大量地震样本数据进行K-SVD字典训练得到超完备字典,然后引入缺失地震数据的采样矩阵作为测量矩阵。在重建阶段则采用正则化正交匹配追踪(ROMP)实现缺失地震数据的恢复。与传统的基于Curvelet变换或基于傅里叶变换等地震数据重建算法采用单一基函数不同,本文引入的超完备字典能够自适应地根据训练样本数据进行特征提取,并能根据待处理数据的本身特点自适应选取变换基函数。超完备字典为地震数据自适应稀疏扩展提供了更大灵活性,有利于更好地重建数据。合成地震数据以及实际海洋数据重建实验验证了本文算法的可行性及有效性。

基于谱正则化算法的大数据矩阵完备化研究

矩阵完备化是基于部分观测数据来完成全部矩阵预测的问题。随着互联网技术的发展,大数据时代的来临,大数据矩阵中大多数据依然是空白的,需要补充,即大数据存在矩阵完备化的问题。本文利用谱正则化模型和算法来解决大数据的矩阵完备化问题,该方法将矩阵完备化问题整理成核范数最小二乘问题,再通过截断奇异值分解、软输入算法和硬输入算法给出了一系列正则化低秩解。最后基于实际的Netflix大数据的实验结果证明了本文的方法。

自适应奇异值分解方法及应用

介绍了目前常用的奇异值分解方法，给出了其最小二乘谱分解公式。提出了自适应奇异值分解方法，给出了自适应因子的构造方法和计算过程。本文方法几乎涵盖了目前常用的几种奇异值分解方法如截尾奇异值分解方法（TSVD）、阻尼奇异值分解方法（DSVD）、Tikhonov正则化方法（TR）等，最后利用模拟算例对本文方法进行了验证。结果表明：自适应奇异值分解方法在处理病态问题方面，具有更高的参数解算精度和可靠性，奇异值截断更具统计意义。