模糊赋范线性空间的1-范数——模糊1-范数

本文的主要内容是基于T. Bag和S. K. Samanta于2003年建立的模糊赋范线性空间;我们根据 -范数是上升集簇的性质,选取确界逼近的方式,定义了1-范数的概念,并研究其连续性、收敛性等相关性质。

基于l_1-范数约束的递归互相关熵的稀疏系统辨识

为了有效解决脉冲噪声环境下的稀疏系统辨识(Sparse system identification,SSI)问题,以l1-范数为约束构建稀疏递归互相关熵准则(Recursive maximum correntropy criterion,RMCC)算法来解决脉冲噪声对于辨识性能的影响。结合带遗忘算子的互相关熵准则和l1-范数作为代价函数,推导出一种递归形式的算法,其相对于传统的最大相关熵算法具有快的收敛速度及小的稳态误差。仿真实验结果表明:该算法对于脉冲噪声干扰环境下的SSI问题具有强的鲁棒性。

基于L1-范数的二维线性判别分析

为了避免图像数据向量化后的维数灾难问题,以及增强对野值(outliers)及噪声的鲁棒性,该文提出一种基于L1-范数的2维线性判别分析(L1-norm-based Two-Dimensional Linear Discriminant Analysis,2DLDA-L1)降维方法。它充分利用L1-范数对野值及噪声的强鲁棒性,并且直接在图像矩阵上进行投影降维。该文还提出一种快速迭代优化算法,并给出了其单调收敛到局部最优的证明。在多个图像数据库上的实验验证了该方法的鲁棒性与高效性。

基于L1-范数距离的最小二乘对支持向量机

最小二乘对支持向量机(LSTSVM)是一种有效的分类技术。然而,该方法需计算点到平面的平方L2-范数距离,从而易受野值或噪声的影响。为了缓解此问题,提出了一种有效的鲁棒LSTSVM方法,即基于L1-范数距离的LSTSVM(LSTSVM_(L1D))。该方法由于使用L1范数作为距离度量,因此不易受到野值或噪声数据的影响。此外,设计了一种有效的迭代算法,旨在求解目标问题,并从理论上证明了其收敛性。在人工数据集和UCI数据集上验证了LSTSVM_(L1D)的有效性。

基于L1-范数的最大间距准则

在进行线性投影降维时,由于传统的最大间距准则(Maximum Margin Criterion,MMC)算法基于L2-范数,易于受到野值(outliers)及噪声的影响.该文提出一种基于L1-范数的最大间距准则(L1-norm-based MMC,MMCL1)降维方法,它充分利用L1-范数对野值及噪声的强鲁棒性以及最大间距准则,提出了一种快速迭代优化算法,并给出了其单调收敛到局部最优的证明.在多个图像数据库上的实验验证了该方法的鲁棒性与高效性.

高维数据的1-范数支持向量机集成特征选择

特征选择是机器学习和模式识别领域的关键问题之一。随着模式识别与数据挖掘的深入,研究对象越来越复杂,对象的特征维数也越来越高,此时特征选择的稳定性也显得尤为重要。分析了1-范数支持向量机,用该方法对高维数据进行特征选择,并对特征选择的结果进行集成;提出了一种针对高维数据的稳定性度量方法;在基因表达数据上的实验结果表明,集成特征选择可以有效提高算法的稳定性。

L1-范数子空间技术的鲁棒建模综述(英)

子空间学习可以通过多种技术来开展,对一些流行且被广泛使用的子空间学习方法,简要回顾其基于L1-范数的鲁棒建模.从主成分分析开始介绍子空间学习技术、线性判别分析以及更一般的图嵌入框架.作为L1-范数的综合利用,进一步讨论具有稀疏性的鲁棒建模.此外,还论述一些应用在神经科学中的相关子空间学习技术.最后,针对基于L1-范数的子空间学习的求解问题,介绍一个有力工具,即边界优化技术.

基于L1-范数和弹性网约束的鲁棒稀疏块PCA

块主成份分析(block principal component analysis,BPCA)是一种重要的子空间学习方法,能充分利用图像矩阵的部分关联.基于L1-范数的BPCA是近年来发展起来的鲁棒降维的有效方法.本研究提出了一种新的鲁棒稀疏BPCA方法,称之为BPCAL1-S.该方法相对于传统的基于L2-范数的PCA对噪声更加鲁棒.为了建立稀疏模型,优化过程中引入弹性网,联合使用Lasso与Ridge惩罚因子进行约束.提出了一种贪心算法逐个提取特征向量,对迭代过程的收敛性做了理论证明.将BPCAL1-S应用于图像分类与图像重构,实验结果验证了该方法的有效性.

基于L_1-范数的非线性TSVR

为了进一步降低TSVR的计算复杂性,加快其学习速度,本文利用L_1-范数将TSVR的两个原始二次规划问题转化为线性规划问题,并提出了基于L_1-范数的TSVR(L_1-TSVR).实验结果表明L_1-TSVR是一个有效的、可竞争的回归方法 .

1-范数软间隔分类器的风险

运用Rademacher复杂度估计1-范数软间隔分类器的错分风险,所得到风险的界因与具体的数据有关,故分类器能针对不同的数据提供更确切的界.

基于L1-范数最优化的主成分分析

鲁棒性不足是传统的基于L2-范数的主成分分析(L2-PCA)的主要问题。为此,提出了一种基于新的L1-范数优化技术的主成分分析(L1-PCA)方法。该方法使用了对异常值和旋转不太敏感的L1-范数。L1-范数优化技术是直观的、简单的和易于实现的,事实上,L1-范数优化技术也被证明是找到本地最大值的一种解决方法。在一些数据集上的实验验证了基于L1-范数优化技术的主成分分析算法的有效性。

带1-范数约束的分裂可行问题的投影算法

本文主要研究带1-范数约束的分裂可行问题的求解算法.用一种交替投影算法,求得了问题的解,提出松弛交替投影算法,改进了直接往闭凸集上投影这一不足,并证明了该算法的收敛性.

基于L_1-范数的鲁棒稀疏的张量PCA人脸图像分析

张量主成分分析(Tensor Principal Component Analysis,TPCA)是主成分分析(Principal Component Analysis,PCA)在多维空间上的推广,能充分利用图像/视频的空间关联,在图像分析和视频处理中扮演了重要的角色.传统的张量PCA方法提取的特征向量是非稀疏的,这使得其很难进行解释.近年来出现了众多稀疏PCA方法,能提取只包含少量非零元的特征.把稀疏特征提取引入到张量分析,提出一种鲁棒稀疏的张量PCA方法(TPCAL1S).首先,设计了能实现稀疏特征提取的目标函数.一方面,用L1范数代替Frobenius-范数,使得算法对异常数据更加鲁棒;另一方面,在目标函数中引入弹性网,联合使用Lasso与Ridge惩罚因子来实现稀疏化,增强了算法的语义解释性.然后,设计了一种基于二阶张量的投影矩阵交替求解算法,二阶张量便于数学描述,也易于推广到更高阶张量.此求解算法分为两个步骤(V,U分别表示左投影矩阵和右投影矩阵),先固定U优化V,再固定V的值优化U,两个步骤反复交替执行,直到收敛.每个步骤都采用贪心算法以迭代的方式逐个特征提取以求得U或V.最后,对迭代过程的单调性做了理论证明.基于ORL,Yale和Feret库,将TPCA-L1S应用于人脸图像分析并与其他常见方法作比较,实验结果验证了该模型的有效性.

函数型数据的1-范数主成分分析方法研究

本文以函数型数据为研究对象,首先介绍了传统的2-范数函数型主成分分析方法,并分析了2-范数下主成分权函数对异常值敏感的原因.针对原因,本文提出了1-范数函数型主成分分析方法,构建了1-范数主成分权函数的求解算法.最后利用加拿大温度数据和北京市空气质量数据对两种方法进行了对比分析,结果表明相较于2-范数的函数型主成分分析方法,1-范数的函数型主成分分析方法得到的主成分权函数更稳定,结果更可靠.

求解具有约束的l_1-范数问题的神经网络模型

提出了一个解约束最小l_1-范数问题的单层神经网络模型。与已有神经网络模型相比,提出的模型所需神经元数少且层数少。通过引入Lyapunov函数,证明了该模型的稳定性和收敛性。数值试验结果表明所提出的模型具有良好的性能。

基于L1-范数的v-双子限定支持向量机

【目的】针对二分类问题,构造了一种新的基于L1-范数的v-双子限定支持向量机(L1-vTBSVM)。【方法】类似于v-双子限定支持向量机(v-TBSVM),L1-vTBSVM确定两个非平行超平面,使得它们更接近于各自的类,并且与另一个类至少有ρ的距离。在L1-vTBSVM中,由于用L1-范数替代了L2-范数,则相较于v-TBSVM,所提模型产生了不同的对偶问题。【结果】在求解对偶问题时避免了昂贵的矩阵逆运算,更重要的是,L1-vTBSVM可以抑制离群值的负面影响,从而提高模型的鲁棒性。因此,改进的模型在处理大规模问题时更有效,且具有更好的泛化能力。【结论】在6个基准数据集上进行了数值实验,验证了该算法在线性、非线性和加入噪声情况下的有效性。

模糊赋范线性空间的1-最佳逼近

T. Bag和S. K. Samanta于2003年建立了模糊赋范线性空间,并研究了模糊范数导出的α-范数a(∈(0,1))性质,以及点列按照α-范数收敛与按照模糊范数收敛的关系。本文给出了由模糊范数导出的1-范数的概念,研究了点列按1-范数收敛与按模糊范数收敛的关系。同时,研究了按1-范数引入的逼近问题,得到了按1-范数定义的存在性集与模糊闭集之间的关系。

模糊赋范线性空间的1-n宽度——模糊1-n宽度

本文基于T. Bag和S. K. Samanta于2003年建立的模糊赋范线性空间,提出了1-范数、模糊1 − n宽度的概念,并研究其相关性质。

一个基于1范数的电容层析成像图像重建迭代算法

电容层析成像因具有快速、廉价、非侵入传感等优点而被认为是具有广阔发展前景的过程成像技术。电容层析成像图像重建是一个典型的病态问题,它的解是不稳定的。为了获得有意义的重建结果,能够保证解的稳定性而又能提高重建图像质量的方法应该被采用。本文提出了一个基于1范数稳定的电容层析成像图像重建算法。将图像重建问题转化为一个最优化问题,并对目标泛函采用光滑逼近。在此基础上用Newton法求解该目标泛函。数值实验表明该算法是有效的,能够有效克服ECT图像重建的数值不稳定性,就本文所考察的重建对象而言,该法所获得的重建图像的质量有了一定的提高,从而为ECT图像重建引入了一种有效的方法。

L1范数最小法粗差探测与定位的研究

首先对Baarda法的原理和不足进材了讨论，提出用L1－范数解的残差直接构成统计量进行粗差探测与定位，通过实例对两种方法进行了比较，得到一些有用的结论。