基于L1-范数距离的最小二乘对支持向量机

最小二乘对支持向量机(LSTSVM)是一种有效的分类技术。然而,该方法需计算点到平面的平方L2-范数距离,从而易受野值或噪声的影响。为了缓解此问题,提出了一种有效的鲁棒LSTSVM方法,即基于L1-范数距离的LSTSVM(LSTSVM_(L1D))。该方法由于使用L1范数作为距离度量,因此不易受到野值或噪声数据的影响。此外,设计了一种有效的迭代算法,旨在求解目标问题,并从理论上证明了其收敛性。在人工数据集和UCI数据集上验证了LSTSVM_(L1D)的有效性。

基于L1范数稀疏距离测度学习的单类分类算法

已有单类分类算法通常采用欧氏测度描述样本间相似关系,然而欧氏测度有时难以较好地反映一些数据集样本的内在分布结构,为此提出一种用于改善单类分类器描述性能的高维空间单类数据距离测度学习算法,与已有距离测度学习算法相比,该算法只需提供目标类数据,通过引入样本先验分布正则化项和L1范数惩罚的距离测度稀疏性约束,能有效解决高维空间小样本情况下的单类数据距离测度学习问题,并通过采用分块协调下降算法高效的解决距离测度学习的优化问题.学习得到的距离测度能容易地嵌入到单类分类器中,仿真实验结果表明采用学习得到的距离测度能有效改善单类分类器的描述性能,特别能够改善覆盖分类的描述能力,从而使得单类分类器具有更强的推广能力.

基于l_1-范数约束的递归互相关熵的稀疏系统辨识

为了有效解决脉冲噪声环境下的稀疏系统辨识(Sparse system identification,SSI)问题,以l1-范数为约束构建稀疏递归互相关熵准则(Recursive maximum correntropy criterion,RMCC)算法来解决脉冲噪声对于辨识性能的影响。结合带遗忘算子的互相关熵准则和l1-范数作为代价函数,推导出一种递归形式的算法,其相对于传统的最大相关熵算法具有快的收敛速度及小的稳态误差。仿真实验结果表明:该算法对于脉冲噪声干扰环境下的SSI问题具有强的鲁棒性。

基于L1-范数的二维线性判别分析

为了避免图像数据向量化后的维数灾难问题,以及增强对野值(outliers)及噪声的鲁棒性,该文提出一种基于L1-范数的2维线性判别分析(L1-norm-based Two-Dimensional Linear Discriminant Analysis,2DLDA-L1)降维方法。它充分利用L1-范数对野值及噪声的强鲁棒性,并且直接在图像矩阵上进行投影降维。该文还提出一种快速迭代优化算法,并给出了其单调收敛到局部最优的证明。在多个图像数据库上的实验验证了该方法的鲁棒性与高效性。

基于L1-范数的最大间距准则

在进行线性投影降维时,由于传统的最大间距准则(Maximum Margin Criterion,MMC)算法基于L2-范数,易于受到野值(outliers)及噪声的影响.该文提出一种基于L1-范数的最大间距准则(L1-norm-based MMC,MMCL1)降维方法,它充分利用L1-范数对野值及噪声的强鲁棒性以及最大间距准则,提出了一种快速迭代优化算法,并给出了其单调收敛到局部最优的证明.在多个图像数据库上的实验验证了该方法的鲁棒性与高效性.

基于L1-L1范数的电学层析成像静态成像算法

电学层析成像中静态成像算法的目标函数为电压测量值与电压计算值之间残差的范数与罚函数两项之和。目前,针对残差项的L1范数成像算法还较少,本文使用原始-对偶内点法,实现了目标函数中残差项和罚函数项均使用L1范数的重建算法,进行图像重建。研究表明使用基于L1-L1范数算法进行图像重建可获得较好的重建图像质量。

L1-范数子空间技术的鲁棒建模综述(英)

子空间学习可以通过多种技术来开展,对一些流行且被广泛使用的子空间学习方法,简要回顾其基于L1-范数的鲁棒建模.从主成分分析开始介绍子空间学习技术、线性判别分析以及更一般的图嵌入框架.作为L1-范数的综合利用,进一步讨论具有稀疏性的鲁棒建模.此外,还论述一些应用在神经科学中的相关子空间学习技术.最后,针对基于L1-范数的子空间学习的求解问题,介绍一个有力工具,即边界优化技术.

基于L1-范数和弹性网约束的鲁棒稀疏块PCA

块主成份分析(block principal component analysis,BPCA)是一种重要的子空间学习方法,能充分利用图像矩阵的部分关联.基于L1-范数的BPCA是近年来发展起来的鲁棒降维的有效方法.本研究提出了一种新的鲁棒稀疏BPCA方法,称之为BPCAL1-S.该方法相对于传统的基于L2-范数的PCA对噪声更加鲁棒.为了建立稀疏模型,优化过程中引入弹性网,联合使用Lasso与Ridge惩罚因子进行约束.提出了一种贪心算法逐个提取特征向量,对迭代过程的收敛性做了理论证明.将BPCAL1-S应用于图像分类与图像重构,实验结果验证了该方法的有效性.

基于L_1-范数的非线性TSVR

为了进一步降低TSVR的计算复杂性,加快其学习速度,本文利用L_1-范数将TSVR的两个原始二次规划问题转化为线性规划问题,并提出了基于L_1-范数的TSVR(L_1-TSVR).实验结果表明L_1-TSVR是一个有效的、可竞争的回归方法 .

基于L1-范数最优化的主成分分析

鲁棒性不足是传统的基于L2-范数的主成分分析(L2-PCA)的主要问题。为此,提出了一种基于新的L1-范数优化技术的主成分分析(L1-PCA)方法。该方法使用了对异常值和旋转不太敏感的L1-范数。L1-范数优化技术是直观的、简单的和易于实现的,事实上,L1-范数优化技术也被证明是找到本地最大值的一种解决方法。在一些数据集上的实验验证了基于L1-范数优化技术的主成分分析算法的有效性。

基于L_1-范数的鲁棒稀疏的张量PCA人脸图像分析

张量主成分分析(Tensor Principal Component Analysis,TPCA)是主成分分析(Principal Component Analysis,PCA)在多维空间上的推广,能充分利用图像/视频的空间关联,在图像分析和视频处理中扮演了重要的角色.传统的张量PCA方法提取的特征向量是非稀疏的,这使得其很难进行解释.近年来出现了众多稀疏PCA方法,能提取只包含少量非零元的特征.把稀疏特征提取引入到张量分析,提出一种鲁棒稀疏的张量PCA方法(TPCAL1S).首先,设计了能实现稀疏特征提取的目标函数.一方面,用L1范数代替Frobenius-范数,使得算法对异常数据更加鲁棒;另一方面,在目标函数中引入弹性网,联合使用Lasso与Ridge惩罚因子来实现稀疏化,增强了算法的语义解释性.然后,设计了一种基于二阶张量的投影矩阵交替求解算法,二阶张量便于数学描述,也易于推广到更高阶张量.此求解算法分为两个步骤(V,U分别表示左投影矩阵和右投影矩阵),先固定U优化V,再固定V的值优化U,两个步骤反复交替执行,直到收敛.每个步骤都采用贪心算法以迭代的方式逐个特征提取以求得U或V.最后,对迭代过程的单调性做了理论证明.基于ORL,Yale和Feret库,将TPCA-L1S应用于人脸图像分析并与其他常见方法作比较,实验结果验证了该模型的有效性.

基于l_1范数的电容层析成像图像重建算法

传统电容层析成像(electrical capacitance tomography,ECT)系统图像重建算法一般基于l2范数优化方法,其解具有一定的平滑性。文中引入l1范数同时作为数据项和正则化项,将问题转化为凸优化问题,采用原始–对偶内插点法(primal-dual interior-point method,PDIPM)进行数值计算,并对数据项和正则化项分别取l2范数或l1范数的不同模型,通过重建图像质量、迭代次数、求解时间和图像相对误差等评价指标进行比较。算法采用仿真数据和实际气固两相流实验数据进行评估。实验结果表明,该模型可以避免图像的过度平滑,能够对物场中不同介质有效区分,重建质量较好。

基于L1范数凸包数据描述的多观测样本分类算法

为建立高维空间样本分布的最佳覆盖为目标来实现覆盖分类,该文提出基于L1范数凸包数据描述的多观测样本分类算法。首先对训练集的每个类别以及测试集的多观测样本分别构造凸包模型,这样多观测样本的分类就转化为凸包模型的相似性度量问题。若测试集的凸包模型与训练集无重叠,采用L1范数距离测度进行凸包模型之间的相似性度量;若有重叠,采用L1范数距离测度进行收缩凸包(reduced convex hulls)之间的相似性度量。然后采用最近邻准则作为多观测样本的分类决策。在3个数据库上进行的实验结果,表明该文提出方法对于多观测样本分类具有可行性和有效性。

L1范数最小法粗差探测与定位的研究

首先对Baarda法的原理和不足进材了讨论，提出用L1－范数解的残差直接构成统计量进行粗差探测与定位，通过实例对两种方法进行了比较，得到一些有用的结论。

基于稀疏恢复的l_1范数凸包分类器在人脸识别中的应用

人脸识别是统计模式识别领域中经典的分类问题,为了提高算法的分类性能,优化技术被广泛应用到人脸识别领域。提出基于稀疏恢复的l1范数凸包分类算法,将原始训练数据集进行低秩恢复,利用恢复出的低秩矩阵和误差矩阵构成新训练集字典建立各类训练样本凸包模型,并在l1范数意义下,计算观测样本与各类凸包模型差值,用所得差值等价观测样本到各类样本凸包的距离,将距离最小的一类视为判别输出类。在ORL(Olivetti Research Lab)标准人脸图像库上进行实验分析,实验证明基于稀疏恢复的l1范数凸包分类算法具有较高的识别效率。

基于L1范数正则化的三维多震源最小二乘逆时偏移

与常规偏移相比,最小二乘偏移在振幅保真性、提高分辨率、压制偏移噪音等方面具有较大优势。交错网格下基于一阶波动方程的最小二乘逆时偏移能够考虑介质密度的影响,且在压制数值频散方面有一定的优势,但该方法目前主要应用于二维介质中。为了拓展方法的适用范围,将该算法推广到三维情形下。同时,考虑到多震源方法会引入串扰噪声,在目标泛函中引入L1范数的稀疏正则化约束,并给出一种快速有效的解法。结果表明,相位编码算法可显著降低计算量,提高计算效率,但会引入高频的串扰噪音,而L1范数正则化由于加入稀疏约束,可有效地压制成像结果中的低频和高频噪音,显著提升成像分辨率,较大程度地改善成像质量,且线性Bergman解法降低反演结果对参数的依赖度,适用于实际资料的处理。

基于L_1范数的形状快速匹配算法

针对内距离形状上下文(inner-distance shape context,IDSC)和轮廓点分布直方图(contours points distribution histogram,CPDH)在形状相似性度量中直方图匹配耗时长、工程应用性不佳的问题,提出了一种用EMD-L_1测量轮廓特征直方图距离的方法。EMD-L_1在原始EMD(earth mover’s distance)的基础上融合了L_1范数,通过替换地面距离计算方法,减少了目标函数的变量,加快了直方图匹配的速度,能够快速实现形状匹配并保持较好的检索性能。对形状数据集进行仿真实验的结果证明,该方法能够有效地进行数据集的形状识别和检索,并且在MNIST数据集下的匹配速度优于其他算法。

基于有效迭代算法的鲁棒L1范数非平行近似支持向量机

针对鲁棒L1范数非平行近似支持向量机(L1-NPSVM)求解算法无法保证获取可靠解的问题,提出一个新颖的迭代算法来解L1-NPSVM的目标问题。首先,根据L1-NPSVM原目标问题对解具有规模不变性,将其转换为一个等价的带等式约束的最大化问题。该迭代算法在每次迭代中利用更新权机制获取每次迭代的更新解;每次迭代中,问题归结为解两个快速的线性方程问题。从理论上证明了算法的收敛性。在公共UCI数据集上,实验显示,所提算法不仅在分类性能上要远远好于L1-NPSVM,且具有相当的计算优势。

L-BFGS算法在反演谱分解中的应用研究

在反演谱分解问题中,一个核心内容是如何寻求最优解,得到最优解首先得构建一个合适的数学模型,本文采用带有L1规则化的L2范数约束反演谱分解的目标函数.由于优化算法的选择关系到反演谱分解的精度、计算成本等问题,因此研究首先分析了L1范数的规则化系数λ对反演谱分解效果的影响,然后在此基础优选了L-BFGS算法作为反演谱分解中的优化算法.为了验证L-BFGS优化算法在反演谱分解中的有效性,本文进行了理论分析与数值模拟分析,并在某海上油田实际数据中对基于L-BFGS优化算法的反演谱分解技术进行了验证.实际数据处理结果表明,基于L-BFGS优化算法的反演谱分解技术对油气的响应十分敏感,而且结果比较稳定.

网络1-重心反问题的计算复杂性研究

在网络中顶点的权值可以改变的情况下,对哈明距离下以及l1模下1-重心问题的反问题进行研究。通过将哈明距离下网络1-重心问题的反问题归约为0-1背包问题,证明即使是在链式网络中,在哈明距离下该问题仍是NP困难的,并给出l1模下在一般网络中求解1-重心反问题的多项式时间算法。