最小二乘损失在多视角学习中的应用

SVM-2K模型是一种采用了非光滑合页损失的多视角学习算法。由于非光滑模型的求解过程较为复杂,因此引入了光滑的最小二乘损失的最小二乘支持向量机作为一种经典的支持向量机算法。由于光滑的最小二乘损失的最小二乘支持向量机算法具有计算简单、运算速度快、精度高等优点,被广泛应用于科研领域。为了提高模型的训练速度,在SVM-2K模型中引入了最小二乘思想。首先,提出了完全应用最小二乘损失的LSSVM-2K模型,利用最小二乘损失替换SVM-2K模型中的合页损失,可通过求解线性方程组代替经典多视角学习模型的二次规划求解方法;其次,为探究最小二乘损失对SVM-2K模型的影响,提出了在另外两个部分应用最小二乘损失的模型——LSSVM-2KI和LSSVM-2KII。将新模型与其他多视角学习模型,如SVM_(+)(可分为SVM_(+A)和SVM_(+B))、MVMED、RMvLSTSVM和SVM-2K模型在同样条件下应用在动物特征数据集(AWA)、UCI手写数字集(Digits)和森林覆盖面积数据集上,以检验新模型的有效性。实验结果表明,3种新模型具有良好的分类表现。特别是LSSVM-2KI模型,在分类精度上更具优势;LSSVM-2K模型不仅在分类精度上效果较好,而且在计算速度上也具有较大的优势;LSSVM-2KII模型在分类效果和训练时间上介于两者之间。