两阶段最小二乘回归子空间聚类方法

针对高维数据的非线性特性会降低最小二乘回归(LSR)子空间聚类的性能,提出两阶段LSR(TLSR)子空间聚类方法.该方法利用LSR的表示系数定义局部信息惩罚项,构造局部约束LSR方法.在8个数据集上的实验表明该方法适合高维数据的聚类.

系数增强最小二乘回归子空间聚类法

针对最小二乘回归子空间聚类法在求解表示系数时忽略了样本相似度的不足,提出改进方法。基于样本相互重构的表示系数矩阵和样本相似度矩阵有很大的关联定义系数增强项,求解可以保持样本相似度的表示系数矩阵,提出系数增强最小二乘回归子空间聚类法。在8个标准数据集上的实验表明该方法可以提高最小二乘回归子空间聚类法的聚类性能。

局部约束加强的最小二乘回归子空间聚类

针对最小二乘回归子空间聚类算法存在的数据局部相关性信息缺失、系数矩阵稀疏性不足的缺点,提出局部约束加强的最小二乘回归子空间聚类算法.在原始的最小二乘回归子空间聚类算法的基础上加入数据局部相关性约束,使表示系数矩阵的块对角性质更明显.同时,提出相似度矩阵构造方法,有效提高类内相似度,降低类间相似度.实验表明文中算法可以有效提高聚类的精确度,从而验证算法有效可行.

双重结构的最小二乘回归子空间聚类算法

最小二乘回归(Least Square Regression,LSR)算法是一种流行的子空间聚类方法,在处理计算机视觉和机器学习的相关问题中的应用十分普遍.然而,当数据含有噪声时,其求得的亲和矩阵不是块对角化的,还存在一定的噪声,这使亲和矩阵不够鲁棒可靠,因而降低了算法的聚类性能.为了解决以上不足,提出一种双重结构的最小二乘回归子空间聚类算法(Double Structure Least Squares Regression Subspace Clustering,DSLSR).首先对原始数据实施LSR算法,由于其生成的亲和矩阵往往不是块对角矩阵且含有噪声,需要对求得的亲和矩阵再次实施LSR算法来去除亲和矩阵中的噪声,使亲和矩阵更干净可靠,从而提升算法的聚类性能.最后,把两次LSR过程纳入一个统一的算法框架,设计一个统一的目标函数.此外,还采取了增广拉格朗日乘子方法对目标函数进行优化求解.在一些数据集上的实验证实,DSLSR算法比现有算法的性能更卓越.

基于投影最小二乘回归子空间分割的基因表达数据聚类

子空间分割方法是一种重要的机器学习方法,现有的子空间分割方法一般在原样本空间上进行研究.文中借鉴现有的降维方法将投影技术与最小二乘回归子空间分割方法结合,提出投影子空间分割的基因表达数据聚类方法.该方法通过交替优化求解投影矩阵和重构矩阵,同时实现降维和聚类.在6个基因表达数据集上的实验表明文中方法的有效性.

混合最小二乘回归的稀疏子空间聚类算法

稀疏子空间聚类的关键在于在求得真实反映数据集的相似度矩阵,然后将相似度矩阵代入谱聚类求解。相似度矩阵既要刻画数据集的子空间特性,同时也要反映出同一类数据点之间的两两相关程度,稀疏子空间聚类(SSC)专注于每一个数据表示系数的最大稀疏性,缺乏对数据集全局结构的描述;最小二乘回归(LSR)保证了同一类数据的结构相关性,但是不够稀疏。将最小二乘回归引入稀疏子空间聚类算法中,从而保证数据的相似度矩阵兼具稀疏性和分组效应。在运动分割和人脸聚类的实验中,将该算法和SSC、LSR算法对比,可以发现该算法在准确率上的优势。

基于核最小二乘回归子空间分割的高维小样本数据聚类

针对基于线性表示理论的子空间分割方法没有考虑高维小样本数据的非线性性质,借鉴核理论,提出核最小二乘回归子空间分割方法,使子空间分割方法适合高维小样本数据的非线性性质.经6个基因表达数据集和4个图像数据集上的实验,表明该方法是有效的.

基于局部强化最小二乘回归子空间分割的基因表达数据聚类

利用局部约束协同表示法改进最小二乘回归子空间分割方法,提出局部强化最小二乘子空间分割方法(LSLSR)。该方法通过近邻样本的协同作用强化重构系数使得LSLSR有更好的抗噪能力,结果表明该方法有较高的聚类准确率。

基因表达数据的低秩投影最小二乘回归子空间分割

基因表达数据具有高维、小样本、多噪声和高冗余的特点,使传统聚类方法效率较低.子空间分割是高维数据聚类的有效手段,但直接对基因表达数据进行子空间分割会降低聚类性能.为了更有效地聚类,文中提出低秩投影最小二乘回归子空间分割方法.首先利用改进的低秩方法将数据投影至潜在子空间,以便去除数据中可能的毁损,得到较干净的数据字典.然后采用最小二乘回归方法获得数据低维表示并构造仿射矩阵,利用该仿射矩阵实现聚类.在6个公开基因表达数据集上的实验表明文中方法的有效性.

权自适应最小二乘回归子空间分割法

基于表示理论的子空间分割方法有着广泛的应用。经典的子空间分割方法通过不同的正则项求解仿射矩阵,而忽略了特征属性对子空间分割的影响。针对这些问题,通过特征权重自适应的思想对最小二乘回归子空间分割方法进行改进,提出权自适应最小二乘回归子空间分割方法。在6个数据集上的实验结果表明该方法是有效的。

流形降维最小二乘回归子空间分割

子空间分割方法一直是一种重要的机器学习方法,这些方法在人脸识别和基因表达数据识别等研究中有较好的聚类准确率。然而,这些方法在对高维小样本数据进行聚类时难以取得理想的结果。为了解决这些问题,借鉴流形降维中的局部保持投影法和最小二乘回归子空间分割法,提出流形降维最小二乘回归子空间分割法。该方法通过局部保持投影进行降维,再利用最小二乘回归子空间分割方法实现聚类。在6个生物基因表达数据集和2个图像数据集上的实验表明了该方法的有效性。

运用核聚类和偏最小二乘回归的歌唱声音转换

语音转换是计算机听觉领域的热点问题之一,将歌声运用于语音转换是一种新的研究方向,同时拓宽了语音转换的应用范围。经典的高斯混合模型的方法在少量训练数据时会出现过拟合的现象,而且在转换时并未有效利用音乐信息。为此提出一种歌唱声音转换方法以实现少量训练数据时的音色转换,并且利用歌曲的基频信息提高转换歌声的声音质量。该方法使用核聚类和偏最小二乘回归进行训练得到转换函数,采用梅尔对数频谱近似(MLSA)滤波器对源歌唱声音的波形直接进行滤波来获得转换后的歌唱声音,以此提高转换歌声的声音质量。实验结果表明,在少量训练数据时,该方法在相似度和音质方面都有更好的效果,说明在少量训练数据时该方法优于传统的高斯混合模型的方法。

基于软聚类的深度图增强方法

针对现有的深度获取方式存在数据缺失、分辨率低等问题,提出一种基于软聚类的深度图增强方法,称为软聚类求解器.该方法利用软聚类的强边缘保持特性提高深度图增强的精度.将软聚类仿射矩阵和加权最小二乘模型有机结合,构建了软聚类求解器中的置信加权最小二乘模型,提出了基于迭代的求解方法.为评估所提出的方法,在多项深度图增强任务上进行试验,包括深度图补洞、深度图超分辨率和深度图纠正,评价指标包含了峰值信噪比(PSNR)、结构相似度(SSIM)、均方根差(RMSE)和运行效率.结果表明:文中方法在深度图补洞任务中的平均PSNR达到了42.28,平均SSIM达到了98.83%;在深度图超分辨率、深度图纠正任务中的平均RMSE达到了8.96、 2.36.文中方法处理1张分辨率为2 048×1 024像素的图像仅需5.03 s.

基于判别最小二乘回归的局部保留子空间学习算法

针对稀疏表示能够有效提取出相同类内部样本间和不同类之间的稀疏性,却具有高复杂度求解过程和存在丢失数据结构关键信息的缺点进行了研究,提出了判别最小二乘局部保持投影(DLSLPP)算法。DLSLPP算法利用最小二乘回归充分而完整地提取了数据之间的结构信息,同时利用最小二乘回归具有数值解的优势降低了算法的复杂度。此外,DLSLPP算法采用不同于传统算法的新型加权平均方式构造数据代表样本,增强了算法的判别能力。在四个图像分类数据集和四种算法上的对比实验表明DLSLPP算法能够达到十分优异的效果。

一种改进的最小二乘回归子空间分割方法

最小二乘回归(LSR)算法是一种常见的子空间分割方法,由于LSR具有解析解,因此它的聚类性能较高。然而LSR算法是应用谱聚类方法聚类数据,谱聚类方法初始化聚类中心是随机的,会影响后面的聚类效果。针对这一问题,提出一种基于聚类中心局部密度和距离这2个特点的改进的LSR算法(LSR-DC)。在Extended Yale B数据集上进行实验,结果表明,该算法有较高的聚类精度,具有一定的鲁棒性,优于现有LSR等子空间分割方法。

基于l2,p-范数回归的判别子空间聚类算法

针对基于F范数的判别子空间聚类算法存在对数据适应性差的缺陷,提出一种基于l2,p-范数回归的判别子空间聚类算法。扩展最小二乘线性判别分析的目标函数到l2,p-范数意义下,利用迭代重加权最小二乘法求解目标函数。将基于l2,p-范数的线性判别分析和K-means聚类算法结合到单一的聚类框架中,从而构成广义的判别子空间聚类算法。对比实验结果表明,该算法有效地提高了判别子空间聚类对不同结构数据集的适应性。

基于协同表示的子空间聚类

针对稀疏子空间聚类(SSC)求得的系数矩阵过于稀疏和最小二乘回归子空间聚类(LSR)求得的系数矩阵过于稠密的问题,文中提出基于协同表示的子空间聚类算法(SCCR).结合SSC和LSR的优点,将l1范数和Frobenius范数引入同一优化问题中,使系数矩阵保证在同一子空间数据点联系(如LSR)的同时,消除不同子空间数据点之间的联系(如SSC).然后利用此系数矩阵建立相似矩阵,应用谱聚类得到聚类结果.实验表明SCCR可以提高聚类性能.

基于聚类与改进最小二乘法支持向量机算法的汽车总装输送装备故障预警方法

汽车总装工艺复杂、生产节拍快、产量大,百分之六十以上的时间都在进行主辅物料输送,因此输送装备由于故障引起的停机会造成巨大的经济损失。为了对生产物料输送装备的健康状态作出评估,并在可能发生故障时作出预警,提出一种基于生长型神经气聚类算法与改进最小二乘法支持向量机(LS-SVM)回归模型的汽车总装输送装备故障预警方法。首先根据传感器的历史信号数据进行特征提取和降维处理,获得特征向量;运用生长型神经气聚类算法,将正常状态数据划分为多种工况,得到若干聚类中心,并计算当前运行数据的特征向量与聚类中心的欧式距离从而得到相似度趋势;同时构建了历史记忆矩阵,并通过改进粒子群算法优化LS-SVM回归模型参数,计算残差值,并结合残差值与相似度趋势,得出风险系数,对装备状态进行评估和预警。将所提方法应用于汽车总装物料输送设备,将减速器与轴承的振动值的均方根输入模型,得出设备的风险因子,证明了该方法的有效性。

一类非平坦函数的多核最小二乘支持向量机的鲁棒回归算法

给出了标准最小二乘支持向量机的数学回归模型,并提出了多核最小二乘支持向量机算法,用于提高非平坦函数的回归精度.运用谱系聚类方法解决多核最小二乘支持向量机的解缺乏稀疏性的问题.利用偏最小二乘回归方法对多核最小二乘支持向量机进行了鲁棒回归.通过仿真实例证实了所提方法的有效性.

基于相似日聚类及模态分解的短期光伏发电功率组合预测研究

短期光伏发电功率预测是电站制定发电计划并进行调度的重要组成部分,有助于电力系统的动态稳定。针对光伏时序预测中存在的噪声干扰及单一模型预测效果不稳定等问题,该文提出一种基于改进型自适应白噪声的完全集合经验模态分解(improved complete ensemble empirical mode decomposition with adaptive noise,ICEEMDAN)的组合预测模型。首先,利用相关系数提取重要气象特征,并采用模糊C均值聚类(fuzzy C-means clustering,FCM)将原始数据集划分为晴天、晴转多云和雨天。其次,每种相似日以最后一天为待预测日,其余为历史训练集;利用ICEEMDAN将历史训练集分解成若干个较为规律的子序列,并用排列熵(permutation entropy,PE)对各子序列进行重构。最后,高频项采用由卷积神经网络(convolutional neural network,CNN)、(bidirectional gated recurrent unit,Bi GRU)双向门控循环单元与注意力机制组合而成的CNN-BiGRU-ATTENTION神经网络预测,低频项和趋势项采用最小二乘支持向量回归机(least squares support vector regression,LSSVR)进行预测,将预测结果叠加得到最终光伏发电功率预测值。通过实例验证:该文组合模型在不同天气条件下,可以解决单一模型预测精度低、预测效果不稳定等问题;相比其他模态分解,能够更精确地预测波动较大的局部特征。