一种利用半监督Fisher判别分析检测推荐攻击的方法

协同推荐系统容易受到推荐攻击,为了检测该攻击,很多无监督、有监督及半监督检测方法被提出,其中,半监督检测方法的优势在于可以利用无标签用户概貌提升检测性能.然而,已有半监督检测方法的准确率较低,针对该问题,本文提出一种基于半监督Fisher判别分析(Semi-supervised Fisher Discriminant Analysis,SFDA)的推荐攻击检测方法RAD-SFDA来提升半监督检测方法的准确率.首先,利用Fisher判别分析(Fisher Discriminant Analysis,FDA)技术结合有标签用户概貌确定投影向量,在投影后的空间中最大化真实概貌和攻击概貌的离散度的同时最小化同类用户概貌间的离散度;然后,利用主元分析(Principal Components Analysis,PCA)技术从有标签和无标签用户概貌建立的数据集中提取全局结构;最后,综合上述由有标签用户概貌确定的判别结构和由所有用户概貌确定的全局结构确定最佳投影向量,在最终的投影空间中训练贝叶斯分类器检测推荐攻击.在MovieLens数据集上的实验结果表明,本文方法在保持较高召回率的前提下有效提升了准确率.

半监督空谱局部判别分析的高光谱影像特征提取

为充分利用高光谱影像中蕴含的空谱特征,提出了一种半监督空谱局部判别分析的高光谱影像特征提取算法(S4LFDA)。鉴于高光谱数据集具有空间一致性,首先将像元进行空间重构,保存高光谱数据的近邻关系;其次引入光谱信息散度重构像元间的相似度;为了充分利用大量无标签样本提高算法性能,采用模糊C均值聚类算法对样本进行聚类分析得到伪标签;然后通过增加规范化项到局部力导引算法(FDA)的类内散度矩阵和类间散度矩阵中,以此保持无标签样本的聚类结构一致性;最后通过局部FDA算法来保持有标签样本类间散度最大化和类内散度最小化并求解最佳投影向量。S4LFDA算法既保持了数据集在光谱域的可分性,又保持了像元在空间区域内的近邻关系,合理利用有标签样本及无标签样本,提高了算法的分类性能。在Pavia University和Indian Pines数据集上进行实验,总体分类精度达到95.60%和94.38%。与其他维数约简算法相比,该算法有效提高了地物分类性能。

基于正交半监督局部Fisher判别分析的故障诊断

针对有标记故障样本不足和故障特征集维数过高的问题,提出基于正交半监督局部Fisher判别分析(Orthogonal semi-supervised local Fisher discriminant analysis,OSELF)的故障诊断方法。所提出的OSELF能够充分地利用蕴含于无标记故障样本中的故障信息,避免了因有标记故障样本不足引起的过学习问题,同时采用正交迭代方式求解最优正交映射矩阵,克服现有方法无法得到正交映射矩阵的不足。正交映射矩阵的基矢量统计不相关,可有效地提高所得低维特征矢量的可辨识性。通过正交映射矩阵对故障样本集和新增样本进行维数约简,并将维数约简的结果输入粗糙优化k最近邻分类器(Coarse to fine k nearest neighbor classifier,CFKNNC)进行学习训练和故障识别。所提方法集成了OSELF在维数约简和CFKNNC在模式识别的优势,有效地提高了故障诊断的精度。通过齿轮箱故障模拟试验验证了该方法的有效性。

基于半监督判别分析的领域自适应方法研究

为解决传统机器学习中训练集(源域)与测试集(目标域)数据分布不一致导致分类准确率较低的问题,提出一种基于半监督判别分析和CDMD的领域自适应算法(SDA-CDMD)。首先,使用半监督判别分析(SDA)进行数据降维,保留了映射到低维子空间中数据的几何结构信息。其次,提出一种衡量两个域之间分布差异的度量准则:跨域均值差异(Cross-Domain Mean Discrepancy,CDMD)。最后,将SDA与CDMD结合,将两个域投影到同一子空间中,减少两个域之间的分布差异。在手写数字图像和计算机视觉数据集上进行的大量实验结果表明,所提算法优于传统的领域自适应方法,验证了其有效性。

一种邻域自适应半监督局部Fisher判别分析算法

针对利用局部化思想解决多模数据的判别分析问题时,根据经验对局部邻域大小进行全局统一设定,无法体现局部几何结构差异性的不足,提出一种邻域自适应半监督局部Fisher判别分析(neighborhood adaptive semi-supervised local Fisher discriminant analysis,NA-SELF)算法。该算法在半监督局部Fisher判别分析算法的基础上,结合马氏距离和余弦相似度确定初始近邻数,并根据样本空间概率密度估计调整近邻数。通过人工数据集和五组UCI标准数据集对该算法的特征降维性能进行验证,并与典型的维数约简算法和采用传统K近邻方法的判别分析算法进行比较,实验结果表明该算法具备更高的有效性。

基于Fisher判别分析的有监督特征提取和星系光谱分类

随着天文观测技术的进步、数据获取能力的提高和大型光谱巡天计划的相继实施,光谱数据的自动处理研究越来越受到重视和关注。文章在分析了文献中光谱自动分类研究的特点和无监督特征提取方法所固有的一些不足的基础上指出了光谱有监督特征提取研究的必要性。并重点研究了Fisher判别分析(FDA)有监督特征提取方法在星系光谱自动分类中的应用。该方法:(1)具有突出的维数约减能力;(2)能有效地融合训练数据的类别信息,并按照分类能力提取特征。实验表明,将FDA方法用于某些星系细分类不仅明显地提高了分类器的速度,而且具有良好的分类性能。因此,对于较大的光谱识别系统更能体现出该方法的优越性。

有监督不相关局部Fisher判别分析故障诊断

针对现有流形学习理论用于旋转机械故障诊断存在识别精度不高的问题,提出基于有监督不相关局部Fisher判别分析(Supervised Uncorrelated Local Fisher Discriminant Analysis,SULFDA)的新型故障诊断方法。首先构造全面表征不同故障特征的时频域特征集,再利用有监督不相关局部Fisher判别分析将高维时频域故障特征集化简为区分度更好的低维特征矢量,并输入到K-近邻分类器中进行故障模式辨识。有监督不相关局部Fisher判别分析在类标签指导下最小化同类流形的离散度并最大化异类流形的离散度来实现类判别,还施加了不相关约束条件使所提取的特征统计不相关,提高了针对旋转机械的故障诊断精度。深沟球轴承故障诊断实验验证了该方法的有效性。

基于核半监督判别分析的高光谱影像特征提取

针对高光谱影像特征提取中地物类别训练样本获取代价较高的情况,在线性判别分析的基础上,结合核方法和半监督学习理论,提出了一种基于核半监督判别分析(KSDA)的高光谱影像特征提取方法。该方法同时利用少量已知类别和大量未知类别样本数据进行模型的学习和训练。通过OMIS高光谱影像数据实验表明:在少量已知类别训练样本的条件下,经KSDA特征提取的样本数据在特征空间中能更好地聚集成团,且类别之间的距离较大,增加了类别之间的可分性,得到了较高的分类精度;同时,提取的特征影像能够较好地区分各种地物类别。

基于流形距离的半监督判别分析

大量无类别标签的数据具有对分类有用的信息,有效地利用这些信息来提高分类精确度,是半监督分类研究的主要内容.提出了一种基于流形距离的半监督判别分析(semi-supervised discriminant analysis based on manifold distance,简称SSDA)算法,通过定义的流形距离,能够选择位于流形上的数据点的同类近邻点、异类近邻点以及全局近邻点,并依据流形距离定义数据点与其各近邻点之间的相似度,利用这种相似度度量构造算法的目标函数.通过在ORL,YALE人脸数据库上的实验表明,与现有算法相比,数据集通过该算法降维后,能够使基于距离的识别算法具有更高的分类精确度.同时,为了解决非线性降维问题,提出了Kernel SSDA,同样通过实验验证了算法的有效性.

基于局部重构与全局保持的半监督判别分析方法

为克服线性判别分析(LDA)只能利用有标记样本的缺点,提出一种基于局部重构与全局保持的半监督判别分析(LRGPSSDA)方法.LRGPSSDA通过最小化局部重构误差来确定邻域图的边权值,在保持数据集局部结构的同时保持其全局结构,具有对邻域参数的选择不敏感、所得投影子空间的维数不受样本类别数的限制等特点.相较现有的半监督判别分析方法(如SDA和UDA),LRGPSSDA的分类性能更好.在YaleB和CMUPIE标准人脸库上的实验结果验证了该算法的有效性.

基于图嵌入概率半监督判别分析的故障辨识

针对现有旋转机械早期故障辨识方法在训练样本稀少条件下辨识性能极易衰退的关键问题,提出基于图嵌入概率半监督判别分析(Graph-implanted probability-based semi-supervised discriminant analysis,GIPSSDA)维数化简的早期故障辨识方法。该方法在训练样本稀少条件下用GIPSSDA将训练和待测样本的高维时、频域早期故障特征集化简为类区分性更好的低维特征矢量,提高了终端学习机优化证据理论K近邻分类器(Optimized evidence-theoretic k-nearest neighbor classifier,OET-KNNC)对早期故障的辨识精度。GIPSSDA集成了半监督邻接图嵌入技术,能同时利用待测样本的类判别信息和局部几何结构搜索分类的最优映射子空间,因此在训练样本非常稀少的情况下也能产生较好的分类效果。深沟球轴承早期故障辨识试验验证了该早期故障辨识方法的有效性和优越性。

一种自适应邻域选择半监督判别分析算法

为克服边界Fisher判别分析(MFA)只利用少量有标记样本和构建邻域不能充分反映流形学习对邻域要求的缺点,提出一种基于局部线性结构的自适应邻域选择半监督判别分析的算法。采用自适应算法扩大或者缩小近邻系数k来构建邻域以保持局部线性结构。MFA通过少量有类别标签样本进行降维的同时UDP对大量无标签样本进行学习,以半监督的方法对高维人脸数据进行维数约减。最后,在ORL和YALE人脸数据库通过实验结果验证了该算法的有效性。

基于判别分析的半监督聚类方法

与无监督聚类相比,半监督聚类是利用一部分先验信息来更好地挖掘和理解数据的内在结构,并紧密遵从用户的偏好。现有的典型半监督聚类算法仅仅适合于低维数据,文中提出一种新颖的基于判别分析的半监督聚类算法来解决高维数据聚类问题。新算法首先使用主成分分析来投影高维数据,进一步在投影空间中,使用基于球形K均值聚类算法对数据聚类;然后利用聚类结果,使用线性判别分析降维输入空间数据;最后在投影空间中对数据再次聚类。在一组真实数据集上的实验表明,所提出的算法不仅可以有效地处理高维数据,还提高了聚类性能。

半监督局部判别分析

针对无监督学习及有监督学习算法的缺点,提出一种半监督局部判别分析的线性降维算法。数据在没有足够的训练样本时,局部结构比全局结构更重要。算法在每一个局部区域利用有标签数据推导出数据的局部判别结构,无标签数据和有标签数据推导出数据的内在几何结构。在ORL和Yale人脸数据库上的实验结果表明该算法是有效的。

一种基于增量半监督判别分析的跟踪方法

在视频跟踪任务中,以上一帧跟踪到的目标位置为基础,在当前帧内相应位置周围生成若干候选区域样本进行分类,并从中获取待跟踪目标在当前帧中的位置和更新分类器,这是基于判别式方法的基本跟踪流程.对于每帧产生的大量未标记类别的候选区域样本,现有的基于子空间学习的跟踪方法大多忽略了这些样本内在的几何结构,而是直接向子空间投影,并在子空间内进行二分类,区分出其中的正类样本(前景)和负类样本(背景).在半监督判别分析方法的基础上,提出一种基于增量半监督判别分析的跟踪方法框架.首先,使用区域协方差特征描述子提取图像中不同区域的大量图像特征;然后,为保持这些特征间的几何结构,将它们映射至欧氏空间内进行处理;再将原始半监督判别分析方法扩展到增量形式,给出类内散度矩阵、类间散度矩阵和正则项的增量更新方法,并由此给出目标跟踪的流程框架;通过实验显示,该方法对于目标跟踪问题具有良好的实时性和鲁棒性.

基于半监督判别分析的语音情感识别(英文)

将基于多个嵌入图组合形式的半监督判别分析(SDA)以及核SDA(KSDA)应用于全监督的语音情感识别.在语音信号样本情感成分的预处理阶段,从样本语段中提取出多种特征及其统计参数,包括基音、过零率、能量、持续长度、共振峰和MFCC(Mel频率倒谱系数).在将样本特征送入分类器之前的维数约简阶段,使用经过参数优化的SDA或KSDA进行降维.Berlin语音情感数据库上的实验表明,在使用多类SVM分类器时的全监督语音情感识别中,SDA优于其他一些先进的基于谱图学习的维数约简算法,如LDA,LPP,MFA等,而KSDA通过核化的数据映射,能够取得比上述所有算法更好的识别效果.

面向高光谱图像分类的半监督空谱判别分析

为充分利用高光谱图像蕴藏的空间信息提升分类精度,提出了面向高光谱图像分类的半监督空谱判别分析(S3 DA)算法。考虑高光谱图像数据集的空间一致性,首先利用少量标记样本定义类内散度矩阵,保存数据集同类像元的光谱近邻结构;再利用无标记样本定义空间近邻像元散度矩阵,揭示像元间的空间近邻结构和地物的空间分布结构信息。S3 DA既保持数据集在光谱域的可分性,又保存了无标记样本蕴藏的空间域近邻结构,增强了同类像元和空间近邻像元在投影子空间的聚集性,从而提升分类性能。在PaviaU和Indian Pines数据集的试验表明,总体分类精度分别达到81.50%和71.77%。与传统的光谱方法比较,该算法能有效提升高光谱图像数据集的地物分类精度。

正则化半监督判别分析方法

为了克服加权线性判别分析(WLDA)只利用有标签的训练样本而不能反映样本数据流形结构的缺点,提出一种正则化的半监督判别分析方法。首先构建所有样本的近邻图来估计数据的局部流形结构,然后将此作为正则项引入WLDA的准则函数中。该方法避免了类内散度矩阵奇异,同时保持了样本数据的判别结构和几何结构。在ORL和YALE人脸数据库上的实验结果证明了该算法的有效性。

基于Fisher判别分析的增量式非负矩阵分解算法

增量式非负矩阵分解算法是基于子空间降维技术的无监督增量学习方法.文中将Fisher判别分析思想引入增量式非负矩阵分解中,提出基于Fisher判别分析的增量式非负矩阵分解算法.首先,利用初始样本训练的先验信息,通过索引矩阵对新增系数矩阵进行初始化赋值.然后,将增量式非负矩阵分解算法的目标函数改进为批量式的增量学习算法,在此基础上施加类间散度最大和类内散度最小的约束.最后,采用乘性迭代的方法计算分解后的因子矩阵.在ORL、Yale B和PIE等3个不同规模人脸数据库上的实验验证文中算法的有效性.

半监督的稀疏保持二维边界Fisher分析降维算法

针对样本集中类别标签样本不足的问题,提出一种半监督的稀疏保持二维边界fisher分析降维算法.首先利用图像像素间的空间结构信息,基于图像矩阵进行降维;然后设计类内散度矩阵和类间散度矩阵,以保持样本间的类内紧凑性和类间分离性;最后通过稀疏保持对特征间的稀疏重构性加以约束,所获得的稀疏重构权重保持了局部几何结构,而且也包含了自然鉴别信息.在YALE,ORL和AR人脸数据库上的实验结果表明,该算法具有很好的分类和识别性能.