基于PCA的大数据降维应用

随着互联网和信息技术的飞速发展,数据源的广泛性和复杂性给获取信息准确性带来了巨大的挑战。采用合适的降维算法可以把这些海量数据从高维降低到可以接受的范围、且不失去原数据表达的含义,而计算量大大降低,更容易理解。PCA(principal component analysis)即主成份分析作为数据降维的重要算法之一,利用正交变换,把一组相关的变量转化为一组线性不相关的变量,通常这种变换会减少变量个数,计算各成份在表达数据的贡献度,选取排列最前的贡献最高的几个特征即可表达整个数据集。实验表明,主成份从多维降至二维即可表达整个数据集,在精度可控的范围内使计算量大大降低。

基于藤蔓树降维剪枝的多部件系统剩余寿命预测

随着多部件系统日益复杂化和智能化,系统中多个部件间协同工作,其退化的相互影响往往不可忽略。因此,在考虑多部件系统部件间相互影响的基础上,提出了一种构造藤蔓树降维剪枝二元Copula函数来对高维变量间相关结构进行建模的剩余寿命预测方法。首先通过Lévy过程来建模多部件系统的退化模型,利用Akaike信息准则进行Copula函数的最优遴选。其次通过Copula函数来表征高维多变量下两两部件间的双向随机相关性,采用藤蔓树降维剪枝的方法来对高维变量间相关结构进行降维,并进行多部件系统部件的实时剩余寿命预测建模;接着考虑单个部件异质性的影响下,利用贝叶斯参数估计和极大似然估计结合的方法来实现对随机模型以及随机超参数的动态更新。最后通过商用模块化航空推进系统仿真涡轮发动机模型来验证所提出模型的合理性和有效性。

基于双子空间PCA降维的脑力负荷分类

人类社会至今的飞速发展使得大量体力劳动被机械工程替代,工作者的任务重心也从体力劳动逐渐转变为脑力劳动,对操作者脑力负荷进行实时评估以增强工作效率在当下有着重大意义。目前人类对于脑力负荷评估共有3种方式,有研究表明,采用生物电信号进行脑力负荷分类效果较其余两种方法更客观。但脑电信号经过特征提取后维数极高,所需数据量和运算量巨大,需要对其进行降维。目前降维方面最广泛运用的两种算法为主成分分析(principal component analysis,PCA)和线性判别分析(linear discriminate analysis,LDA)。针对PCA的非监督性和LDA的特征冗余敏感性,提出一种二分类下基于双子空间主成分分析的降维算法,分别对不同类别的训练集数据进行主成分分析,并将所有训练集数据映射到生成的空间中,再次进行PCA-LDA降维,以此提高降维后数据的可分性。实验结果表明,双子空间PCA-LDA降维算法在二分类任务下测试集精度整体高于单子空间PCA-LDA算法,以此为脑力负荷分类领域和高维数据降维领域提供了新思路。

利用网络等值进行图降维的图注意力暂态功角稳定评估模型

省级以上实际大电网节点众多,用于电网暂态稳定评估的深度学习模型输入特征空间面临维数灾,训练成本高且泛化能力难以保证,成为该类方法难以应用于实际大系统的一个瓶颈。针对这一问题,提出了一种面向稳控校核、利用网络等值进行图降维的图注意力深度学习暂态功角稳定评估模型。首先,建立全网发电机图,基于转子惯量等决定暂态功角稳定的关键参数构建其节点相似度,并利用节点相似度改进发电机图的边权重;作为一种领域知识嵌入方式,借鉴电网动态等值思路,对待研究稳控系统所涉及区域以外的网络部分,基于发电机图和分层聚类算法进行分区,将所形成分区对应成等效节点形成降维发电机图,并建立原图到降维图节点、边权重参数的映射,实现对原输入空间的降维。最后,以降维图作为输入建立图注意力深度学习模型,实现对复杂网络的暂态功角稳定评估。在南方电网某实际稳控系统算例上进行对比分析,验证了模型的有效性及准确性。

一种多局部线性模式保持的降维算法

为了更准确地捕捉数据的局部非线性结构,提出一种基于多局部线性模式保持的降维算法。该文通过局部区域线性重构相应的数据点,利用方向导数代替一阶泰勒展开式中的梯度,降低逼近误差;利用多重线性模式表征数据点,从而更精确地描述数据的局部非线性几何特征;进一步通过最小化嵌入数据空间中的多局部线性重构误差得到嵌入结果。在4个合成数据集和6个真实数据集上实验,结果表明提出方法能够准确捕捉数据的多个非线性结构。

结合光谱降维的IPSO-SVR水体总磷浓度预测模型

[目的]选择最优模型对水体中总磷浓度进行预测,为准确、实时、高效检测水资源状况提供支持。[方法]以2021年在长江中下游武汉—安徽地区采集的水质样本作为研究对象,首先,对采集到的长江光谱数据进行最大最小归一化和均值中心化两种预处理操作以便统一数据的范围和均值点,并使用核主成分分析(KPCA)技术对预处理后的光谱数据进行降维操作。选取方差解释率为99.6%下的6个特征向量进行后续预测模型的训练,接着在原有粒子群算法的基础上引入自适应惯性权重更新公式和遗传—模拟退火变异思想,提高算法的寻优能力。使用改进的粒子群优化算法对支持向量回归模型中的超参数组合进行寻优,对支持向量回归模型使用输出的结果进行预测模型的训练,最后使用测试集数据进行总磷浓度的预测。[结果]提出了一种结合光谱降维的改进粒子群优化算法(IPSO)结合支持向量回归(SVR)的水体总磷含量预测模型。通过和当前预测性能较好的几种机器学习模型进行精度的比较发现,该试验模型对长江水体总磷浓度进行预测时决定系数(R^(2))为0.973920,均方根差(RMSE)为0.003012,平均绝对误差(MAE)为0.002105。[结论]使用光谱数据结合降维技术、粒子群优化算法和机器学习模型的算法融合模型检测水体总磷浓度可行性强,精确度高,且拟合效果良好。

大语言模型的教育升维、教育降维与伦理干预

大语言模型开启了生成式人工智能时代。以ChatGPT为代表的人类知识处理的技术先锋,展现出接近通用的智能水准,其所具备的解决知识问题的能力,将会成为教育发展的工具性变量,教育时空重组将成为常态,教育范式将迎来深层变革。随着技术的迭代,ChatGPT类产品将消解和重构师生的主体地位,人类也不得不重新审视“人工智能+教育”的本真和意义。开发拥有自主知识产权的、具有中国气派和中国风格的大模型语言生成工具模型势在必行。

不对称工况模块化多电平换流器稳定性分析的矩阵降维

模块化多电平换流器(MMC)在对称工况下的建模与稳定性分析已经得到了广泛关注。实际工程中的MMC会处于不对称运行工况,如桥臂电感不对称、交流侧电压不对称等,不对称工况下的导纳建模与稳定性分析需要进一步展开研究。目前,考虑系统多频耦合的导纳模型与定量的导纳降维方法是不对称工况稳定性分析的难点。因此,文中主要建立了适用于不对称工况的MMC导纳模型,并对适用于MMC不对称工况下小扰动稳定性分析的矩阵降维方法展开研究。该降维方法基于导纳矩阵的向量范数,适用于“黑箱”系统及各种不对称工况,可定量评估各阶导纳矩阵的降维误差量。以中国鲁西背靠背异步联网工程广西侧为例,通过PSCAD/EMTDC电磁暂态仿真验证了所建模型的准确性及所提降维方法在多种不对称工况下的适用性。

Isomap对人脸图像的降维处理

人脸图像数据常常由几千或几万个像素点组成,每个像素点都代表一个特征。在进行人脸识别、图像分类等任务时,若使用全部像素点,会导致特征维度非常高,进而造成分析处理数据效率低下、储存成本过高等问题,此时对数据进行降维就极为重要。等距特征映射(isometric feature mapping,Isomap)是流形学习中一个非线性降维方法。对于人脸这样的高维流形结构,Isomap可以找到最优的低维表示,并保持原始数据之间的拓扑关系,从而更好地捕捉数据的局部结构和流形特征,例如人脸的表情、姿态、光照等因素。利用Isomap方法对jaffe人脸数据集中的部分人脸灰度图像进行降维处理,对高维数据进行可视化,得到该组数据的各个表情的位置分布,以此来展示Isomap对人脸图像数据的降维效果。

基于KPCA特征量降维的风电并网系统暂态电压稳定性评估

针对电力系统暂态电压稳定性评估中所需特征量数据庞大,影响模型训练时间,降低计算效率等问题,提出了一种基于核主成分分析方法KPCA和CPSO-BP组合的风电并网系统暂态电压稳定性评估方法.首先根据输入特征采集原始特征集,采用核主成分分析算法对特征量进行非线性数据处理,提取出最优的特征集.然后将降维后的特征集作为CPSO-BP神经网络输入量进行监督学习,将得到的模型按照临界故障切除时间裕度值的大小进行分类,将分类后的样本进行风电并网系统的暂态电压稳定性评估和临界故障切除时间裕度值预测.仿真分析结果表明,对输入特征进行降维,保留重要输入特征量,剔除冗余特征量,不仅简化了模型,还提高了网络评估的准确性和计算效率.

上海交通大学公共卫生学院、上海交通大学医学院单细胞组学与疾病研究中心郑小琪团队开发空间转录组数据降维新算法

2024年11月7日,上海交通大学公共卫生学院、上海交通大学医学院单细胞组学与疾病研究中心郑小琪课题组在基因组学领域顶级期刊Genome Biology发表了题为“GraphPCA:a fast and interpretable dimension reduction algorithm for spatial transcriptomics data”的方法论文章。该研究开发了一个快速、可解释性的拟线性降维算法——GraphPCA。基于模拟实验及真实数据的评估结果表明,GraphPCA有效提升了包含空间域检测、降噪以及轨迹推断等多项下游分析任务的性能。这项研究为空间转录组数据的分析提供了一个强有力的新工具,有助于更深入地理解细胞在组织中复杂的相互作用和功能。

基于PCA方法的移动医疗高维数据降维处理

移动医疗领域产生大数据集,数据量庞大、数据维度复杂,数据挖掘过程存在诸多冗余数据等问题,本文在此基础上使用主成分分析PCA方法进行降维处理,筛选出有效数据维度,避免数据过度拟合,将高维数据降维成低维数据,对其隐含的结构具有很大帮助,经常用于数据压缩、数据探索以及数据可视化。对移动医疗大数据进行降维处理,不仅能减少数据计算量,也能避免数据过度拟合,有利于医疗数据价值分析,为移动医疗数据集领域的数据挖掘提供新的思路和方法。

基于支持向量机与特征降维的直流断路器机械故障诊断技术研究

直流断路器机械故障诊断算法是直流断路器机械状态在线监测系统的核心部分。文中进行了直流断路器机械故障模拟实验,采集不同故障下的线圈电流及振动信号,对其进行特征提取后,将电流特征、振动短时能量特征、小波包频带能量特征排列组合,利用支持向量机构建故障诊断模型。文中使用主成分分析法及Relief⁃F算法对不同特征组合降维,进一步分析特征组合降维后的诊断效果,并通过K⁃Fold交叉验证算法评估单一特征和特征组合训练输出的诊断模型选取分类性能最优的诊断模型。

基于特征聚类与降维的新闻文本智能分类算法

文本分类是当前智能处理新闻数据信息的一种有效手段。为了提高信息处理的准确性和有效性,提出基于特征聚类与降维的新闻文本智能分类算法。首先,利用汉语词汇分析系统ICTCLAS对新闻文本分词作预处理,去除其中的停用词,并区分新闻文本的词性。然后,利用权重函数对新闻文本作降维处理,约简新闻文本的关键词集。最后,采用聚类分析技术对新闻文本特征实施聚类,得到不同类别的新闻文本。实验表明,所提出的算法得到的分类结果准确率在96%以上,召回率在98%以上,说明所提出的算法能够实现对新闻文本智能精准分类,具有良好的应用前景。

基于ELDA降维与MPA-SVM的滚动轴承故障诊断方法

为了提高滚动轴承故障诊断精度,提出一种基于偏心线性判别分析(Eccentric Linear Discriminant Analysis,ELDA)降维算法与经海洋捕食者算法(Marine Predators Algorithm,MPA)优化的支持向量机(Support Vector Machine,SVM)相结合的滚动轴承故障诊断方法。首先对轴承信号应用时域和频域分析方法构建高维特征集,其次应用自适应最大似然估计方法(Adaptive Maximum Likelihood Estimation,AMLE)进行固有维度估计,利用ELDA算法进行二次特征提取,充分挖掘敏感特征,降低冗余特征对故障诊断的影响;最后将低维敏感可分矩阵输入到MPA-SVM分类器中识别故障类型。实验分析表明,所提方法能有效缩短训练时长并提高诊断准确率。

高光谱喷墨打印墨水数据的非线性降维及分类建模方法研究

在法庭科学实践中,往往需要通过对文件中字迹墨水的成分分析来精确判定检材和样本文件的同一性。该文利用高光谱成像技术结合机器学习对喷墨打印墨水的种类进行区分,分别采集14套不同品牌、型号的4色(黑、青、品红和黄色)喷墨打印墨水打印的文件在400~1000 nm范围的高光谱图像,共提取56种样品墨迹的光谱数据。使用均匀流形逼近与投影技术(UMAP)和T分布随机近邻嵌入技术(t-SNE)两种算法对高光谱喷墨打印墨水数据进行降维处理,然后建立极致梯度提升(XGBoost)、轻量级梯度提升机器学习(LightGBM)和支持向量机(SVM)3种分类模型,以1∶4的比例确定测试集和训练集,分别对原始数据和降维后的数据进行分类。实验结果显示,UMAP降维算法结合SVM模型对喷墨打印墨水分类的效果最优,黑色墨水样品的分类精度为90%左右,其余颜色墨水样品的分类精度均为100%。该研究为喷墨打印文件的检验鉴定提供了一种新的、无损、准确的鉴别方法。

多指标降维判别分析方法在中药配方颗粒汤剂与传统汤剂等效性对比中的应用

针对传统汤剂和配方颗粒汤剂等效性评价方法不直观,未从多维度指标综合评价等问题,该研究建立了一种基于多指标(化学成分、药效作用)降维判别分析二者等效性关系的评价方法。为验证方法的有效性,将A、B、C厂炙甘草,D、E厂白芍,F、G、H厂砂仁配方颗粒汤剂与传统汤剂的化学成分等数据进行验证分析。结果显示建立的判别方法可快速、直观判别两者之间的关系,A、B、C三厂的炙甘草配方颗粒在当量比校正前均不能判定与其传统汤剂等效,经当量比校正后,代表传统汤剂和配方颗粒汤剂的两个置信椭圆部分相交或包含,表明二者可部分或完全替代;D、E厂白芍,F、G、H厂砂仁的配方颗粒在当量比校正前和校正后均不能判定与传统汤剂等效,二者无法相互替代。所建立的方法通过图形化形式快速直观综合判断配方颗粒汤剂与传统汤剂之间的关系,可用于二者之间的等效性评价。

基于UMAP、CNN的水工闸门安全评价指标体系降维

针对当前研究在处理复杂指标体系中指标间相关性不足以及指标筛选机制缺乏明确性的问题,从整体指标体系转化与逐个指标删减2个维度出发,采用统一流形逼近与投影(uniform manifold approximation and projection,UMAP)以及卷积神经网络(convolutional neural networks,CNN)技术,开展复杂水工闸门安全评价指标体系降维研究。构建水工闸门安全评价的初始指标体系,在分析指标相关性的基础上,使用UMAP对原始指标体系进行降维处理;提出一种基于指标值离散化的CNN训练样本生成方法,引入相对变化幅度和敏感度两个指标,以定量评估指标本身及其相对变化对闸门安全综合评价结果的影响,筛选关键评价指标;基于沙坪二级水电站中孔闸门的监测数据,对评价指标体系降维前后的结果进行对比验证,并从多角度探讨2种评价指标体系降维方法的差异及其各自的优缺点。提出的基于UMAP、CNN技术的2种方法不仅实现了复杂水工闸门安全评价指标体系的有效降维,而且为水工闸门安全综合评价与预警提供了重要的前置工具,为相关领域的研究提供了新的视角。

基于MGCD的转子故障数据集降维方法

针对由于特征维数过高导致故障数据集分类困难及故障模式辨识精度偏低的问题,提出一种基于多图协同决策(multi graph collaborative decision-making,简称MGCD)的转子故障数据集降维算法。首先,在边缘Fisher分析(marginal Fisher analysis,简称MFA)算法框架基础上,通过建立近邻图和远邻图解决因单一图结构导致的故障类别局部不可分问题;其次,采用最大化散度加权差分方式去削弱小样本问题造成的影响;最后,利用两个不同结构型式的转子系统故障模拟数据集对算法性能进行了验证。结果表明,使用本算法对故障数据集进行降维得到的敏感故障数据集使故障类别之间的差异性更加突出,能够提高故障模式识别准确率,为提高旋转机械智能故障诊断技术水平提供一定的研究参考依据。

基于空间位置关系的轨迹数据高效降维和查询算法

由于新型信息技术的快速发展,社会处于数字化、信息化转型的关键时期,各行业对于以数据库技术为基础的信息系统的需求也日益凸显.基于位置的服务依赖于海量实时生成的轨迹数据,在处理亿万级随时间连续变化的轨迹数据时,降维算法和查询技术一直是研究的关键,通过降低轨迹数据的规模,减少查询操作时处理数据的时间,能有效提升查询的性能,而能否实现高质量、高效率查询对于数据库而言至关重要.提出了面向轨迹数据的均匀网格编码,并在进一步优化后提出非均匀网格降维算法,将轨迹数据的坐标转化为1维字符串存储,对不符合要求的网格进行合并处理;通过空间位置映射充分保留轨迹数据间复杂的相互关系,并采用范围查询与最近邻查询对降维后的数据进行性能测试.实验使用不同城市真实轨迹数据与模拟生成轨迹数据作为数据集,将提出的均匀网格算法、非均匀网格算法与3种基准方法进行对比.实验证明,优化后的非均匀网格算法降维后数据的空间位置关系相似度可高达82.50%,范围查询时间较其他查询时间提升了至少73.86%,最近邻查询时间提升了至少52.26%,与其他基准方法相比取得了更好的效果.