基于构造性神经网络与全局密度信息的不平衡数据欠采样方法

多数类欠采样是当前数据层面解决不平衡数据学习的主流技术之一,近年来,研究者们提出了一系列的欠采样方法,但大多都将重点放在如何选择代表性的样本,从而降低信息损失。然而,如何在欠采样过程中保持多数类内部的结构信息,仍然是欠采样面临的主要挑战。针对该挑战,提出了一种基于构造性神经网络和全局分布密度的不平衡数据集欠采样方法。该方法首先基于构造性神经网络,设计了一种多数类局部模式的学习方法;然后基于多数类局部模式,设计了两种具有结构保持特性的样本选择策略;最后针对局部模式学习的随机性可能导致的采样结果非优的问题,进一步引入了bagging集成策略,提升了方法的性能。在59个数据集上与13种对比方法进行了对比实验,验证了所提方法在G-mean,AUC和F1-score这3个常用指标上的有效性。

基于迁移卷积神经网络的配电网高阻接地故障检测方法

为解决高阻接地故障导致的配电网运行安全性低的问题,提出了基于迁移卷积神经网络的配电网高阻接地故障检测方法。首先,采用HHT方法提取原始信号中的特征量,将提取结果输入到卷积神经网络结构中,通过训练和学习实现对特征量的分类处理。然后,通过迁移学习将已经训练完成的卷积神经网络模型放在新任务内再次实施检测,提高配电网高阻接地故障检测能力。实验结果表明:该方法在迭代次数达到160次以后,故障检测准确率高达99.9%,且网络训练误差均低于1.5。在噪声环境下,该方法的抗噪能力较强,同时适用于不同类型工况故障的检测,卷积层对迁移CNN的检测精度影响较小,在故障检测方面迁移CNN的稳定性表现较好,可以提高配电网高阻接地故障检测能力。

集成卷积神经网络和视觉Transformer的隧道掌子面岩性判识研究

为研究综合高效的隧道掌子面岩性智能分类方法,首先,通过收集高铁沿线施工隧道高清掌子面照片、地质素描图及工程地质说明,筛选并统计出灰岩、泥岩、砂岩、玄武岩4种岩性,在此基础上,采用图像增强扩充样本数量并构建岩性样本集;然后,基于上述样本集分别构建ResNet50V2岩性分类迁移模型及VIT岩性分类模型,对比二者岩性分类效果,并采用Stacking方法集成2种模型的分类特点;最后,通过对比3种元学习器(逻辑回归、支持向量机、决策树)对2种模型的集成融合效果来选取最适用的元学习器。结果表明:采用逻辑回归集成ResNet50V2及VIT所构建的集成模型对岩性的分类效果最好,能充分融合掌子面岩性的全、局部特征来进行分类,模型准确率达到93.8%。

基于卷积神经网络的高校就业教育个性化学习资源检索方法研究

常规就业教育个性化学习资源检索方法在关键词检索过程中出现漏检、错检的问题,影响了最终的资源检索结果。因此,设计了基于卷积神经网络的高校就业教育个性化学习资源检索方法。文章建立高校就业教育个性化学习资源检索索引,在学习资源中建立全文倒排索引,从不同的区域获取资源,从而确保资源检索的全面性。基于卷积神经网络检索个性化学习资源拼音结构,将重要资源的分词后中文分词转化为对应的拼音。文章将每个拼音映射一个汉字,从而获取学习资源的完整信息。采用对比实验,验证了该方法的学习资源检索效果更佳,能够应用于实际生活。

AAR-Net:用于声学异质介质光声图像重建的深度神经网络

在光声成像中,由于组织的吸收和扩散等引起的超声波衰减、由声速变化引起的相位偏差以及与声衰减相关的信号波形展宽都会降低图像的空间分辨率,针对该问题,提出一种基于深度学习的声学特性非均匀组织图像重建方法。通过将深度梯度下降(deep gradient descent,DGD)网络与U-Net相结合构建声伪影去除网络(acoustic artifacts removal network,AAR-Net)。DGD模块利用梯度信息减少非均匀声学特性对重建图像质量的影响,实现信号域到图像域的转换。U-Net模块实现对DGD模块输出的低质量图像的优化,实现图像域到图像域的转换。仿真、仿体和在体试验结果表明,与传统的非学习图像重建方法和最新的基于图像后处理的深度学习方法相比,采用该方法重建的图像结构相似度和峰值信噪比分别可提高约20%和10%。AAR-Net无需任何有关成像对象声学特性的先验知识,即可重建高质量图像。

基于JEC-FDTD等效循环神经网络的电磁建模和等离子体参数反演

磁化等离子体中的电磁波传播是重要的研究课题,针对特定场景下的电磁等离子耦合问题,进行有效且准确的方程建模与参数求解具有极强的研究价值和挑战性,这是探究电磁波与等离子体复杂非线性相互作用机制的关键。文中设计了一种可用于电磁等离子体正逆向建模的循环神经网络(recurrent neural network,RNN),该网络正向传播过程等价于任意磁倾角情况下的电流密度卷积时域有限差分(current density convolution finite-difference time-domain,JEC-FDTD)方法,因此可以求解给定的电磁建模问题,并易于大规模并行计算。通过构建前向可微模拟过程,JEC-FDTD方法可以使用自动微分技术准确且高效地计算梯度,然后通过训练网络来解决反问题。因此,该方法可以有效利用观测到的时域散射场信号反演重要的等离子体参数。JEC-FDTD方法和RNN相结合,形成了较强的协同效应,使得模型具有可解释性和高效的计算效率,受益于深度学习提供的优化策略和专用硬件支持,可以适用于不同仿真场景下的电磁建模和等离子体参数反演。

构造性神经网络在煤矿瓦斯预测中的应用

在商空间粒度计算理论框架下,用构造性神经网络学习方法进行瓦斯浓度预测。采用商空间粒度计算理论,可以通过对问题进行宏观分析——研究不同粒度商空间之间的转换、运动、依存的关系,并对数据库中的原始特征信息进行粒度构建,采用多种粒度,从不同的层次分析复杂的瓦斯数据信息使得学习样本的特征更加明显,以更好地满足机器学习的要求。构造性神经网络学习方法则可以从微观上对具有不同粒度结构的商空间进行数据挖掘。最后将该方法应用于瓦斯浓度预测,取得了较好的结果.这表明了基于商空间的构造性神经网络学习方法的可行性和应用前景。

图神经网络算法架构及可解释性研究分析

首先,全面概述了图神经网络的基本概念和意义,对基于谱的图神经网络、基于空域的图神经网络和其他图神经网络三个类别进行了系统性介绍,同时总结了训练过程中常用的优化技术。其次,分析了图神经网络领域目前面临的可解释性问题的挑战,从而明确了研究目标。随后,阐述了图形神经网络的可解释性基本概念与基础理论,将其分类为实例级和模型级可解释性技术,并列出了评估图学习方法可解释性的度量指标。最后,在结语部分总结了本文的主要研究脉络,并对该领域的未来研究方向提出了建议。旨在介绍图神经网络的理论基础以及其在可解释性领域的研究。

一种改进一维卷积神经网络的轴承故障诊断方法

经典一维卷积神经网络模型诊断准确率不高且模型存在过拟合问题,难以满足轴承故障诊断时效性和准确率要求。鉴于此,提出一种基于改进一维卷积神经网络的轴承故障诊断方法,在卷积层之后加入批量归一化层的方法以增加模型泛化能力,并采用Dropout的方法解决模型过拟合问题。基于凯斯西储大学轴承故障数据集的实验结果显示,相比经典一维卷积神经网络,该方法可显著提升故障诊断准确率,故障诊断准确率可达99.79%,并且整个诊断过程无需手动特征提取,从而减少了特征提取过程中的损失,实现端到端的检测,具有较好的通用性。

增量构造负相关异构神经网络集成的方法

基于负相关异构网络,提出了一种增量构造异构神经网络集成(NNE)的方法.该方法在训练成员网络时,不仅调整网络的连接权值,而且动态调整网络的结构,从而在提高单个网络精度的同时增加各成员网络之间的差异度,减小网络集成的泛化误差.该方法包括构造最佳异构网络(BHNN)和构造异构网络集成(HNNE)两个部分,BHNN基于负相关学习动态构造多个最佳网络,HNNE利用训练好的最佳网络增量地构造异构NNE.使用网络泛化误差和集成泛化误差,整个集成过程可自动完成,无需预先确定成员网络的结构.分别对回归和分类问题进行了实验,相对于单个网络,该方法在测试数据集上的错误率降低了17%～85%,与已有的Boosting、Bagging等网络集成方法相比,错误率也有不同程度的改善.

神经网络学习样本点的选取方法比较

为了比较训练人工神经网络的所需样本点的选取,分别采用随机遍历法、正交设计法和均匀设计方法产生样本点,用于训练神经网络.分析结果表明,在样本点个数相同情况下,均匀设计法的代表性最好,正交设计法次之,而随机遍历法较差.随机遍历法随着样本点个数的增多,同样可以提高其代表性.当函数随变量在区间内变化较小(因素水平可以取的较少)时,正交设计法也不失为一个好的选择.均匀设计法在多变量,且每个变量需要选取较多水平数的情况下,更能体现它的优越性.

基于神经网络结构学习的知识求精方法

知识求精是知识获取中必不可少的步骤．已有的用于知识求精的ＫＢＡＮＮ（ｋｎｏｗ ｌｅｄｇｅ ｂａｓｅｄ ａｒｔｉｆｉｃｉａｌｎｅｕｒａｌｎｅｔｗ ｏｒｋ）方法，主要局限性是训练时不能改变网络的拓扑结构．文中提出了一种基于神经网络结构学习的知识求精方法，首先将一组规则集转化为初始神经网络，然后用训练样本和结构学习算法训练初始神经网络，并提取求精的规则知识．网络拓扑结构的改变是通过训练时采用基于动态增加隐含节点和网络删除的结构学习算法实现的．

BP神经网络子批量学习方法研究

针对浅层神经网络全批量学习收敛缓慢和单批量学习易受随机扰动的问题,借鉴深度神经网基于子批量的训练方法,提出了针对浅层神经网络的子批量学习方法和子批量学习参数优化配置方法。数值实验结果表明:浅层神经网络子批量学习方法是一种快速稳定的收敛算法,算法中批量和学习率等参数配置对于网络的收敛性、收敛时间和泛化能力有着重要的影响,学习参数经优化后可大幅缩短网络收敛迭代次数和训练时间,并提高网络分类准确率。

一种新的模糊规则动态调整正则项系数的神经网络学习方法

从偏差 方差模型出发 ,提出了一种通过模糊规则推理动态调整正则项系数的新方法 ,并有效地确定了模糊推理规则和隶属度函数 .并将该方法与BP算法和固定正则项系数的方法进行了比较 ,该方法具有精度高、收敛快和泛化能力高等优点 。

大坝变形预报的神经网络极限学习方法

针对大坝变形具有强非线性的特点以及在采用传统BP神经网络模型进行预报时存在学习速度慢、易陷入局部极小等问题,提出将极限学习机(ELM)方法用于大坝变形预报。该方法不仅可以简化网络参数选择过程,而且可以明显提高网络的训练速度,并具有良好的泛化性能。工程实例结果分析表明了ELM方法应用于大坝变形预报具有可行性和有效性。

基于自适应投影学习算法的RBF神经网络多用户检测方法

自适应投影学习算法是一种简单有效的构造和训练径向基函数神经网络的方法,该方法能迭代地确定径向基函数的个数,中心的位置以及网络的权系数。本文将基于自适应投影学习算法的径向基函数神经网络应用于CDMA系统多用户检测,仿真表明:这种方法对远近问题不敏感,具有良好的误码率性能和抗多址干扰性能。

一种基于多目标的自组织神经网络学习方法

自组织神经网络又称为无教师指导学习网络 ,可以自动地从环境中学习、获取知识 ,从而具有较强的自适应能力 .目前 ,自组织神经网络在图象理解、模式识别、智能机器人控制等领域得到越来越广泛的应用 .但是 ,由于目前大部分自组织神经网络都采用单准则无教师指导学习方法 ,从而导致了神经网络学习效率低等问题 ,这在一定程度上影响了自组织神经网络更加广泛的有效应用 .为此 ,本文提出了一种基于模糊熵准则和误差平方和准则的多目标 (准则 )自组织神经网络学习算法 ,该算法可以克服单准则无教师指导学习方法所存在的局限性 ,实验结果表明 :该算法是有效的 ,并且较其它自组织神经网络学习方法 ,无论在学习效率上、还是在网络优化上 。

基于互补遗传算子的前馈神经网络三阶段学习方法

论文提出了一种新的基于互补遗传算子的前馈神经网络三阶段学习方法。该方法把神经网络的学习过程分为三个阶段。第一阶段为结构辨识阶段,采用遗传算法进行神经网络隐层节点数目的选择和初始参数的设定,并基于发现的遗传算子的互补效应设计高效互补遗传算子。第二阶段为参数辨识阶段,采用效率较高的神经网络算法如L-M算法进行神经网络参数的进一步学习。第三阶段为剪枝阶段,通过获得最小结构的神经网络以提高其泛化能力。在整个学习过程中,学习过程的可控性以及神经网络的逼近精度、复杂度和泛化能力之间得到了满意平衡。仿真试验结果证明了该方法的有效性。

基于神经网络多项生命特征的脓毒症预测方法

针对缺乏ICU诊断条件的受伤患者,无法提前预测脓毒症感染风险的问题,提出了一种基于多项生命特征的神经网络(深度神经网络,CNN-LSTM)建立脓毒症预测模型的方法。为了解决数据严重不平衡的问题,引入了CLASS_WEIGHT技术。该模型使用医院ICU病患数据集进行训练和测试,与传统医学诊断得分制(例如SIRS、SOFA等)以及早期用于预测脓毒症的机器学习方法进行了比较。在AUROC评分指标上,该模型取得了较高的得分,表明该方法是有效和可行的。

基于经典深度卷积神经网络算法的火灾图像识别方法

基于4种经典深度卷积神经网络(DCNN)算法模型,在火灾图像识别方面进行了应用实践。建立火灾图像数据集,使用Tensorflow框架搭建训练环境,比较4种算法模型在训练和识别过程中的差异性。结果表明:SqueezeNet算法具有训练时间短、模型文件小等优点,但训练精度较其他算法有所降低;Inception算法综合表现好,具有较高的准确率和中等的训练时间,而且收敛速度快;4种DCNN算法对多数火灾场景的识别准确率较高,但在对非火灾场景的抗干扰性方面存在较大提升空间。