一种能简化复杂分类问题的矩阵模块神经网络分类器

主要针对大训练集和类别非对称训练集等复杂分类问题提出一种基于新的任务分解技术的矩阵模块神经网络分类系统,它将一个复杂分类任务分解为多个简单的子任务来解决,每个子任务只是在两个子空间内进行,且由一个具有简单结构的神经网络模块来完成;所有网络模块将组成一个神经网络矩阵,最终将该神经网络矩阵的输出矩阵集成得到最终分类结果.本文通过理论分析和模拟实验证明,该矩阵模块神经网络能节省神经网络的学习时间,提高泛化能力和分类精度.

基于模块神经网络的非线性降雨径流模拟研究

针对流域水文系统的复杂性和非线性,利用人工神经网络(ANN)建立了一种混合非线性模型来精确模拟降雨径流。针对一般人工神经网络存在不能有效地处理先验知识和其他来源数据、处理较大数据集时耗时长、CPU消耗高以及处理较小数据集时精度低等问题,在多层感知器(MLP)的基础上引入模块神经网络(MNN)。模块神经网络具有独立的拓扑结构,可以有效地处理降雨径流中具有复杂空间关系的参数。结果表明,对比人工神经网络,模块神经网络模拟降雨径流耗时更短,精度更高。

基于相似性最优模块神经网络的股票预测

该文提出一种最优模块化神经网络的模型.BP网络存在学习后面的样本而"遗忘"前面的样本,以及训练速度很慢的问题,但具有泛化能力强的优点,同时网络的结构不会随数据增加而变的庞大.而RBF网络随着输入维数增加其隐藏层的神经元个数呈指数增加,并且其泛化能力不强,但RBF网络具有训练速度比较快,逼近效果好等优点.于是提出最优模块化神经网络的模型,综合BP和RBF网络的优点.使学习样本能力,运算速度,网络规模得到改善.该模型适合于较多的样本训练.

基于注意力模块化神经网络的城市固废焚烧过程氮氧化物排放预测

氮氧化物(nitrogen oxides,NO_(x))浓度的实时精准检测是实现脱硝过程闭环控制的前提,对提高城市固废焚烧(municipal solid waste incineration,MSWI)过程脱硝效率具有重要意义。为此,提出了一种基于注意力模块化神经网络(attention modular neural network,AMNN)的MSWI过程NO_(x)排放预测方法。首先,模拟脑网络“分而治之”处理复杂任务的特性,利用模糊C均值(fuzzy C-means,FCM)聚类算法将待预测任务划分为多个子任务,从而降低预测任务复杂度;其次,针对各子任务,设计一种自组织模糊神经网络(self-organizing fuzzy neural network,SOFNN)构建子模型,通过神经元增删机制和二阶学习算法提高子模型的学习效率和学习精度;然后,提出了一种基于注意力机制的子模型整合策略,进一步提高预测模型的泛化性能;最后,通过基准实验Mackey-Glass时间序列预测和北京某MSWI厂实际数据验证了AMNN的可行性和有效性。

基于自组织模块化神经网络的污水处理过程出水参数预测

针对城市污水处理过程关键出水水质一些参数难以在线测量的问题,提出了一种基于经验模态分解(EMD)的自组织模块化神经网络(MNN)出水参数软测量模型。首先设计一种基于EMD的任务分解方法,将复杂的时间序列分解为若干子序列,并采用样本熵和欧氏距离分别计算子序列的复杂性及相似性,自适应调整子网络模块。然后针对子网络模块初始结构难以确定的问题提出一种前馈神经网络的结构自组织算法,实现子网络模型根据分配的子任务动态调整自身网络结构,更有效地对各子序列进行预测。最后通过基准时间序列预测和实际污水处理厂中出水水质参数检测实验验证了所提出的模型具有较好的预测精度和自适应性。

注意力改进的动态自组织模块化神经网络结构设计及应用

针对混沌时间序列的复杂性和非线性特点,提出了一种专注于此类挑战的新型神经网络模型,即注意力改进的动态自组织模块化神经网络模型(ADAMNN)。该模型基于分而治之的思想,通过注意力机制计算不同子网络与输入数据的相似度,并利用层次聚类自适应地划分子网络。随后,采用基于层次聚类的动态生长机制,对子网络簇进行增减,最后通过激活的子网络簇对输入样本进行在线学习;同时,结合传统的集成输出方法,提出了一种基于注意力机制的子网络加权集成输出方法。最终分别在Mackey-Glass时间序列、M-G快时变时间序列、非线性系统辨识、煤矿开采过程中在瓦斯浓度数据集上进行了实验,ADAMNN展现出了实时更新子网络中心、动态构建子网络簇的能力,而且与基于欧几里得空间的动态自适应模块化神经网络相比,预测准确度提高了约40%。

融合注意力机制和卷积神经网络的电网暂态电压稳定评估及可解释性分析

提升复杂多变运行场景下电网稳定评估的时效性和准确性,提出一种融合注意力机制和卷积神经网络(convolutional neural network,CNN)的暂态电压稳定评估及可解释性分析方法。首先,采用卷积块注意力模块(convolutional block attention module,CB AM)提升传统CNN的特征捕获能力,考虑模型特性和网络结构设计CBAMCNN组合模块。其次,建立基于CBAM-CNN的电网暂态电压稳定评估模型,揭示运行工况多变场景下系统关键电气量和稳定状态之间的映射关系。最后,基于沙普利值加性解释(Shapley additive explanations,SHAP)理论提出数据驱动模型评估结果的可解释性分析框架,提炼影响样本稳定状态的主导特征,评估各输入特征量对模型输出结果的贡献程度。在典型受端电网仿真系统中验证了所提稳定评估方法的准确性和可解释性分析方法的有效性。

基于模块化神经网络的动态联盟伙伴优化选择

动态联盟的关键问题是伙伴选择问题。本文构造了动态联盟伙伴选择问题的数学模型,提出了一种基于模块化神经网络的动态联盟伙伴选择的优化方法,实现了动态联盟伙伴的优化选择。

面向心血管疾病的自适应模块化神经网络预测模型

随着计算机科学技术的发展,将计算机技术应用在医疗方面进行疾病预测已经成为当前研究的热点.针对单一全互连前馈神经网络难以应对心血管疾病预测时的多维数据,并且参数和结构设计需要人工实验确定,泛化收敛的能力差等问题,本文提出一种自适应模块化神经网络结构模型(AMNN).首先,对训练数据集采用概率密度峰值聚类算法确定训练数据集的聚类中心,以此确定每个模块的训练样本集,然后每个模块采用训练BP神经网络算法,该算法可以利用分配来的训练样本数据自适应构建模块结构.实验结果表明,该模型相对标准的随机森林算法和传统单一全互连前馈神经预测心血管疾病准确率高,收敛速率快.

层次模块化神经网络新方法研究

多个神经网络组成的系统有两种工作方式:其一是通过训练多个神经网络,以协同或竞争的方式来构建学习系统解决同一问题;其二则是将复杂问题分解成若干简单问题而后进行处理。应用分而治之的思想提出了一种层次模块化神经网络新方法———三层结构的模块化神经网络HMNN(HierarchicalModularNeuralNetwork)模型,在提高算法性能方面有一定优势,对比实验研究也表明该算法有效地提高了系统的泛化能力和算法稳定性。

基于梯度的并行协作模块化神经网络体系结构

该文提出了一种基于梯度的并行协作模块化神经网络的体系结构 (GPCMNN) .它通过分解模块 ,根据梯度方法对学习样本空间自动分解 ,由子空间识别模块和子任务模块实现各子样本空间的识别和学习 ,集成模块将子样本空间结果集成得系统的输出 ,实现了复杂任务的自动分解、判定和模块化训练策略 .实验表明 ,该文提出的GPCMNN体系结构是可行的、有效的 ;与非模块化神经网络技术相比 ,提高了训练速度 ,改善了网络性能 .它具有高效并行的运行效率、便于硬件实现等特点 ,同时又保持了PCMNN[7] 算法的优点 ,改进了它的不足 .

层次模块化模糊神经网络在铝电解故障诊断中的应用

目的针对铝电解故障发生机理及特点,提出采用层次模块化模糊神经网络实现对铝电解故障快速、有效检测的新方法.方法利用数据处理子模块,诊断子模块,决策子模块,从而对铝电解生产过程中的故障进行诊断.结果数据处理子网络实现了对数据的特征提取,优化了数据结构,将大结构的神经网络分解成多个小网络,并用决策神经网络对故障进行模式分类.结论该方法优化了大结构神经网络的学习性能,提高了故障检测的准确率,具有良好的实用价值.

模块化神经网络子网的动态集成方法学研究

提出一个模块化神经网络的广义定义,它包含了几乎所有多神经网络(系统)。简要分析了模块化神经网络子网集成的相关概念和问题。针对一类模块化神经网络,提出了5种基于"分而治之"原理和自适应组合的新型动态集成方法。它们之间的主要区别在于:距离测度(绝对距离测度和相对距离测度);个体数目(有些全部参与集成,有些则是部分参与);集成策略和规则(数据驱动和数据/知识驱动)。仿真实验证实了这些方法的有效性。同时,还提出了一种基于"一专多能"思想的子网训练方法。

基于模块化神经网络的铁水硅含量预测系统

目的提出基于模块化神经网络的铁水硅含量预测方法,改善系统控制性能指标.方法采用模块化神经网络预测控制策略,建立模块化神经网络预测模型,按输入物理量的性质构成4个神经网络模块,再由预测神经网络输出铁水硅含量的预测值,从而控制炉温.结果提高了学习效率和泛化能力,有效地改善了模型的预测精度.结论模块化神经网络铁水硅含量预测模型,将同类量进行了模块划分,通过对铁水硅含量预测,可提高炉温的控制精度和动态跟踪能力,具有结构简单、实时性好、预测精度高等特点.

基于模块化神经网络的轴承故障判断方法

提出了一种用于滚动轴承类故障识别的混合模块化神经网络方法 .该方法将用于检测故障的过滤网络模块与用于分类的网络模块相组合 .首先将不同故障类别轴承的振动信号形成的特征向量经过滤模块 ,用改进的BP算法判断有无故障 ,然后经分类网络模块确定其所属故障类型 .分类模块中的网络结构则通过对每类故障独立训练形成 .实验结果证明 ,与单一神经网络学习及判断结果相比较 ,本文提出的方法准确率更高 。

多层自适应模块化神经网络结构设计

针对单一全互连前馈神经网络难以应对复杂问题及模块化神经网络应用时其结构难以确定的问题,该文基于脑式信息处理是采用无监督学习-半监督学习-监督学习的学习机制以及大脑是由多个功能模块组成,每个功能模块中又包含多个子模块,大脑对信息的学习是有目的的选择不同功能模块中多个子模块协同学习的事实,提出一种多层自适应模块化神经网络结构设计方法.其实质是首先对所有的训练数据采用概率密度峰值快速聚类算法确定训练数据的聚类中心,以此确定模块化神经网络中功能模块的个数,其次采用条件模糊聚类实现对每个功能模块中子模块的划分并确定每个子模块的训练样本集;对功能模块中的每一个子模块采用训练误差峰值构造RBF网络的增长算法,该算法能根据分配来的训练样本自适应构建子模块结构;在子模块集成方面,采用基于距离测度的子模块集成方法,该方法能从不同的功能模块中选择不同的子模块对训练样本协同处理.该文提出的模块化神经网络结构设计方法只需要2个人工参数且学习速度提高了近10倍,在一定程度上实现了神经网络的黑箱效应.最后,文中基于人工数据集的复杂函数拟合问题、双螺旋分类问题以及真实数据集的回归问题进行了实验,并与当前国际流行的网络结构进行了对比,结果显示文中提出的模块化神经网络网络结构解决了全互连RBF网络难以应对的复杂问题,而且学习精度高,学习速度快,最终网络的泛化性能强.

基于模块化神经网络的汽车轮胎接触面压力模型

针对汽车轮胎与路面接触面压力测量问题,提出了一种基于模块化神经网络的轴载、胎压与接触面压力的关系模型.该模型首先将样本进行模糊聚类,针对不同的轴载、胎压信息,构造基于距离测度的隶属函数,通过模糊判别实现该信息子网络的在线选择,提高神经网络对信息处理的自适应性.对合肥市某公路的轴载检测样本的测试结果表明,基于模块化神经网络的接触面压力模型在精度上优于经验模型,环境适应性也有一定程度提高.

遗传模块化神经网络的航空高光谱赤潮监测

研究对航空高光谱赤潮图像进行快速、准确地识别问题。传统单一BP网络在解决航空遥感高光谱图像大数据量问题时网络结构复杂、训练时间长、识别速度低。针对大数据量快速分析的需求,提出了一种集成结构的遗传模块化神经网络的航空高光谱赤潮识别方法。首先对学习任务进行划分,通过i/j分类方法组建训练样本集。然后,每个子神经网络模块仅仅针对特定小区域进行训练,为了避免传统BP网络在选择网络结构及参数时仅凭经验或反复大量实验的缺点,采用自适应遗传算法对网络结构及参数进行了优化。最后,通过模糊隶属度将分块学习的模块化神经网络进行集成。实验证明这种可以快速有效地对赤潮进行监测,为设计提供依据。

一种基于模块化神经网络的场强预测方法

接收信号场强预测对无线通信网络的设计与规划非常重要.为此,提出了一种基于模块化神经网络的场强预测模型.对于给定的区域,选取一定数量的接收样本点,根据接收信号场强数据的分布特点,使用K均值(K-Means)聚类方法对全部样本点聚类,以实现对输入样本空间的分解,并建立对应的子神经网络模块.以某学校宿舍区域为例,选取了训练集和测试集样本点,通过对比单一神经网络模型和模块化神经网络模型的预测误差,发现模块化神经网络的预测结果优于单一神经网络,证明了所提出模型的有效性.

基于模块化回声状态神经网络光伏发电量预测

针对光伏发电的不确定性、间歇性给电力系统并网运行带来的安全问题,提出了一种基于模块化回声状态网络模型对发电量进行预测。首先利用模块化神经网络按季节建立预测子模型,再将子模型按相同日类型进行数据划分后,与平均气温一同作为样本,利用回声状态网络对子模型进行训练和发电量预测,最后集成输出结果。结果表明:此预测模型在日类型相同时预测误差较小,而在日类型不同时预测误差较大,但与ESN和BP预测模型相比均具有更高的预测精度和更快的预测速度。