基于注意力模块化神经网络的城市固废焚烧过程氮氧化物排放预测

氮氧化物(nitrogen oxides,NO_(x))浓度的实时精准检测是实现脱硝过程闭环控制的前提,对提高城市固废焚烧(municipal solid waste incineration,MSWI)过程脱硝效率具有重要意义。为此,提出了一种基于注意力模块化神经网络(attention modular neural network,AMNN)的MSWI过程NO_(x)排放预测方法。首先,模拟脑网络“分而治之”处理复杂任务的特性,利用模糊C均值(fuzzy C-means,FCM)聚类算法将待预测任务划分为多个子任务,从而降低预测任务复杂度;其次,针对各子任务,设计一种自组织模糊神经网络(self-organizing fuzzy neural network,SOFNN)构建子模型,通过神经元增删机制和二阶学习算法提高子模型的学习效率和学习精度;然后,提出了一种基于注意力机制的子模型整合策略,进一步提高预测模型的泛化性能;最后,通过基准实验Mackey-Glass时间序列预测和北京某MSWI厂实际数据验证了AMNN的可行性和有效性。

注意力改进的动态自组织模块化神经网络结构设计及应用

针对混沌时间序列的复杂性和非线性特点,提出了一种专注于此类挑战的新型神经网络模型,即注意力改进的动态自组织模块化神经网络模型(ADAMNN)。该模型基于分而治之的思想,通过注意力机制计算不同子网络与输入数据的相似度,并利用层次聚类自适应地划分子网络。随后,采用基于层次聚类的动态生长机制,对子网络簇进行增减,最后通过激活的子网络簇对输入样本进行在线学习;同时,结合传统的集成输出方法,提出了一种基于注意力机制的子网络加权集成输出方法。最终分别在Mackey-Glass时间序列、M-G快时变时间序列、非线性系统辨识、煤矿开采过程中在瓦斯浓度数据集上进行了实验,ADAMNN展现出了实时更新子网络中心、动态构建子网络簇的能力,而且与基于欧几里得空间的动态自适应模块化神经网络相比,预测准确度提高了约40%。

基于自组织模块化神经网络的污水处理过程出水参数预测

针对城市污水处理过程关键出水水质一些参数难以在线测量的问题,提出了一种基于经验模态分解(EMD)的自组织模块化神经网络(MNN)出水参数软测量模型。首先设计一种基于EMD的任务分解方法,将复杂的时间序列分解为若干子序列,并采用样本熵和欧氏距离分别计算子序列的复杂性及相似性,自适应调整子网络模块。然后针对子网络模块初始结构难以确定的问题提出一种前馈神经网络的结构自组织算法,实现子网络模型根据分配的子任务动态调整自身网络结构,更有效地对各子序列进行预测。最后通过基准时间序列预测和实际污水处理厂中出水水质参数检测实验验证了所提出的模型具有较好的预测精度和自适应性。

模块化模糊神经网络的数值预报产品释用预报研究

综合应用预报量自身时间序列的拓展,数值预报产品和模块化模糊神经网络方法,进行了一种新的数值预报产品释用预报研究。将这种新方法与常规的数值预报产品完全预报(PP)方法进行了对比试验。结果表明,这种模块化模糊神经网络数值预报产品释用预报方法比PP预报方法的预报精度显著提高。并且,通过对预报模型“过拟合”现象的研究发现,这种模块化模糊神经网络的数值预报产品释用预报模型具有很好的泛化性能。

模块化神经网络的系统结构和学习算法

提出了一种基于模块化的神经网络的系统结构和学习算法,它通过用分解判定子模块对输入向量的适当分区域、由合成子网将各区域的结果合成,实现了复杂任务的自动分解判定和模块化训练策略。一般函数逼近和三维墨西哥草帽等2个实现表明,该文提出的结构和算法是可行的、有效的;与非模块化神经网络技术相比,提高了训练速度、改善了网络性能,它具有并行性高、通用性强、对新增样本易于学习、便于硬件实现等特点。

层次模块化神经网络新方法研究

多个神经网络组成的系统有两种工作方式:其一是通过训练多个神经网络,以协同或竞争的方式来构建学习系统解决同一问题;其二则是将复杂问题分解成若干简单问题而后进行处理。应用分而治之的思想提出了一种层次模块化神经网络新方法———三层结构的模块化神经网络HMNN(HierarchicalModularNeuralNetwork)模型,在提高算法性能方面有一定优势,对比实验研究也表明该算法有效地提高了系统的泛化能力和算法稳定性。

并行协作模块化神经网络体系结构

提出了一种并行协作模块化神经网络的体系结构和学习算法 ,它可实现复杂任务的自动分解判定和模块化训练策略 .实验表明 ,本文提出的体系结构和算法与非模块化神经网络技术相比 ,提高了训练速度、改善了网络性能 ,它具有高效并行运行效率、容易实现新增样本学习等特点 .

基于模块化神经网络的动态联盟伙伴优化选择

动态联盟的关键问题是伙伴选择问题。本文构造了动态联盟伙伴选择问题的数学模型,提出了一种基于模块化神经网络的动态联盟伙伴选择的优化方法,实现了动态联盟伙伴的优化选择。

基于梯度的并行协作模块化神经网络体系结构

该文提出了一种基于梯度的并行协作模块化神经网络的体系结构 (GPCMNN) .它通过分解模块 ,根据梯度方法对学习样本空间自动分解 ,由子空间识别模块和子任务模块实现各子样本空间的识别和学习 ,集成模块将子样本空间结果集成得系统的输出 ,实现了复杂任务的自动分解、判定和模块化训练策略 .实验表明 ,该文提出的GPCMNN体系结构是可行的、有效的 ;与非模块化神经网络技术相比 ,提高了训练速度 ,改善了网络性能 .它具有高效并行的运行效率、便于硬件实现等特点 ,同时又保持了PCMNN[7] 算法的优点 ,改进了它的不足 .

面向心血管疾病的自适应模块化神经网络预测模型

随着计算机科学技术的发展,将计算机技术应用在医疗方面进行疾病预测已经成为当前研究的热点.针对单一全互连前馈神经网络难以应对心血管疾病预测时的多维数据,并且参数和结构设计需要人工实验确定,泛化收敛的能力差等问题,本文提出一种自适应模块化神经网络结构模型(AMNN).首先,对训练数据集采用概率密度峰值聚类算法确定训练数据集的聚类中心,以此确定每个模块的训练样本集,然后每个模块采用训练BP神经网络算法,该算法可以利用分配来的训练样本数据自适应构建模块结构.实验结果表明,该模型相对标准的随机森林算法和传统单一全互连前馈神经预测心血管疾病准确率高,收敛速率快.

小波神经网络学习的结构风险最小化方法

针对大噪声、小样本情形下神经网络学习的外推能力弱这一突出的问题,根据统计学习理论中结构风险最小化准则的基本原理,提出了一种基于小波神经基元频率谱分布的小波神经网络阵列结构和基于小波多分辨逼近、综合风险分析的小波网络学习算法.该方法充分发挥了小波神经网络的优点,理论基础可靠,实际意义明确,算法实现简便,自适应性强.仿真实验结果和应用实例说明了该方法对于非线性系统在线辨识的有效性,同时也为统计学习理论的工程应用提供了新的途径.*

层次模块化模糊神经网络在铝电解故障诊断中的应用

目的针对铝电解故障发生机理及特点,提出采用层次模块化模糊神经网络实现对铝电解故障快速、有效检测的新方法.方法利用数据处理子模块,诊断子模块,决策子模块,从而对铝电解生产过程中的故障进行诊断.结果数据处理子网络实现了对数据的特征提取,优化了数据结构,将大结构的神经网络分解成多个小网络,并用决策神经网络对故障进行模式分类.结论该方法优化了大结构神经网络的学习性能,提高了故障检测的准确率,具有良好的实用价值.

基于模块化模糊神经网络的非线性系统故障诊断(英文)

提出一种基于模块化模糊神经网络的非线性系统故障诊断新方法 .该方法先使用模糊c 均值聚类法对测量空间进行模块分割 ,再利用模糊IF THEN规则对分割后的子空间分别采用局部BP模型进行逼近 .最后 ,通过离线学习获得不同子空间故障输出与测量输入的非线性动力特性 .试验表明该网络具有良好的泛化性能 ,可显著提高非线性系统故障检测的快速性、鲁棒性及准确率 .

基于模块化神经网络的轴承故障判断方法

提出了一种用于滚动轴承类故障识别的混合模块化神经网络方法 .该方法将用于检测故障的过滤网络模块与用于分类的网络模块相组合 .首先将不同故障类别轴承的振动信号形成的特征向量经过滤模块 ,用改进的BP算法判断有无故障 ,然后经分类网络模块确定其所属故障类型 .分类模块中的网络结构则通过对每类故障独立训练形成 .实验结果证明 ,与单一神经网络学习及判断结果相比较 ,本文提出的方法准确率更高 。

一种实现结构风险最小化思想的结构自适应神经网络模型

本文提出了一种实现结构风险最小化思想的结构自适应神经网络学习模型,该方法运用遗传算法进行神经网络结构参数的学习,运用BP算法进行神经网络内部权值学习,有效地实现了结构风险最小化思想。与传统的基于经验风险最小的神经网络模型相比,它具存更强的自适应能力,能够弥补学习方法本身的缺陷,充分保证了模型的泛化能力。最后,将本文方法应用于非线性时间序列预测和模式识别,并与基于结构风险最小原则的支持向量机学习模型进行了比较,算例充分表明了本文方法的正确有效性。

基于模块化神经网络的铁水硅含量预测系统

目的提出基于模块化神经网络的铁水硅含量预测方法,改善系统控制性能指标.方法采用模块化神经网络预测控制策略,建立模块化神经网络预测模型,按输入物理量的性质构成4个神经网络模块,再由预测神经网络输出铁水硅含量的预测值,从而控制炉温.结果提高了学习效率和泛化能力,有效地改善了模型的预测精度.结论模块化神经网络铁水硅含量预测模型,将同类量进行了模块划分,通过对铁水硅含量预测,可提高炉温的控制精度和动态跟踪能力,具有结构简单、实时性好、预测精度高等特点.

模块化神经网络子网的动态集成方法学研究

提出一个模块化神经网络的广义定义,它包含了几乎所有多神经网络(系统)。简要分析了模块化神经网络子网集成的相关概念和问题。针对一类模块化神经网络,提出了5种基于"分而治之"原理和自适应组合的新型动态集成方法。它们之间的主要区别在于:距离测度(绝对距离测度和相对距离测度);个体数目(有些全部参与集成,有些则是部分参与);集成策略和规则(数据驱动和数据/知识驱动)。仿真实验证实了这些方法的有效性。同时,还提出了一种基于"一专多能"思想的子网训练方法。

一个多层VLSI/PCB布线通孔最小化的神经网络方法

本文提出了一个基于Ｈｏｐｆｉｅｌｄ网络的ＶＬＳＩ／ＰＣＢ多层布线中的有约束通孔最小化方法。在线段交叠图模型的基础上，提出了相邻矩阵、交叠矩阵、定层矩阵等概念，利用换位矩阵，将问题映射为相应的神经网络，并构造了该问题的能量函数，从而解决了多层布线的分层及通孔最小化题。新算法还解决了多层布线分层的管脚约束问题和相邻约束问题‘实验结果表明。

多层自适应模块化神经网络结构设计

针对单一全互连前馈神经网络难以应对复杂问题及模块化神经网络应用时其结构难以确定的问题,该文基于脑式信息处理是采用无监督学习-半监督学习-监督学习的学习机制以及大脑是由多个功能模块组成,每个功能模块中又包含多个子模块,大脑对信息的学习是有目的的选择不同功能模块中多个子模块协同学习的事实,提出一种多层自适应模块化神经网络结构设计方法.其实质是首先对所有的训练数据采用概率密度峰值快速聚类算法确定训练数据的聚类中心,以此确定模块化神经网络中功能模块的个数,其次采用条件模糊聚类实现对每个功能模块中子模块的划分并确定每个子模块的训练样本集;对功能模块中的每一个子模块采用训练误差峰值构造RBF网络的增长算法,该算法能根据分配来的训练样本自适应构建子模块结构;在子模块集成方面,采用基于距离测度的子模块集成方法,该方法能从不同的功能模块中选择不同的子模块对训练样本协同处理.该文提出的模块化神经网络结构设计方法只需要2个人工参数且学习速度提高了近10倍,在一定程度上实现了神经网络的黑箱效应.最后,文中基于人工数据集的复杂函数拟合问题、双螺旋分类问题以及真实数据集的回归问题进行了实验,并与当前国际流行的网络结构进行了对比,结果显示文中提出的模块化神经网络网络结构解决了全互连RBF网络难以应对的复杂问题,而且学习精度高,学习速度快,最终网络的泛化性能强.

基于粗糙集的并行协作模块化神经网络模式分类器

该文提出了基于粗糙集的K类模式分类器的体系结构(RSPCMNNC),基于粗糙集理论提出了三个预处理算法,简化了分类器的结构,降低了学习难度,有效地避免产生过多的子网。样本空间基于最大均衡的策略来划分,保证BP算法在学习过程中的有效性。实验结果表明,该文提出的RSPCMNNC分类器显示出更高的识别率,对于实际应用中多特征模式的识别问题,具有很大的实用价值。