基于多层局部回归神经网络的多变量非线性系统预测控制

以罐式搅拌反应器为例 ,针对复杂多变量系统的强耦合性、非线性、时变性等问题 ,研究了多变量非线性系统的预测控制及改善控制性能的方法 .采用多层局部回归神经网络离线建立预测模型 ,以偏差补偿和模型修正相结合的方式对预测模型进行误差补偿 ,经在线校正用于预测控制 .通过对性能指标中的偏差项负指数加权 ,进一步改善预测控制性能 .仿真结果表明了控制算法的有效性 .

多层局部回归神经网络在激光陀螺捷联惯导系统惯性敏感器误差补偿中的应用

惯导系统误差补偿技术对提高武器装备的性能具有重要的意义 ,而误差补偿的关键在于误差模型的辨识。探讨将多层局部回归神经网络引入到惯性敏感器误差建模中 ,详细介绍了网络结构和对应的自适应动态梯度算法。仿真算例说明 ,多层局部回归神经网络在惯性敏感器输出误差建模时具有一定的优点 :网络收敛速度快、较好的跟踪性能、稳定性好。

多元线性回归模型与多层感知器神经网络在铀矿测井泥质含量预测中的应用

在铀矿资源勘探工作中,泥质含量的测定对于确定地下岩层的性质和砂岩型铀矿床的分布具有重要意义。文章旨在避免常规测井解释计算方法受到希尔奇系数选取准确性的限制,提出了利用多元线性回归模型和多层感知器(MLP,Multilayer Perceptron)神经网络对测井数据进行分析与预测的方法。通过选取某地区的测井数据,采用多元线性回归模型和MLP神经网络进行了泥质含量关系模型的构建和验证。结果显示,多元线性回归模型在泥质含量低层位出现过拟合现象,而MLP神经网络则表现出更高的预测准确性,MLP神经网络在泥质含量预测中优于传统多元线性回归模型,为铀矿勘探中泥质含量的准确预测提供了有效工具,并有望改进现有的泥质含量评价方法。这些研究成果可显著提升测井解释的效率和准确性,对后续铀矿勘探开发工作的开展具有积极影响。

基于MLP神经网络的中国南方地区多因子PWV预测模型

针对利用全球导航卫星系统(global navigation satellite system,GNSS)反演高精度大气可降水量(precipitable water vapor,PWV)时需要获取大气加权平均温度(Tm)从而影响结果精度的问题,在充分探究PWV与对流层天顶湿延迟(zenith wet delay,ZWD)等诸多因子相关性的基础上,利用中国南方地区40个探空站在2015—2017年的探空数据,基于多层感知器(multi layer perceptron,MLP)神经网络及多元回归拟合算法分别建立预测PWV的MLP模型、线性回归(linear regression,LR)模型与非线性回归(non-linear regression,NLR)模型。为充分探究2种建模方法对PWV精度的影响,利用2018年探空数据为参考值进行模型精度检验,并与传统PWV预测模型(PWV-SC2模型)进行精度对比分析。结果表明:MLP模型的年均均方根误差(RMSE)、偏差(bias)和相对误差(RE)分别为0.66 mm、0.06 mm和2.18%,相比LR模型和NLR模型年均RMSE分别降低了0.11 mm(14.6%)和0.17 mm(20.5%),年均bias分别降低了0.04 mm(43.7%)和0.28 mm(82.3%),年均RE分别降低了50.7%和57.3%;相比PWV-SC2模型,年均RMSE和bias分别降低了0.17 mm(20.5%)和0.15 mm(71.4%),年均RE降低了47.7%。因此,MLP模型在中国南方地区有较好的精度及适应性,可应用于中国南方地区高精度PWV预测。

多层局部感知卷积神经网络的高光谱图像分类

针对高光谱图像分类中光谱特征的高度非线性问题,提出一种基于多层感知器卷积层和批标准化层的改进卷积神经网络模型,提高模型在光谱域处理的非线性特征提取能力. 该算法通过构建七层网络结构,实现多层局部感知结构,逐个像素对光谱信息开展分析,区分不同目标物的光谱信息,将全光谱段集合作为输入,舍去空间信息,利用动量梯度下降训练算法对多层局部感知卷积神经网络训练,实现对不同目标物体光谱特征的提取与分类. 实验中,采用两组高光谱遥感影像进行对比分析,以Pavia University数据集为例,在3 600个训练样本情况下,测试集为1 800个样本,本文方法正确率为90.23%,LeNet-5正确率为87.94%,Linear-SVM正确率为90.00%;在21 000个训练样本情况下,测试集为全部样本,本文方法正确率为97.23%,LeNet-5正确率为96.64%,Linear-SVM正确率为92.40%. 实验结果表明,在训练集较小的情况下,本文方法优于传统神经网络,能有效提取数据特征,并且在精度上和计算成本上略优于在小样本分类中具有高效和鲁棒性良好的SVM算法. 在大规模训练集时,本文方法表现出良好的学习能力,在分类精度上优于LeNet-5. 本文提出的多层局部感知网络结构增强了对非线性特征的学习能力,无论训练集规模大小,都比传统的SVM和一般的深度学习网络更能有效的利用高光谱图像中的逐像素点的光谱域信息,能有效提高分类精度.

基于Logistic回归和多层神经网络的Ⅱ型糖尿病并发症预测

研究了Ⅱ型糖尿病并发症的预测。针对相关诊断指标众多,直接应用传统的神经网络等模型预测,会带来无法适应多种并发症、运算速度较慢及预测准确率偏低等问题,提出了基于Logistic回归和多层神经网络(MNN)的Ⅱ型糖尿病并发症预测模型。该模型首先应用关联性分析,提取与5种不同Ⅱ型糖尿病并发症相关的诊断指标,经Logistic回归模型等分析得到强相关因子,作为预测模型的输入,再运用Python,构建基于多层神经网络的预测模型。实验结果表明,全血糖化血红蛋白测定,尿胆原定性实验指标,尿素和尿红细胞与绝大部分Ⅱ型糖尿病并发症直接相关。Logistic回归结合多层神经网络预测准确率高于单一Logistic回归模型,预测准确率基本保持在85%的水平上,对某些并发症的预测准确率达到90%以上,可以达到为Ⅱ型糖尿病并发症预测提供科学参考的目的。

局部回归神经网络在水下机器人运动控制中的应用

探讨了水下机器人神经网络运动模型的结构 ,提出了带有局部回归结构的水下机器人神经网络控制器结构及预测控制的实现方法 ,给出了该神经网络的教师样本生成方法及学习方法 ,计算机仿真与水池实验结果验证了本文提出方法的有效性和可行性。

一种局部回归神经网络的在线学习算法

针对目前局部回归神经网络误差函数在线计算复杂的缺陷,利用信号流图(SFG)基本理论,通过分析信号流图(SFG)和转置信号流图(ASFG),将神经网络的误差导数的信号流图(SFG)和转置信号流图(ASFG)分别级联在原始信号流图(SFG)和转置信号流图(ASFG)上,构成单输出自回归神经网络.依据因果非线性时变系统流图计算仅仅与网络拓扑结构有关的理论,推导了一种与网络结构无关的在线后向BP学习算法,较好地解决了对任意结构的局部回归神经网络的在线学习问题.仿真结果表明了本算法的有效性.

基于广义回归神经网络的油气层识别模型

油气层的准确识别对油气藏的勘探与开发具有重要的指导意义。针对油气勘探中油气层识别难的问题,提出了一种基于广义回归神经网络(GRNN)的油气层识别模型。采用该模型对大庆油田某油井的测井数据进行了仿真实验,并与采用BP网络识别油气层的测试结果进行对比。结果表明GRNN具有结构设计简单和收敛快的优点,预测能力强,说明采用GRNN进行油气层识别具有广阔的应用前景。

基于MATLAB的广义回归神经网络的低渗特低渗砂岩气层产能预测

目前我国新发现的天然气田,有60%的天然气储量分布于低渗特低渗砂岩气田中,该类气田储量大,但储量风度低;产能低,产能变化大。由于低渗特低渗砂岩气层的产能受地层岩性、沉积微相、物性、孔喉结构、非均质性、油气充注和含气性等多种地质因素的复杂影响,导致产能预测与实际结果有较大的误差,严重影响后期的开发决策。广义回归神经网络(GRNN)本身具有很强的非线性映射能力,能逼近任意类型的函数。运用广义回归神经网络,综合地质、测井参数,并组合测井参数,敏感性分析,建立预测模型,对气层产能进行预测,取得相对较为满意的结果。

多元回归和神经网络在多影响因素下优选压裂候选井层中的应用

针对乌里雅斯太凹陷储层非均质性强、隔层遮挡性差、压裂井投产后效果相差悬殊,优选增产效果好的候选井层难的特点,本文提出了利用多元回归和神经网络优选待选压裂井层的方法。根据前期压裂井的有效资料,选择了对压裂效果影响较大的9个因素作为基本参数,建立了压裂井层的数据库。计算结果表明:多元线性回归不能满足优选压裂井层的需要;二次回归和神经网络方法能够满足选井选层的非线性问题,两者拟合误差均为0,预测误差平均值为0.57%和0.47%,能够满足工程的需要。

基于多重局部回归Elman神经网络的短期负荷预测

针对传统静态前馈神经网络动态性能较差的缺点,提出了多重局部回归的Elman神经网络,建立了网络的基本结构,并设计了相应的学习算法和学习过程。通过对负荷原始数据的归一化处理,提出将训练数据分段的思想,并利用分段数据对多重局部回归的Elman网络进行训练,通过对收敛曲线和训练误差的分析,确定合适的网络神经元个数和网络训练步数,最后利用实际负荷数据对网络进行了检验。结果表明,改进多重局部回归Elman神经网络比传统Elman神经网络具有更高的预测精度。

基于广义回归神经网络的特高频局部放电定位法

局部放电的检测和定位是变电站电力设备状态监测和诊断的重要手段。现有的基于时差法的特高频局部放电定位技术,由于高昂的设备成本限制了其应用范围。提出的基于广义回归神经网络和接收信号幅值强度(RSSI)指纹图的局部放电定位法,分为2个阶段。在算法的离线阶段,建立被测区域的RSSI指纹图;在线阶段,利用广义回归神经网络(GRNN)实现对局部放电源的定位。现场测试表明:提出的方法平均定位误差为0.51 m,定位误差小于1 m的累积概率为81.6%。和基于RSSI信号衰减模型定位法的克拉美罗下界(CRLB)最小均方误差相比,均方误差小于0.6 m2的GRNN定位误差累积概率为66.7%,要优于基于信号衰减模型定位方法的CRLB。该方法解决了传统方法定位精度低、成本高的缺点,具有较低的硬件成本和良好的环境适应性。

一种局部回归神经网络的快速算法

针对目前局部回归神经网络动态ＢＰ算法的误差导数计算复杂、收敛速度慢的缺陷，提出了一种新的快速算法．该算法是将信号流图引入动态ＢＰ算法，较好地解决了求解误差导数的复杂性，同时采用ＢＦＧＳ算法加快了网络的收敛速度．仿真结果表明了本算法的有效性．

反向传播的多层前馈神经网络和多元回归对合理住院费用预测效能的比较

目的应用两种机器学习算法预测护理院合理住院费用,比较预测效能,辅助医疗保险监管住院费用。方法基于上海市2016—2018年病案首页数据库,选取护理院脑梗死后遗症相关数据给临床医生进行人工标记,应用多元回归和反向传播的多层前馈神经网络对标记为合理的数据建模,构建合理费用预测模型,并比较模型的预测效能。结果两种算法在训练集和测试集上均有较好的预测效能,训练集结果略优于测试集,反向传播的多层前馈神经网络的预测效能优于多元回归。其中,多元回归模型在测试集的决定系数(R2)为0.3,多层前馈神经网络模型在测试集的决定系数(R2)为0.4。结论两种机器学习算法能较好地预测护理院合理住院费用;相较多元回归,反向传播的多层前馈神经网络有更好的预测效能。可用于相关医疗保险控费管理者的决策参考,从而达到引导医疗行为、提升医疗保险基金使用效率的效果。

多变量系统基于回归神经网络的预测控制

以罐式搅拌反应器为例 ,研究多变量系统基于神经网络的预测控制及改善控制性能的方法 .针对复杂多变量系统难以建模的问题 ,采用多层局部回归神经网络离线建立其预测模型 .在反馈校正中 ,考虑到控制准确性和实时性的要求 ,采用偏差补偿和模型修正相结合的方式修正神经网络的预测输出 .实验中 ,研究了改善控制性能的方法 ,得出 :对性能指标中的偏差项负指数加权 ,可大大加快系统的动态响应过程 ,并在一定程度上减少系统超调 .仿真结果表明控制算法有效 .

基于改进卷积神经网络的遥感图像目标检测方法

为了提高遥感目标检测的稳健性和准确性,基于低层特征检测器,增加了1个改进型卷积神经网络(CNN)框架。首先,利用支持向量回归(SVR)对遥感目标进行初步分类,将检测出的目标信息作为CNN框架的输入。然后,对CNN框架进行优化,通过模块扩展的方式纳入更深的模块。为了使得分类器对亮度变化具有更好的稳健性,在特征向量分类之前增加正则化层(RL)。同时,为了提升目标检测的准确性,增加1个欧拉变换层(ETL),作为类别间的分离度量。使用来自CIFAR-10和MNIST数据集中的图像,与定向梯度边缘直方图(E-HOG)方法、基于生成式对抗网络(GAN)的检测方法、基于二值与浮点数混用方法的语义分割网络(MBU-Net)相比较,仿真结果表明:该文方法的精度和F1得分更高,且标准偏差也更低;该文方法的运行时间接近于一般CNN方法;利用该文方法在测试集的卫星图像中进行目标建筑物检测,模块化CNN可以与基于特征的算法实现互补。

基于混沌-广义回归神经网络的矿井涌水量预测

针对矿井涌水量预测研究中存在的相关影响因素考虑较少、模型预测精度不高和适用性不强的问题,建立了混沌理论与广义回归神经网络耦合的新的预测模型(Chaos-GRNN模型)。从理论上分析了矿井水文系统产生混沌现象的机理;由混沌理论得到涌水量序列相空间重构后的嵌入维数、时间延迟和最大Lyapunov指数,以此确定GRNN的输入层神经元个数、取值和预测时长;采用交叉验证法获得GRNN的光滑因子,建立Chaos-GRNN模型;对平煤十二矿涌水量(2014年1月至2015年12月)进行模型验证。结果表明:矿井水文系统演化过程的循环迭代是产生混沌的根本原因,其表象特征为演化过程的不可逆性、非平稳性和演化结果的多样性;平煤十二矿涌水量时间序列具有混沌特征,其嵌入维数m=7,即涌水量的影响因素为7个,GRNN输入层神经元个数为7;时间延迟τ为13个月,由此确定了GRNN输入层神经元的取值;最大Lyapunov指数为0.0530,确定了GRNN预测时长为19个月;Chaos-GRNN模型预测精度达到了94.98%。该预测模型利用混沌理论量化了广义回归神经网络的输入层和预测时长,充分考虑了矿井涌水量的影响因素,提高了预测精度和适用性。

前向神经网络:一个新的非参数回归方法

从统计建模的观点,前向神经网络可以看作是一个新的非参数回归方法.通过模拟例子和实际例子对前向神经网络和局部多项式光滑方法的有限样本行为进行了对比,结果表明前向神经网络稍微优于局部多项式光滑方法.此外,对前向神经网络的优点和存在的问题进行了深入讨论.

多层前向神经网络的自适应禁忌搜索训练

针对BP算法属于局部优化算法的不足,提出了一种新的全局优化算法——自适应禁忌搜索作为前向神经网络的训练算法。该算法通过邻域和候选集的相互配合,动态地调整候选集中分别用于集中性搜索与多样性搜索的元素个数,提高了算法运行的质量和效率。以经典的异或问题(XOR)为例,进行了对比研究。实验结果表明,该算法与BP算法相比明显提高了网络的收敛概率和收敛精度。