基于改进多隐层极限学习机的电网虚假数据注入攻击检测

虚假数据注入攻击(False data injection attacks,FDIA)严重威胁了电力信息物理系统(Cyber-physical system,CPS)的状态估计,而目前大多数检测方法侧重于攻击存在性检测,无法获取准确的受攻击位置.故本文提出了一种基于灰狼优化(Gray wolf optimization,GWO)多隐层极限学习机(Multi layer extreme learning machine,ML-ELM)的电力信息物理系统虚假数据注入攻击检测方法.所提方法将攻击检测看作是一个多标签二分类问题,不仅将用于特征提取与分类训练的极限学习机由单隐层变为多隐层,以解决极限学习机特征表达能力有限的问题,且融入了具有强全局搜索能力的灰狼优化算法以提高多隐层极限学习机分类精度和泛化性能.进而自动识别系统各个节点状态量的异常,获取受攻击的精确位置.通过在不同场景下对IEEE-14和57节点测试系统上进行大量实验,验证了所提方法的有效性,且分别与极限学习机、未融入灰狼优化的多隐层极限学习机以及支持向量机(Support vector machine,SVM)相比,所提方法具有更精确的定位检测性能.

一种新的基于Agent的神经网络隐层节点数的优化算法

本文提出了一种新的基于Agent的神经网络隐层结构的优化算法(OHA)。该方法包括两个部分,分别由RLAgent和NNAgent合作完成。RLAgent根据强化学习算法找到一个比当前节点数更优的解,并反馈给NNAgent。NNAgent据此构建相应的网络,并采用分层训练的算法对该网络进行优化,训练结果再发给RLAgent。在多次循环后,OHA算法就可以找到一个训练误差最小的全局最优解(权值及隐层节点数)。本文讨论了有关的算法、测试和结果分析。Iris数据集和危险评估数据集的测试结果表明,算法避免了盲目搜索造成的计算开销,明显改善了优化性能。

前馈神经网络隐层评测问题的研究

分析了隐层输出向量组生成的表示空间与期望输出向量组生成的目标空间.通过计算隐单元的误差补偿值,对以隐层生长方式构建网络时,每个隐单元的误差补偿性能以及隐单元性能最优的充分必要条件进行了研究.结果表明:表示空间与目标空闽维数、隐单元数目以及每个隐单元的误差补偿效率决定了前馈神经网络隐层的评测因素.最后定义了隐层品质因子、隐层有效系数、隐单元剩余度和隐层评价因子,并通过对典型前馈网络的考察,验证了该评测方法的合理性和有效性.

一种自适应确定隐层节点数的增量半监督超限学习机算法

单隐层前馈神经网络中,隐层节点个数是影响网络的学习能力和复杂程度的重要因素。在实际应用当中,如何确定网络的隐层节点个数仍然是一个开放的问题。在半监督超限学习机(SS-ELM)的基础上,本文提出了一种增量半监督超限学习机(ISS-ELM)算法,对于给定的学习精度,该算法能够逐个或者成批地增加隐层节点,并自适应确定隐层节点数量。在此过程当中,网络的外权矩阵不需要重新训练,只需逐步更新。理论分析和仿真实验表明:ISS-ELM在保持SS-ELM泛化能力的基础上,大幅提高了学习速度;此外,与另一种监督学习类型的增量超限学习机(EM-ELM)相比,ISS-ELM具有更好的泛化能力。

基于隐层生长策略的前馈神经网络隐层性能评测

针对最佳平方逼近三层前馈神经网络模型,讨论了以逐一增加隐单元方式构建隐层时隐层性能的评测方法。分析了影响前馈神经网络性能的相关空间,引入了表示空间、误差空间、目标空间和耗损空间的概念,研究了每个隐单元的误差补偿性能,提出了网络隐层性能的评测参数,并通过对传统BP算法和正交化算法的考查验证了其合理性与有效性。

BP人工神经网络隐层结构设计的研究进展

指出BP人工神经网络隐层结构的确定,尤其是隐层神经元数目的选择历来是研究的热点。针对目前解决这一问题尚缺乏严格的理论依据,设计者多凭经验而定,介绍了用来优化设计隐层结构的可行方法,纵览了现有多种设计研究成果,从而探讨了新的设计方向。分析了网络隐层结构优化问题的产生及其理论依据,对各种设计方法进行了详细的分类综述, 探讨各自的优势与不足,并对神经网络结构优化问题的研究和发展做了评述与展望。

BP神经网络用于函数逼近的最佳隐层结构

目的研究采用反向传播（ＢＰ）算法的人工神经网络用于函数逼近时的最佳隐层结构。方法以典型的ｎ输入、单输出的多层ＢＰ网为例，在几种不同的网络隐层结构下对典型的连续函数进行逼近训练，分析各网络输出的全局误差．结果含有４个隐层的ＢＰ网具有最佳的学习收敛特性和函数逼近精度，各隐层所包含的单元数应当在１０～２０个之间，收敛性最差的是单隐层网，结论用于函数逼近的最佳ＢＰ神经网络应当是一个包含４个左右隐层的多层网，且各隐层中的单元数应当适中．

一种确定神经网络隐层节点数的新方法

针对神经网络结构确定中隐层节点数确定难的问题 ,提出了一种确定神经网络隐层节点数的新方法 .本方法计算量小 ,使用方便 。

BP神经网络隐层单元数的确定方法及实例

针对BP神经网络隐层单元数不易确定的问题,提出一种在传统的经验公式基础上快速确定隐层单元数的方法。该方法首先借助经验公式确定隐层单元数的取值范围,然后将其扩大,在这个扩大的范围内寻找最优值。以BP神经网络预测交通流量为例,解释说明了具体的步骤,以及网络模型的隐层结构对模型仿真精度的影响。结果表明,采用该方法可快速决定隐层单元数,在实例中采用16个隐层单元数为最佳。

确定RBF神经网络隐层节点数的最大矩阵元法

针对基于训练样本输入信息进行非监督聚类来确定RBF神经网络隐层节点数的方法存在利用信息不充分的缺陷,该文提出了一种新的确定RBF神经网络隐层节点数的方法。利用训练样本输入输出全部信息建立样本间的相似矩阵,然后采用最大矩阵元法来确定RBF神经网络隐层节点数。实验仿真表明,该方法是有效的。

关于三层前馈神经网络隐层构建问题的研究

针对最佳平方逼近三层前馈神经网络模型 ,分析了与隐层单元性能相关的表示空间与误差空间、目标空间与耗损空间的作用 ,提出了按网络生长方式构建隐层时隐单元选择准则和评价方法 研究结果表明 :隐单元选取策略应遵循其输出向量有效分量位于误差空间、回避耗损空间和尽可能趋向于极大能量方向的原则 ,这一结果与隐单元采用什么激发函数无关 ,也允许各隐单元采用不同激发函数 网络的隐层性能评价可以通过隐层品质因子、隐层有效系数、隐单元剩余度来进行 。

结合距离变换和隐层图词包的手绘图像检索方法

随着触屏设备的广泛普及,基于手绘的图像检索技术受到了越来越多的关注.针对HOG,SIFT,RST-HELO等传统图像描述子在基于手绘图像检索领域的局限性,提出一种基于卷积神经网络构建隐层图词包特征描述子的手绘图像检索方法.首先对数据库图像提取边缘概率图;其次在边缘概率图上计算Chamfer距离变换图像,通过对距离变换图像提取隐层图词包特征构建预分类检索.在Flickr15K数据集上对文中方法进行了实验,证明基于隐层图词包特征描述子的检索效果比RST-HELO等传统方法有了显著提高;从图像预处理和特征描述子两方面对SBIR进行了改进,实验结果表明,文中方法具有更高的准确率.

扩展隐层的误差反传网络训练算法研究

为提高神经网络的预测精度,对现有的误差反传网络训练算法进行了改进。对三层误差反传网络进行了结构扩展,在训练过的三层网络中,动态增加一个具有线性激活函数的辅助隐层,形成一种新的网络扩展模型。用改进的蚁群算法对新增权值参数进行训练,着重阐述算法的实现过程及算法分析。最后,设计了一组催化剂活性预测实验,对算法改进前后的预测能力及训练误差进行了对比。结果表明,采用该模型及训练算法,可以在不影响网络表达能力的基础上提高网络的训练精度及预测精度,改善了网络的泛化能力。

隐层节点数经验公式在水库调度规则提取中的应用效果评价

隐层节点数是确定人工神经网络模型结构的重要参数,但目前尚无通用的确定方法。以水库中长期优化调度规则提取为例,选择了四种典型的隐层节点数经验确定公式,将合格率、确定性系数、平均绝对误差、指标综合占优数等作为评价指标,以全年、汛期、非汛期为统计时段,评价了各经验公式对四项评价指标的拟合和检验效果,并进行了摄动分析。结果表明,Lippmann R P公式应用效果、适应性及稳定性均较好,更适合建立水库优化调度规则提取模型。

水库优化调度ANN模型隐层节点数经验公式比较

人工神经网络(ANN)应用于水库中长期调度时,隐层节点数尚无公认的选择标准。选取常用的4种确定隐层节点数的经验公式,采用合格率、确定性系数、平均绝对误差、指标综合占优数等指标,以全年、汛期、非汛期为统计时段,选取三峡、池潭、隔河岩等3个水库为对象,评价各经验公式对不同水库的普适性及可替代性。结果表明,各经验公式对不同水库、不同时段的应用效果存在一定差异,但对发电量最大为目标的模拟调度效果相差不大,可优先考虑使用隐层节点数最少的Lippmann公式建模。

一种估计前馈神经网络中隐层神经元数目的新方法

前馈神经网络中隐层神经元的数目一般凭经验给出,这种方法往往造成隐单元数目的不足或过甚,从而导致网络存储容量不够或出现学习过拟现象.本研究提出了一种基于信息熵的估计三层前馈神经网络隐结点数目的方法,该方法首先利用训练集来训练具有足够隐单元数目的初始神经网络,然后计算训练集中能被训练过的神经网络正确识别的样本在隐层神经元的激活值.并对其进行排序,计算这些激活值的各种划分的信息增益,从而构造能将整个样本空间正确划分的决策树,最后遍历整棵树寻找重要的相关隐层神经元,并删除冗余无关的其它隐单元,从而估计神经网络中隐层神经元的较佳数目.文章最后以构造用于茶叶品质评定的具有较佳隐单元数目的神经网络为例,介绍本方法的使用.结果表明,本方法能有效估计前馈神经网络的隐单元数目.

三维编织隐层复合材料纵向模量的预测

在建立三维编织隐层复合材料代表性体积单元的基础上，通过改进经典层合板理论，推导出了复合材料的面内纵向模量预测公式．

BP网络隐层神经元数自调节算法的研究

针对传统BP算法中隐层神经元数不易选取的问题,本文提出了BP算法的改进模型———DBP(DoubleBP)网络模型.该模型可以动态自调节隐层神经元数,即通过一个给定先验知识的BP网络动态调节另一个BP网络中隐层神经元数,并且通过选取合适的权值和阈值使训练误差曲线迅速下降.解决了BP网络拓扑结构中隐层神经元个数以及新增加权值和阈值的选取问题,还对BP网络在陷入假饱和区如何逃逸提出了一种新的方法.最后通过仿真模拟取得了比较好的效果.

基于隐层优化的RBF神经网络预测模型

提出一种基于隐层优化算法的RBF神经网络预测模型——HLOA-IRBFM。在传统的免疫径向基神经网络模型(IRBFNM)的基础上引入粗糙集,将初始隐层空间进行划分。定义隐层区域密度和相对近似度等概念,提出边界区域中冗余点和孤立点的约减算法。优化后的隐层空间分布均匀,能以较少的中心数覆盖整个样本空间,弥补了IRBFNM模型过分依赖参数选取的不足。实验结果证明,HLOA-IRBFM模型比IRBFNM模型在预测性能方面具有更好的稳定性和准确性。

基于改进集成多隐层小波极限学习神经网络的滚动轴承故障识别研究

由于强噪声和非线性、非平稳性等特性,导致滚动轴承振动信号存在难以提取和其工况状态难以辨识的问题,对此提出了一种基于改进集成多隐层小波极限学习神经网络的滚动轴承故障识别模型。首先,使用了谱分割小波变换,将采集到的滚动轴承振动信号分解为若干本征模态分量;然后,选择了较能反映轴承运行工况特征的模态分量,并加以了重构;最后,利用了不同小波函数设计了不同的多隐层小波极限学习神经网络,并加入了卷积机制,将重构后的信号输入不同的深层网络,进行了特征学习与故障识别,利用集成方法得到了最后的滚动轴承故障识别结果。研究结果表明:提出方法的平均故障识别准确率达到99.42%,标准差仅为0.11;该方法自动特征提取能力和工况识别能力优于深度稀疏自动编码器、深度降噪自动编码器和深度信念网络等深度学习方法,适用于滚动轴承故障的自动识别。