BP网络局部学习速率自适应SA算法的改进

Silva-Almeida(SA)算法是最好的局部学习速率自适应算法之一,在对SA算法进行研究分析的基础上,提出 两项改进措施,使改进后的SA算法较原SA算法震荡现象大大减弱,训练速率有较大加快,训练精度有较大提高。在仿 真实验中,改进的SA算法在一定程度上优于RPROP算法。

一种学习速率自适应的可编程片上学习BP神经网络电路系统的设计

设计了一种学习速率自适应的可编程片上学习BP神经网络电路系统 .整个系统由前向网络、误差反传网络两部分组成 .提出了一种新型的可编程S型函数及其导数的发生器电路 .它不仅产生S型函数 ,完成非线性I -V转换 ;还利用前向差分法 ,产生S型函数的导数 .这两种函数不仅与理想函数的拟合程度很好 ,而且易实现对阈值和增益因子的编程 .为提高BP神经网络片上学习的收敛速度 ,还提出了学习速率自适应电路 .本文采用标准 1 2 μmCMOS工艺的模型参数 ,对整个系统进行了sin(x)函数拟合等模拟实验 ,验证了该片上学习BP神经网络的优越性能 .

基于自适应学习速率的改进BP神经网络

BP神经网络自被提出以来,便作为非线性系统的辨识工具在模式识别、系统控制等多领域得到广泛应用。但BP算法仍存在缺陷,在学习时容易陷入局部极小。本文采用调整神经元转换函数的方法,并采用学习速率自适应调整来克服网络训练速度慢、不易收敛到全局最优等缺点。通过仿真实验表明,改进后的方法可行。

基于自适应学习速率的改进型BP算法研究

从感知器的结构及学习规则无法执行异或问题出发,用神经网络中的BP网络来解决异或问题,消除了感知器的局限性,但BP算法在具体实现中常会出现一些问题,如:收敛速度缓慢且与其他参数存在较强的耦合关系,局部极小等。对此,从前馈神经网络的原理出发,提出了一种自适应学习速率因子方法,用于对BP算法的改进,并将改进后的算法用于二维XOR问题及多维XOR问题的学习中。仿真实验证明,改进后的算法可显著提高网络的学习速度,且学习过程具有良好的收敛性及较强的鲁棒性。

自适应学习速率法在变压器故障诊断中的应用

为了提高电力变压器故障诊断的准确率,针对油中溶解气体分析,提出了一种基于误差自动调节修正因子的自适应学习速率法,使神经网络通过自身的误差变化过程自动调整学习速率修正因子,保证网络总是以最大的可接受学习速率进行训练,从而提高网络收敛速度。针对电力变压器故障气体及故障类型的特点,建立了电力变压器故障诊断BP(Back-Propagation)网络模型,应用该算法和原算法对该故障诊断网络模型进行训练。仿真结果表明,该算法的训练次数减少了35.4%,收敛速度提高了44.9%,有效地改善了网络模型的性能。将该算法应用于电力变压器故障诊断,能较为精确地判断出电力变压器的故障类型,故障诊断准确率达90.8%。

基于自适应学习速率的模糊神经网络控制器

针对模糊神经网络控制器中很难确定一个最佳学习速率的问题,将带有动量因子的自适应学习速率BP算法引入模糊神经网络控制器中。采用模糊推理自适应调节学习速率,同时引入动量因子,提高系统的收敛速度,并基于Lyapunov定理给出了系统稳定的证明过程。针对同一数学模型,用Matlab编程仿真3种方法的实验结果表明:优化后的模糊神经网络控制器较普通模糊神经网络控制器和模糊控制器具有更优越的控制性能。

基于自适应学习速率法的补偿模糊神经网络

为克服常规网络收敛速度慢、无法结合专家知识等缺点,引入补偿模糊神经元,结合模糊系统强大的知识表达能力和神经网络优秀的自学习能力,并利用自适应学习速率法动态地改变学习率.提出了一种新型的基于自适应学习速率法的补偿模糊神经网络,并将其应用到实际例子中.结果证明,它不仅能在线适当调整参数,还能动态地优化相应的模糊推理,加快训练速度.

改进的神经网络及其自适应学习速率的研究

从提高神经网络泛化能力的角度提出一种改进方法.利用Taylor级数展开的思想,用线性和非线性组合构成函数映射关系,即改进的神经网络是用原神经网络的非线性映射和关于输入信号的线性映射的和来逼近期望值.文中还给出了该神经网络学习速率的自适应调节方法.对线性对象和非线性对象分别进行建模仿真,结果表明,改进的神经网络比基于正则化方法的神经网络具有更好的泛化能力.

带有自适应学习速率的矩阵指数梯度在线量子态估计算法

针对连续弱测量中存在高斯噪声的情况,提出一种带有自适应学习速率的矩阵指数梯度在线量子态估计算法.将量子态估计问题转化为含量子约束的凸优化问题,通过引入Von Neumann散度(量子相对熵),在一阶最优条件下,推导出指数型的量子态迭代公式,保证量子态密度矩阵的半正定性.再通过对迭代结果进行迹为1的投影,得到最终的量子态估计值.同时在迭代公式中设计自适应的学习速率,进一步加快算法的收敛速度.将所提出的算法分别在1,2,3和4个量子位系统上,进行了在线量子态估计的数值仿真实验,并与现有的在线量子态估计算法进行了性能对比.实验结果表明,所提出的算法具有更好的快速收敛性,以及更高的状态估计精度.

全国私人车辆拥有量的BP神经网络模型预测与分析——基于附加动量与自适应学习速率相结合的BP方法

私人车辆拥有量的变化趋势与社会经济发展密切相关,研究与预测私人车辆拥有量变动对了解社会经济发展具有重要的意义。文章以1985—2013年全国私人车辆拥有量的发展情况为研究对象,利用附加动量法与自适应学习速率相结合的BP神经网络模型对全国私人车辆拥有量进行研究与预测,结果表明利用该模型对私人车辆拥有量进行预测的精度较高、效果好。

动量自适应学习速率梯度下降法神经网络电力负荷预测

电力系统负荷预测的精度将直接影响电力系统的经济效益和用电的安全和稳定,是电力负荷预测的重要组成部分。利用人工神经网络可以任意逼近非线性系统的特性,将其用于短期负荷预测。在标准的BP网络中加入了动量项和自适应学习速率,预测结果表明比标准BP算法具有更好的性能。在相同的情况下,连续预测六天的负荷和一年的负荷,结果都证明了研究方法具有一定的实用性。

基于自适应学习速率混合高斯模型的背景消除

背景消除是智能视觉监控和自动目标识别与跟踪首先要解决的问题。采用混合高斯模型对背景图像进行建模,并应用图像的相关性与各点的置信度对背景模型的学习速率进行快速更新,完成背景模型的重建。与其他方法比较,该方法能够有效地对新背景进行快速的学习和适应,达到动态背景下运动目标实时跟踪的要求。

递归神经网络学习速率研究

针对典型的对角递归神经网络,推导出递归神经网络稳定条件下网络输出层、隐含层及关联层学习速率的具体取值范围。提出设计者可通过从具体系统中获得的数据确定网络各层学习速率的上、下界数值,确定自适应学习速率的初值与调节方法,并可选取最优学习速率。因而该法具有很强的可操作性和实用性。还给出一个具体数值实例,说明自适应学习速率与最佳学习速率的调整过程。

基于自适应BP网络的涌潮波速计算模型

运用BP网络附加动量法和自适应学习速率法,建立神经网络模型,模拟计算涌潮波速。根据部分试验数据对网络进行训练,确定相关参数,建立涌潮波速计算模型,同时利用其余部分试验数据对模型进行检验,模拟结果与试验数据吻合较好,相关程度高,表明神经网络模型用于计算涌潮波速是合适的。

基于改进小波神经网络的新型PMSM速度控制

采用传统PI控制策略的永磁同步电机调速系统无法兼顾良好的动态响应性能与抗扰动能力,且在实际应用中参数整定繁琐。为改善以上问题,对速度环设计一种改进型小波神经网络PI控制器,该控制器基于自适应学习速率的梯度下降法并引入惯性项在线更新网络参数,通过权重因子扩大PI参数输出范围,以增强控制器性能;为消除电流环比例参数对速度环的影响,设计无差拍电流预测控制器,进一步提升系统动态响应性能。仿真结果表明,上述控制方案能够实现速度环PI参数在线自整定,明显提升系统动态响应性能,且具有良好的抗扰动能力。

用于过程控制的神经网络自适应控制方法

本文从人工神经网络中较常用的ＢＰ（Ｂａｃｋ－ｐｒｏｐａｇａｔｉｏｎ）算法入手，针对其存在的学习（训练）速度过慢和易陷入误差局部最小的问题，对其算法进行了改进，提出了一种新的可变学习速率（η）的方法．在此基础上，针对常规自适应控制器难于实现且精度较差的问题，把人工神经网络控制器（ＮＮｃｏｎｔｒｏｌｅｒ）应用于自适应控制系统中．计算机仿真证明了改进是有效的．

纱线卷绕系统恒张力先进控制策略

针对纱线卷绕系统内外部扰动较多,系统具有时变性和不确定性,纱线张力值波动较大,控制精度不高导致纱线断头等问题,提出了学习速率自适应与蚁群算法联合改进的BP神经网络PID控制策略。通过学习速率自适应提高网络学习速率,并利用蚁群算法调整网络初始参数。分别测试PID算法、BP神经网络PID算法与改进BP神经网络PID算法。结果表明:基于改进BP神经网络的无刷直流电机PID控制器鲁棒性更强,性能良好,纱线卷绕系统张力波动较小,断头率降低。

基于优化的BP神经网络学生学习状态指数的评价研究

随着教学内容和教学模式方法不断改进,学生为教学主体的理念逐步深化。有效的掌握学生学习状态,能够有效提升教学效果。如何评价学生主体的学习状态,成为教师关注的重点。算法采用经附加动量和自适应学习速率优化后的BP神经网络(Back-Propagation Network)进行学生学习状态指数评价。实验结果表明参与评价的在校学生的整体学习状态较好,影响其学习状态的的主要因素是学习计划的有效执行,课前课后主动复习和预习、自信乐观程度、当前学习成绩等。

基于仿射不变矩的神经网络目标识别

主要讨论了仿射不变矩及人工神经网络在模式识别中的应用,即使用BP网及BPX算法来模仿分类器,同时提取图像的3阶仿射不变矩作为特征输入建立对飞机图像的识别系统。

基于改进BP算法的煤灰结渣特性诊断模型

在传统BP算法的基础上对BP算法进行了改进 ,并引入了共轭梯度和自适应学习速率 ,其收敛速度快 ,能够有效避开局部极小值 ;以实际观测数据为样本 ,应用改进的BP算法建立了一种新的煤灰结渣特性诊断模型 ,结果表明该诊断模型可靠性高 ,具有重要的实用价值。