期刊文献+
共找到20篇文章
< 1 >
每页显示 20 50 100
带正则项Pi-sigma神经网络梯度学习算法研究
1
作者 张岩庆 范钦伟 贺兴时 《信息与电脑》 2020年第1期38-41,共4页
Pi-sigma神经网络是一种高阶神经网络,其网络结构中通过引入求积节点增强了网络的非线性映射能力,有效提高了网络的泛化性能。然而,Pi-sigma神经网络结构相当复杂,对网络学习提出了更高的要求。笔者通过引入光滑化L1/2正则项,建立一种... Pi-sigma神经网络是一种高阶神经网络,其网络结构中通过引入求积节点增强了网络的非线性映射能力,有效提高了网络的泛化性能。然而,Pi-sigma神经网络结构相当复杂,对网络学习提出了更高的要求。笔者通过引入光滑化L1/2正则项,建立一种新的带稀疏约束的Pi-sigma神经网络,从而克服了学习过程中的震荡现象,提升了网络的学习效率,最后通过计算机仿真实验对比几种带不同正则项的网络算法的学习效果,验证了该算法的有效性。 展开更多
关键词 PI-SIGMA神经网络 正则项 梯度学习算法
下载PDF
前馈神经网络的梯度-牛顿耦合学习算法 被引量:1
2
作者 孙开盛 梁久祯 +1 位作者 黄德双 黄晓萍 《大庆石油学院学报》 CAS 北大核心 2000年第2期42-46,共5页
针对前馈神经网络所使用的学习算法应具有收敛速度快、计算复杂度小、稳定性好的特点 ,利用梯度算法在网络学习初始阶段可使误差函数下降速度快 ,而牛顿法在学习后期可使收敛率提高 ,且具有二阶收敛速度 ,提出了一种梯度 -牛顿耦合学习... 针对前馈神经网络所使用的学习算法应具有收敛速度快、计算复杂度小、稳定性好的特点 ,利用梯度算法在网络学习初始阶段可使误差函数下降速度快 ,而牛顿法在学习后期可使收敛率提高 ,且具有二阶收敛速度 ,提出了一种梯度 -牛顿耦合学习算法 ;该方法充分发挥了两种算法各自的特长 ,能弥补牛顿法在网络学习初始阶段对学习初值的敏感性和梯度算法在学习后期的震荡现象等不足 ;给出了学习速度参数在线优化、带保护的拟牛顿法、梯度 -牛顿竞争法以及梯度 -牛顿分段等 展开更多
关键词 前馈神经网络 梯度-牛顿耦合学习算法 收敛性
下载PDF
Elman网络梯度学习法的收敛性 被引量:8
3
作者 吴微 徐东坡 李正学 《应用数学和力学》 CSCD 北大核心 2008年第9期1117-1123,共7页
考虑有限样本集上Elman网络梯度学习法的确定性收敛性.证明了误差函数的单调递减性.给出了一个弱收敛性结果和一个强收敛结果,表明误差函数的梯度收敛于0,权值序列收敛于固定点.通过数值例子验证了理论结果的正确性.
关键词 ELMAN神经网络 梯度学习算法 收敛性 单调性
下载PDF
径向基概率神经网络的结构优化算法研究 被引量:1
4
作者 胡运江 《科技信息》 2008年第33期219-220,共2页
径向基概率神经网络(RBPNN)是在径向基函数神经网络(RBFNN)和概率神经网络(PNN)的基础上发展起来的一种新型的前馈神经网络(FNN)模型。该网络模型充分吸收了径向基函数神经网络和概率神经网络的优点,这种新的模型具有计算复杂度低、收... 径向基概率神经网络(RBPNN)是在径向基函数神经网络(RBFNN)和概率神经网络(PNN)的基础上发展起来的一种新型的前馈神经网络(FNN)模型。该网络模型充分吸收了径向基函数神经网络和概率神经网络的优点,这种新的模型具有计算复杂度低、收敛速度快等优点。本文深入研究了径向基概率神经网络的结构优化算法,在遗传结构优化方法的基础上,提出一种新的两步学习算法,基于遗传算法的梯度学习算法。该算法一方面优化了网络结构,使网络结构尽可能的精简,另一方面有效地提高了网络的推广能力。 展开更多
关键词 径向基概率神经网络 递推正交最小二乘算法 梯度学习算法
下载PDF
运用PSO算法的自递归RBF网络建模与应用 被引量:3
5
作者 曾添 杨德刚 《计算机工程与应用》 CSCD 北大核心 2019年第13期172-177,共6页
普通三层RBF网络已经是一种较好的神经网络,为了进一步提高RBF网络的性能,在普通三层RBF网络的基础上,构建出一种运用PSO算法的自递归RBF网络。学习算法采用以梯度学习算法配合PSO算法对参数进行调整。与采用动量-梯度学习算法,且为结... 普通三层RBF网络已经是一种较好的神经网络,为了进一步提高RBF网络的性能,在普通三层RBF网络的基础上,构建出一种运用PSO算法的自递归RBF网络。学习算法采用以梯度学习算法配合PSO算法对参数进行调整。与采用动量-梯度学习算法,且为结构为三层的RBF网络相比,提的运用PSO算法的自递归RBF网络可以在神经元较少的情况下,具有更好的泛化能力、鲁棒性和准确性。最后通过仿真实验,对算法的有效性进行了验证。 展开更多
关键词 递归子网 径向基子网络 深度学习 梯度学习算法 PSO算法
下载PDF
基于深度强化学习的机器人手臂控制 被引量:1
6
作者 杨淑珍 韩建宇 +3 位作者 梁盼 古彭 杨发展 吕萍丽 《福建电脑》 2019年第1期28-29,共2页
基于深度强化学习策略,研究了机器人手臂控制问题。以两节机器人手臂为对象,给出奖励函数和移动方式等。结合深度学习与确定性策略梯度强化学习,设计深度确定性策略梯度(DDPG)学习步骤,使得机器人手臂经过训练学习后具有较高的环境适应... 基于深度强化学习策略,研究了机器人手臂控制问题。以两节机器人手臂为对象,给出奖励函数和移动方式等。结合深度学习与确定性策略梯度强化学习,设计深度确定性策略梯度(DDPG)学习步骤,使得机器人手臂经过训练学习后具有较高的环境适应性。实验表明基于深度强化学习机器人手臂可以快速并且准确的找到在环境中移动的目标点。 展开更多
关键词 深度强化学习 深度确定性策略梯度学习算法 机器人手臂控制
下载PDF
基于前向神经网络的音乐情感识别分类算法 被引量:3
7
作者 郑旦 《信息技术》 2019年第12期57-61,共5页
为解决单模态数据在音乐情感分类上的局限性,并同时提高对音乐情感分类的准确性,文中提出了一种基于前向神经网络的多特征融合音乐分类算法。在传统的前向神经网络模型中融入切比雪夫正交多项式簇作为隐藏层各神经元的激励函数,使每一... 为解决单模态数据在音乐情感分类上的局限性,并同时提高对音乐情感分类的准确性,文中提出了一种基于前向神经网络的多特征融合音乐分类算法。在传统的前向神经网络模型中融入切比雪夫正交多项式簇作为隐藏层各神经元的激励函数,使每一层神经元的激励函数各不相同。利用梯度下降学习算法来进行网络参数的有监督训练;同时利用音频、歌词中不同模态的数据,使其形成多模态数据,来进行音乐情感分类模型的训练。实验测试结果表明,该算法对音乐情感的分类具有较好的效果,平均准确率为78.37%,具有良好的有效性与可行性。 展开更多
关键词 音乐情感分类 前向神经网络 切比雪夫多项式簇 梯度下降学习算法 多特征融合
下载PDF
一种混沌神经网络的混沌时间序列预测 被引量:3
8
作者 王燚 郭伟 《电子测量与仪器学报》 CSCD 2007年第6期5-9,共5页
混沌是一种普遍存在的非线性动力学行为,针对混沌时间序列预测问题,提出了一种新颖的混沌对角递归神经网络模型,然后,给出了易实现的动量梯度学习算法。为了验证网络的预测性能,采用该神经网络预测模型对Mackey-Glass混沌时间序列进行... 混沌是一种普遍存在的非线性动力学行为,针对混沌时间序列预测问题,提出了一种新颖的混沌对角递归神经网络模型,然后,给出了易实现的动量梯度学习算法。为了验证网络的预测性能,采用该神经网络预测模型对Mackey-Glass混沌时间序列进行了仿真。结果表明,所提出的混沌神经神经网络模型能快速、精确地预测混沌时间序列,并能在一定精度上满足多步预测需要,是研究复杂非线性动力系统辨识和控制的一种有效方法。 展开更多
关键词 混沌对角递归神经网络 动量梯度学习算法 混沌时间序列 预测
下载PDF
基于小波网络的MQAM数字通信自适应均衡器 被引量:1
9
作者 章国安 张小东 毕光国 《应用科学学报》 CAS CSCD 2001年第1期5-9,共5页
首先给出了多维小波网络的结构及其随机梯度学习算法 ,提出了基于小波网络的 MQAM数字通信自适应均衡器 .仿真结果表明 :该均衡器对于 MQAM数字信号非线性信道的均衡 ,其性能明显优于传统的基于 L MS和 RL S算法的线性均衡器和基于 RL ... 首先给出了多维小波网络的结构及其随机梯度学习算法 ,提出了基于小波网络的 MQAM数字通信自适应均衡器 .仿真结果表明 :该均衡器对于 MQAM数字信号非线性信道的均衡 ,其性能明显优于传统的基于 L MS和 RL S算法的线性均衡器和基于 RL S算法的判决反馈均衡器 ,且性能稍好于基于 展开更多
关键词 小波网络 多进制正交幅度调制 自适应均衡器 非线性信道均衡 数字通信 随机梯度学习算法
下载PDF
基于组合神经网络的时间分数阶扩散方程计算方法 被引量:3
10
作者 王江 陈文 《应用数学和力学》 CSCD 北大核心 2019年第7期741-750,共10页
该文首次采用一种组合神经网络的方法,求解了一维时间分数阶扩散方程.组合神经网络是由径向基函数(RBF)神经网络与幂激励前向神经网络相结合所构造出的一种新型网络结构.首先,利用该网络结构构造出符合时间分数阶扩散方程条件的数值求... 该文首次采用一种组合神经网络的方法,求解了一维时间分数阶扩散方程.组合神经网络是由径向基函数(RBF)神经网络与幂激励前向神经网络相结合所构造出的一种新型网络结构.首先,利用该网络结构构造出符合时间分数阶扩散方程条件的数值求解格式,同时设置误差函数,使原问题转化为求解误差函数极小值问题;然后,结合神经网络模型中的梯度下降学习算法进行循环迭代,从而获得神经网络的最优权值以及各项最优参数,最终得到问题的数值解.数值算例验证了该方法的可行性、有效性和数值精度.该文工作为时间分数阶扩散方程的求解开辟了一条新的途径. 展开更多
关键词 一维时间分数阶扩散方程 组合神经网络 误差函数 梯度下降学习算法
下载PDF
基于改进LMS加BP神经网络的二相码旁瓣抑制 被引量:1
11
作者 李刚 田蛟 《信息技术》 2013年第9期28-31,34,共5页
研究了BP神经网络在二相码旁瓣抑制中的应用,采用自适应学习速率梯度下降算法对网络进行训练,为了提高网络的抗噪声及多目标背景下的检测性能,训练的样本向量选取理想样本结合含噪声样本混合模式。此外,在将接收到的回波信号送入网络前... 研究了BP神经网络在二相码旁瓣抑制中的应用,采用自适应学习速率梯度下降算法对网络进行训练,为了提高网络的抗噪声及多目标背景下的检测性能,训练的样本向量选取理想样本结合含噪声样本混合模式。此外,在将接收到的回波信号送入网络前,使其通过改进的自适应滤波器,以提高输入的信噪比。实验表明,对127位M码调相的不加噪声单目标回波,该算法能够使脉压输出的主旁瓣比达到60dB以上,并且在多目标及噪声环境下具有较好的性能。 展开更多
关键词 BP神经网络 自适应学习速率梯度下降算法 样本向量 改进的自适应滤波器 旁瓣抑制
下载PDF
基于BP神经网络的食堂点单系统备菜量预测
12
作者 王婷婷 吴新蕊 +1 位作者 张洋 王宇春 《现代计算机》 2021年第5期20-24,共5页
在点单系统中为方便食堂人员明确备菜的量,设计一款基于BP神经网络的备菜预测算法。根据设计App中的前期统计值作为训练数据,采用有导师学习方式,得到该系统的预测算法。根据该算法,得到某菜品30天中午的预测销售情况,并与实际情况进行... 在点单系统中为方便食堂人员明确备菜的量,设计一款基于BP神经网络的备菜预测算法。根据设计App中的前期统计值作为训练数据,采用有导师学习方式,得到该系统的预测算法。根据该算法,得到某菜品30天中午的预测销售情况,并与实际情况进行对比。实验表明该点单预测算法能在一定程度上预测某菜品的销售量,起到防止浪费菜品的作用。 展开更多
关键词 BP神经网络 备菜量预测 梯度下降学习算法
下载PDF
Research on Optimizing Computer Network Structure based on Genetic Algorithm and Modified Convex Optimization Theory
13
作者 Jinyu WANG 《International Journal of Technology Management》 2015年第7期95-97,共3页
In this paper, we report in-depth analysis and research on the optimizing computer network structure based on genetic algorithm and modified convex optimization theory. Machine learning method has been widely used in ... In this paper, we report in-depth analysis and research on the optimizing computer network structure based on genetic algorithm and modified convex optimization theory. Machine learning method has been widely used in the background and one of its core problems is to solve the optimization problem. Unlike traditional batch algorithm, stochastic gradient descent algorithm in each iteration calculation, the optimization of a single sample point only losses could greatly reduce the memory overhead. The experiment illustrates the feasibility of our proposed approach. 展开更多
关键词 Computer Network Genetic Algorithm Convex Optimization Structure Feature.
下载PDF
混沌对角递归神经网络的船舶横摇预报方法 被引量:7
14
作者 李占英 王科俊 +1 位作者 徐亮 姚丽君 《控制与决策》 EI CSCD 北大核心 2012年第11期1681-1684,1693,共5页
船舶运动在一定条件下会出现混沌特性,因此可以利用混沌神经网络对其进行预报.对传统的混沌对角递归神经网络模型各权值的训练进行优化,给出了基于Lyapunov函数的各层权所通用的学习速率调整算法的收敛定理并加以证明.仿真结果表明,采... 船舶运动在一定条件下会出现混沌特性,因此可以利用混沌神经网络对其进行预报.对传统的混沌对角递归神经网络模型各权值的训练进行优化,给出了基于Lyapunov函数的各层权所通用的学习速率调整算法的收敛定理并加以证明.仿真结果表明,采用优化采样时刻可提高各权值的精确度,使收敛性得到改善,能有效提高预报精度和延长预报时间.与前向神经网络BP预测相对比,优化后的模型具有很好的预测效果. 展开更多
关键词 对角递归神经网络 混沌 动量梯度学习算法 船舶横摇预测 前向神经网络
原文传递
二阶对角递归神经网络船舶横摇运动预测 被引量:3
15
作者 李占英 王科俊 +1 位作者 张明君 唐墨 《华中科技大学学报(自然科学版)》 EI CAS CSCD 北大核心 2011年第6期125-128,共4页
提出一种船舶横摇时间序列预测方法.该方法使用在隐层具有2个反馈权值的对角递归神经网络进行预测,给出了此网络易于实现的动量梯度学习算法(DBP),并对其收敛性进行了验证.运用该模型对我国某型船舶在横浪中航行情况进行预测,结果表明:... 提出一种船舶横摇时间序列预测方法.该方法使用在隐层具有2个反馈权值的对角递归神经网络进行预测,给出了此网络易于实现的动量梯度学习算法(DBP),并对其收敛性进行了验证.运用该模型对我国某型船舶在横浪中航行情况进行预测,结果表明:本网络可以储存更多的历史数据,有更好的记忆性能,所使用的模型比DRNN模型及前向网络BP模型能快速、准确地预测船舶横摇运动时间序列,仿真实验验证了该方法的可行性与有效性. 展开更多
关键词 船舶横摇运动 对角递归神经网络 动量梯度学习算法 时间序列预测 非线性 前向神经网络
原文传递
基于混沌和二阶对角递归网络的船舶横摇的直接多步预测方法 被引量:1
16
作者 李占英 王科俊 +1 位作者 张明君 徐亮 《控制与决策》 EI CSCD 北大核心 2012年第7期1057-1060,1065,共5页
在对船舶横摇预测研究的基础上,提出一种基于混沌和在隐层具有2个反馈权值的二阶对角递归神经网络的直接多步预测模型;给出了易于实现的动量梯度学习算法,并对其收敛性进行了验证.仿真结果表明,直接多步预测不依赖于单步预测的结果,对... 在对船舶横摇预测研究的基础上,提出一种基于混沌和在隐层具有2个反馈权值的二阶对角递归神经网络的直接多步预测模型;给出了易于实现的动量梯度学习算法,并对其收敛性进行了验证.仿真结果表明,直接多步预测不依赖于单步预测的结果,对比单步预测模型能快速、准确地预测船舶横摇运动时间序列,具有更好的预测精度及较长的预测时间. 展开更多
关键词 船舶横摇运动 对角递归神经网络 动量梯度学习算法 时间序列预测 混沌
原文传递
一种新型广义RBF神经网络在混沌时间序列预测中的研究 被引量:32
17
作者 李军 刘君华 《物理学报》 SCIE EI CAS CSCD 北大核心 2005年第10期4569-4577,共9页
提出了一种新颖的广义径向基函数神经网络模型,其径向基函数(RBF)的形式由生成函数确定.然后,给出了易实现的梯度学习算法,同时为了进一步提高网络的收敛速度和网络性能,又给出了基于卡尔曼滤波的动态学习算法.为了验证网络的学习性能,... 提出了一种新颖的广义径向基函数神经网络模型,其径向基函数(RBF)的形式由生成函数确定.然后,给出了易实现的梯度学习算法,同时为了进一步提高网络的收敛速度和网络性能,又给出了基于卡尔曼滤波的动态学习算法.为了验证网络的学习性能,采用基于卡尔曼滤波算法的新型广义RBF网络预测模型对Mackey-Glass混沌时间序列和Henon映射进行了仿真.结果表明,所提出的新型广义RBF神经网络模型能快速、精确地预测混沌时间序列,是研究复杂非线性动力系统辨识和控制的一种有效方法. 展开更多
关键词 广义径向基函数神经网络 卡尔曼滤波 梯度下降学习算法 混沌时间序列 预测 混沌时间序列预测 RBF神经网络 广义 卡尔曼滤波算法 神经网络模型
原文传递
空间加权距离的GIS数据Fuzzy C-means聚类方法与应用分析 被引量:3
18
作者 王海起 张腾 +1 位作者 彭佳琦 董倩楠 《地球信息科学学报》 CSCD 北大核心 2013年第6期854-861,共8页
Fuzzy c-means聚类常采用普通欧式距离进行相似性度量,对于地理空间对象来说,聚类不仅应考虑属性特征的相似性,还应考虑对象的空间邻近性。本文基于普通欧式距离提出了多种形式的空间加权距离公式,不同的距离公式分别在两个坐标方向、... Fuzzy c-means聚类常采用普通欧式距离进行相似性度量,对于地理空间对象来说,聚类不仅应考虑属性特征的相似性,还应考虑对象的空间邻近性。本文基于普通欧式距离提出了多种形式的空间加权距离公式,不同的距离公式分别在两个坐标方向、各属性上进行加权,权重向量既可以度量空间位置特征、属性特征的作用大小,也可度量位置距离在X、Y空间方向上的各向同性或异性程度。权重向量的获取以空间对象相似性的模糊函数为评价目标,通过动态学习率的梯度下降算法优化计算,并将空间加权距离引入到fuzzy c-means聚类算法中以取代普通欧式距离。本文以空间数据集Meuse为应用实例,分别采用不同形式的空间加权距离进行FCM模糊聚类,类数取为2-10类,通过PC、PE和Xie-Beni等聚类有效性指标的比较表明:空间加权距离的聚类效果要优于普通距离,且在空间数据聚类分析中,除属性信息外位置等空间特征信息同样起到了重要作用。 展开更多
关键词 空间加权距离 GIS数据 FuzzyC—means聚类 梯度下降学习算法
原文传递
Machine learning-based prediction of soil compression modulus with application of ID settlement 被引量:10
19
作者 Dong-ming ZHANG Jin-zhang ZHANG +2 位作者 Hong-wei HUANG Chong-chong QI Chen-yu CHANG 《Journal of Zhejiang University-Science A(Applied Physics & Engineering)》 SCIE EI CAS CSCD 2020年第6期430-444,共15页
The compression modulus(Es)is one of the most significant soil parameters that affects the compressive deformation of geotechnical systems,such as foundations.However,it is difficult and sometime costly to obtain this... The compression modulus(Es)is one of the most significant soil parameters that affects the compressive deformation of geotechnical systems,such as foundations.However,it is difficult and sometime costly to obtain this parameter in engineering practice.In this study,we aimed to develop a non-parametric ensemble artificial intelligence(AI)approach to calculate the Es of soft clay in contrast to the traditional regression models proposed in previous studies.A gradient boosted regression tree(GBRT)algorithm was used to discern the non-linear pattern between input variables and the target response,while a genetic algorithm(GA)was adopted for tuning the GBRT model's hyper-parameters.The model was tested through 10-fold cross validation.A dataset of 221 samples from 65 engineering survey reports from Shanghai infrastructure projects was constructed to evaluate the accuracy of the new model5 s predictions.The mean squared error and correlation coefficient of the optimum GBRT model applied to the testing set were 0.13 and 0.91,respectively,indicating that the proposed machine learning(ML)model has great potential to improve the prediction of Es for soft clay.A comparison of the performance of empirical formulas and the proposed ML method for predicting foundation settlement indicated the rationality of the proposed ML model and its applicability to the compressive deformation of geotechnical systems.This model,however,cannot be directly applied to the prediction of Es in other sites due to its site specificity.This problem can be solved by retraining the model using local data.This study provides a useful reference for future multi-parameter prediction of soil behavior. 展开更多
关键词 Compression modulus prediction Machine learning(ML) Gradient boosted regression tree(GBRT) Genetic algorithm(GA) Foundation settlement
原文传递
A time-series modeling method based on the boosting gradient-descent theory 被引量:5
20
作者 GAO YunLong PAN JinYan +1 位作者 JI GuoLi GAO Feng 《Science China(Technological Sciences)》 SCIE EI CAS 2011年第5期1325-1337,共13页
The forecasting of time-series data plays an important role in various domains. It is of significance in theory and application to improve prediction accuracy of the time-series data. With the progress in the study of... The forecasting of time-series data plays an important role in various domains. It is of significance in theory and application to improve prediction accuracy of the time-series data. With the progress in the study of time-series, time-series forecasting model becomes more complicated, and consequently great concern has been drawn to the techniques in designing the forecasting model. A modeling method which is easy to use by engineers and may generate good results is in urgent need. In this paper, a gradient-boost AR ensemble learning algorithm (AREL) is put forward. The effectiveness of AREL is assessed by theoretical analyses, and it is demonstrated that this method can build a strong predictive model by assembling a set of AR models. In order to avoid fitting exactly any single training example, an insensitive loss function is introduced in the AREL algorithm, and accordingly the influence of random noise is reduced. To further enhance the capability of AREL algorithm for non-stationary time-series, improve the robustness of algorithm, discourage overfitting, and reduce sensitivity of algorithm to parameter settings, a weighted kNN prediction method based on AREL algorithm is presented. The results of numerical testing on real data demonstrate that the proposed modeling method and prediction method are effective. 展开更多
关键词 time-series forecasting BOOSTING ensemble learning OVERFITTING
原文传递
上一页 1 下一页 到第
使用帮助 返回顶部