期刊文献+
共找到25篇文章
< 1 2 >
每页显示 20 50 100
基于Borges差分的RMSprop算法及在卷积神经网络参数训练中的应用
1
作者 高哲 剪静 《辽宁大学学报(自然科学版)》 CAS 2023年第1期1-9,F0002,共10页
针对RMSprop算法存在梯度消失和局部最优的问题,本文提出了一种基于Borges差分的RMSprop算法并应用到卷积神经网络参数训练方法.根据Borges分形导数的定义,本文给出了Borges差分的定义;将Borges差分与RMSprop算法相结合,提出了基于Borge... 针对RMSprop算法存在梯度消失和局部最优的问题,本文提出了一种基于Borges差分的RMSprop算法并应用到卷积神经网络参数训练方法.根据Borges分形导数的定义,本文给出了Borges差分的定义;将Borges差分与RMSprop算法相结合,提出了基于Borges差分的RMSprop优化算法,提高了图像识别的精度和学习收敛速度;给出了一种基于梯度信息的自适应的调整阶次的方法.本文以Fashion-MNIST数据集为例,分析了阶次对网络参数训练结果的影响,验证了本文提出的算法提高卷积神经网络的识别精度和学习收敛速度的有效性. 展开更多
关键词 卷积神经网络 rmsprop算法 Borges差分 分形导数 反向传播
下载PDF
SDN中基于Renyi交叉熵和RMSprop算法的双层DDoS识别模型 被引量:2
2
作者 侯泽鹏 赵炜 +1 位作者 王尧 付强 《河北电力技术》 2023年第3期79-84,共6页
针对软件定义网络(SDN)中存在的DDoS攻击,提出了基于Renyi交叉熵和RMSprop算法的DDoS识别模型。首先,引入计算双向流比例作为检测模块的初检方法,降低常态化监控负荷的同时,能够及时发现异常流量;然后,引入Renyi交叉熵算法作为识别模块... 针对软件定义网络(SDN)中存在的DDoS攻击,提出了基于Renyi交叉熵和RMSprop算法的DDoS识别模型。首先,引入计算双向流比例作为检测模块的初检方法,降低常态化监控负荷的同时,能够及时发现异常流量;然后,引入Renyi交叉熵算法作为识别模块流量特征相似性定值计算方法,有效扩大异常与正常流量数据间的信息距离,对DDoS初期小流量攻击,可以更早地识别;最后,识别模块引入RMSprop算法计算当前网络阈值,可以吸收瞬时突变,进一步提升识别准确性。实验结果表明,该模型具备时间开销低、识别成功率高的特点,可以有效地增加SDN的安全性。 展开更多
关键词 软件定义网络 分布式拒绝服务 Renyi交叉熵 rmsprop算法 网络安全
下载PDF
基于RMSprop的粒子群优化算法 被引量:16
3
作者 张天泽 李元香 +1 位作者 项正龙 李梦莹 《计算机工程与设计》 北大核心 2021年第3期642-648,共7页
粒子群算法对所有粒子采用相同的惯性权重,忽视了单个粒子的特性,导致收敛精度偏低且易陷入局部最优。结合RMSprop算法中对每一个维度进行自适应设置的策略,提出一种自适应惯性权重粒子群优化算法RMSPSO。考虑粒子每一个维度的速度变化... 粒子群算法对所有粒子采用相同的惯性权重,忽视了单个粒子的特性,导致收敛精度偏低且易陷入局部最优。结合RMSprop算法中对每一个维度进行自适应设置的策略,提出一种自适应惯性权重粒子群优化算法RMSPSO。考虑粒子每一个维度的速度变化及动量,进行自适应动态惯性权重设置,使算法在全局寻优和局部寻优之间达到良好平衡。选取10个典型测试函数,将改进后的粒子群算法(RMSPSO)与4个主流粒子群算法进行实验对比分析,实验结果表明,在单峰、多峰和组合函数上,RMSPSO算法在收敛速度和收敛精度上取得了明显进步。 展开更多
关键词 粒子群算法 rmsprop算法 自适应 梯度下降 惯性权重
下载PDF
基于RMSprop的高精度GNSS-R镜点快速预测算法
4
作者 盛志超 周勃 +2 位作者 秦瑾 顾斯祺 孟婉婷 《无线电工程》 北大核心 2021年第10期1057-1063,共7页
从全球导航卫星系统反射信号(Global Navigation Satellite System Reflectometry,GNSS-R)测高应用中对镜面反射点的高精度需求出发,利用GNSS-R空间几何位置关系和机器学习中的RMSprop(Root Mean Square Prop)算法对镜面反射点问题进行... 从全球导航卫星系统反射信号(Global Navigation Satellite System Reflectometry,GNSS-R)测高应用中对镜面反射点的高精度需求出发,利用GNSS-R空间几何位置关系和机器学习中的RMSprop(Root Mean Square Prop)算法对镜面反射点问题进行研究,提出了一种基于RMSprop的高精度镜面反射点预测算法,该算法能够实现对学习率的自适应调整,加速梯度下降,提高算法的收敛性能。仿真结果表明,该算法收敛快,精度高。 展开更多
关键词 全球导航卫星反射信号 镜面反射点 rmsprop 梯度下降
下载PDF
可实现双向自适应差分隐私的联邦学习方案
5
作者 李洋 徐进 +1 位作者 朱建明 王友卫 《西安电子科技大学学报》 EI CAS CSCD 北大核心 2024年第3期158-169,共12页
随着个人数据的爆发式增长,基于差分隐私的联邦学习模型可用于解决数据孤岛问题和保护用户数据隐私,参与者通过训练本地数据,将添加噪声后的参数共享到中心服务器进行聚合,实现分布式机器学习训练。此过程中存在两方面问题:①中心服务... 随着个人数据的爆发式增长,基于差分隐私的联邦学习模型可用于解决数据孤岛问题和保护用户数据隐私,参与者通过训练本地数据,将添加噪声后的参数共享到中心服务器进行聚合,实现分布式机器学习训练。此过程中存在两方面问题:①中心服务器广播参数的过程中数据信息仍未受到保护,有泄露用户隐私的风险;②对参数过度添加噪声会导致参数聚合质量降低,影响最终联邦学习的模型精度。为解决以上问题,提出了一种可实现双向自适应差分隐私的联邦学习方案(FedBADP),对客户端和中心服务器之间传输的梯度进行自适应加噪,在保护数据安全的同时不影响模型准确率。考虑到参与者硬件设备的性能限制,文中对其梯度进行采样以减少通信开销,并在客户端和中心服务器使用均方根传递加速模型的收敛提高模型精度。实验结果证明,文中提出的模型框架在保持较好准确率的同时,也增强了用户的隐私保护能力。 展开更多
关键词 双向自适应噪声 均方根传递 采样 差分隐私 联邦学习
下载PDF
螺髻山北麓地下水化学特征与水质评价 被引量:1
6
作者 吴君毅 刘洪 +5 位作者 欧阳渊 李樋 张景华 张腾蛟 黄勇 段声义 《西北地质》 CAS CSCD 北大核心 2023年第5期151-164,共14页
为研究川西大凉山区螺髻山北麓地下水化学特征、演化机制以及评价地下水质现状,笔者系统采集研究区不同地段的15组地下水样品为研究对象。利用Gibbs图解法、离子比例系数法和基于RMSprop算法的BP神经网络评价法,探讨该地区地下水化学特... 为研究川西大凉山区螺髻山北麓地下水化学特征、演化机制以及评价地下水质现状,笔者系统采集研究区不同地段的15组地下水样品为研究对象。利用Gibbs图解法、离子比例系数法和基于RMSprop算法的BP神经网络评价法,探讨该地区地下水化学特征演化机制,评价地下水质现状,支持服务帮助当地合理开发和安全利用水资源。结果表明研究区水化学类型以Mg^(2+)·Ca^(2+)−HCO_(3)^(–)为主,其水化学离子的形成主要以岩土风化溶滤作用为主,由硅酸盐矿物与碳酸盐矿物共同控制,硅酸盐矿物控制更显著。结合地质背景,认为硅酸盐矿物主要来自火山碎屑岩类、花岗岩类、砂岩类和泥质岩类等岩石。利用BP神经网络对5000组地下水样本学习训练,对研究区样本进行评价,模型训练图像表明BP神经网络能很好拟合地下水样本训练集并且对测试集进行客观准确的判断。研究区地下水评价结果显示:Ⅰ类水质点占13.3%,Ⅱ类水质点占40%,Ⅲ类水质点占46.6%,整体水质较好,建议Ⅲ类水质地区普格县特尔果乡甲甲沟村、普格县特补乡白庙子需要加强地下水污染源调查以及水质保护。 展开更多
关键词 地下水化学 螺髻山北麓 水质评价 BP神经网络 rmsprop算法
下载PDF
Optimal Deep Convolutional Neural Network with Pose Estimation for Human Activity Recognition 被引量:1
7
作者 S.Nandagopal G.Karthy +1 位作者 A.Sheryl Oliver M.Subha 《Computer Systems Science & Engineering》 SCIE EI 2023年第2期1719-1733,共15页
Human Action Recognition(HAR)and pose estimation from videos have gained significant attention among research communities due to its applica-tion in several areas namely intelligent surveillance,human robot interaction... Human Action Recognition(HAR)and pose estimation from videos have gained significant attention among research communities due to its applica-tion in several areas namely intelligent surveillance,human robot interaction,robot vision,etc.Though considerable improvements have been made in recent days,design of an effective and accurate action recognition model is yet a difficult process owing to the existence of different obstacles such as variations in camera angle,occlusion,background,movement speed,and so on.From the literature,it is observed that hard to deal with the temporal dimension in the action recognition process.Convolutional neural network(CNN)models could be used widely to solve this.With this motivation,this study designs a novel key point extraction with deep convolutional neural networks based pose estimation(KPE-DCNN)model for activity recognition.The KPE-DCNN technique initially converts the input video into a sequence of frames followed by a three stage process namely key point extraction,hyperparameter tuning,and pose estimation.In the keypoint extraction process an OpenPose model is designed to compute the accurate key-points in the human pose.Then,an optimal DCNN model is developed to classify the human activities label based on the extracted key points.For improving the training process of the DCNN technique,RMSProp optimizer is used to optimally adjust the hyperparameters such as learning rate,batch size,and epoch count.The experimental results tested using benchmark dataset like UCF sports dataset showed that KPE-DCNN technique is able to achieve good results compared with benchmark algorithms like CNN,DBN,SVM,STAL,T-CNN and so on. 展开更多
关键词 Human activity recognition pose estimation key point extraction classification deep learning rmsprop
下载PDF
基于多尺度卷积神经网络的滚动轴承故障识别
8
作者 张志艺 李光亚 +1 位作者 王子一 李旭卿 《单片机与嵌入式系统应用》 2023年第12期88-91,共4页
针对当前基于卷积神经网络的滚动轴承故障信号识别多采用单一尺度卷积核,对特征提取不充分、多尺度特征难提取,且超参数选取多依据人工经验等问题,提出一种多尺度卷积神经网络识别方法。首先,直接将原始时域信号作为输入,可有效保留原... 针对当前基于卷积神经网络的滚动轴承故障信号识别多采用单一尺度卷积核,对特征提取不充分、多尺度特征难提取,且超参数选取多依据人工经验等问题,提出一种多尺度卷积神经网络识别方法。首先,直接将原始时域信号作为输入,可有效保留原始信号特征且不需要人们对故障机理、信号处理专业知识的认识。其次,通过多尺度卷积神经网络对信号特征学习,并引入粒子群优化算法来寻求最优的尺度信息。最后,用滚动轴承数据集来验证模型性能,并与其他模型做对比。实验结果表明,本文模型平均识别准确率达到99.45%,高于其他模型,且抗噪声能力优于其他模型,证明所提方法具有可行性。 展开更多
关键词 卷积神经网络 故障识别 ADAM rmsprop
下载PDF
基于改进LSTM的大型港口集装箱吞吐量预测 被引量:1
9
作者 聂超 常建 +1 位作者 王大伟 姜橙华 《珠江水运》 2023年第21期46-50,共5页
港口集装箱吞吐量通常可以反映一个地区或国家的进出口贸易状况,为帮助港口运营者有效安排货物装卸、堆存、运输作业,提升港口运营效率,降低运营成本,提出一种基于RMSProp算法改进LSTM模型的方法,对某大型综合类港口集装箱吞吐量进行预... 港口集装箱吞吐量通常可以反映一个地区或国家的进出口贸易状况,为帮助港口运营者有效安排货物装卸、堆存、运输作业,提升港口运营效率,降低运营成本,提出一种基于RMSProp算法改进LSTM模型的方法,对某大型综合类港口集装箱吞吐量进行预测,并将预测结果与传统的单变量Arima模型预.测结果做对比。结果表明,改进的LSTM模型预测结果误差MAPE和RMSE值分别2.01和93.31,优于Arima模型的3.38和152.45,能够更准确地对集装箱吞吐量进行预测。 展开更多
关键词 集装箱吞吐量 rmsprop算法 LSTM模型 ARIMA模型
下载PDF
随钻测井数据有损压缩算法改进探讨与应用
10
作者 宋山 赵小勇 +3 位作者 付华才 连太炜 张正炳 罗明璋 《钻采工艺》 CAS 北大核心 2023年第6期170-176,共7页
常规随钻测井一般采取泥浆脉冲传输技术,泥浆脉冲传输技术数据传输速率受限于自身的编码、解码及算法方式,已经难以满足日益增长的钻井工程数据传输需求,而常用于随钻测井的差分脉冲编码调制算法主要存在两个方面的缺陷:当原始数据变化... 常规随钻测井一般采取泥浆脉冲传输技术,泥浆脉冲传输技术数据传输速率受限于自身的编码、解码及算法方式,已经难以满足日益增长的钻井工程数据传输需求,而常用于随钻测井的差分脉冲编码调制算法主要存在两个方面的缺陷:当原始数据变化剧烈时,部分解码数据误差较大,导致该部分解码数据不可信;另外,其压缩倍数较低。由于数据压缩技术有助于在保持泥浆脉冲传输技术硬件不变和信号传输速率不变的情况下有效提高其数据等效传输速率,文章对差分脉冲编码调制做了改进,将非均匀量化与均方根传播梯度下降法相结合,有效减小了解码数据的误差,并利用Huffman编码对非均匀量化编码结果做进一步压缩来提高压缩倍数。经过生产测试,结果表明:本文算法对电阻率数据和伽马数据的等效传输速率达到1.588 bit/s和1.782 bit/s,高于差分脉冲编码调制算法的1.164 bit/s和1.163 bit/s,压缩倍数分别达到了2.73倍和3.06倍,高于差分脉冲编码调制的2.00倍。同时,解码数据与采集数据信噪比分别达到27.97 dB和26.62 dB,高于差分脉冲编码调制的23.66 dB和19.15 dB。由此可见,本文改进算法在有效提升了差分脉冲编码调制的压缩倍数的同时减小了解码数据误差,对于提高泥浆脉冲传输技术在同样硬件条件情况下的等效传输速率具有重要意义。 展开更多
关键词 随钻测井 差分脉码调制 HUFFMAN编码 数据压缩 泥浆脉冲 均方根传播梯度下降法
下载PDF
表贴式永磁电机各次电流引起径向振动的机理分析及综合抑制策略 被引量:6
11
作者 康乐 夏加宽 +2 位作者 苏航 宋孟霖 张荣津 《电工技术学报》 EI CSCD 北大核心 2022年第18期4638-4650,共13页
变频驱动三相永磁电机绕组中含有各频次对称电流和非对称电流,甚至还有直流分量,在电机极槽磁导调制作用下,这些电流磁场与永磁磁场相互作用都会引起电机的径向振动。该文对样机的三相电流进行分析,分别推导出基波、直流分量、对称倍频... 变频驱动三相永磁电机绕组中含有各频次对称电流和非对称电流,甚至还有直流分量,在电机极槽磁导调制作用下,这些电流磁场与永磁磁场相互作用都会引起电机的径向振动。该文对样机的三相电流进行分析,分别推导出基波、直流分量、对称倍频电流和非对称倍频电流的径向磁动势,根据麦克斯韦磁力公式推导出各成分电流引起的径向振动模型,通过样机验证模型的正确性。最后推导出一种多倍频电流注入法的径向振动抑制模型,并设计出一种基于多目标RMSProp优化算法的永磁电机径向振动综合抑振控制策略,通过样机实验验证了该方法的正确性和有效性。 展开更多
关键词 三相永磁同步电机 谐波注入 径向振动 多目标rmsprop优化
下载PDF
梯度动态补偿的无人机姿态解算算法 被引量:2
12
作者 唐俊 赵宏强 李拥祺 《传感器与微系统》 CSCD 北大核心 2021年第8期137-139,143,共4页
针对目前无人机(UAV)姿态解算精度问题,提出了一种基于RMSprop算法的动态步长梯度下降姿态解算算法。算法先利用陀螺仪求解四元数微分方程输出数据,测量物体坐标系下的三轴欧拉角变化率进而得到姿态四元数率;然后利用RMSprop算法进行姿... 针对目前无人机(UAV)姿态解算精度问题,提出了一种基于RMSprop算法的动态步长梯度下降姿态解算算法。算法先利用陀螺仪求解四元数微分方程输出数据,测量物体坐标系下的三轴欧拉角变化率进而得到姿态四元数率;然后利用RMSprop算法进行姿态解算。基于上述理论,采取多传感器数据融合,通过RMSprop算法对姿态四元数进行动态步长寻优估计,增强小型无人机飞行器姿态解算的动态性能,提高无人机的飞行性能、抗干扰性和可靠性。通过传感器数据进行分析对比实验,实验结果表明:该算法具有较高的姿态解算精度和较好的实时跟踪性能。 展开更多
关键词 无人机 rmsprop算法 动态步长 实时跟踪
下载PDF
基于Qtree_ORB算法的电池包图像配准
13
作者 任永强 李润 李掌珠 《组合机床与自动化加工技术》 北大核心 2022年第8期39-43,共5页
为了提高电动汽车电池模组焊点缺陷检测中的图像配准精度,提出一种改进的图像配准优化方法。首先,对图片进行预处理后,使用改进的Qtree_ORB算法得到图像均匀分布的特征点,通过描述符融合对特征点进行描述;其次,经过汉明距离匹配后,通过... 为了提高电动汽车电池模组焊点缺陷检测中的图像配准精度,提出一种改进的图像配准优化方法。首先,对图片进行预处理后,使用改进的Qtree_ORB算法得到图像均匀分布的特征点,通过描述符融合对特征点进行描述;其次,经过汉明距离匹配后,通过空间余弦值进行预筛选并使用渐进抽样一致性算法(PROSAC)得到强匹配点,同时计算出图像变换矩阵;最后,使用RMSProp(root mean square prop)算法对变换矩阵进行优化。实验结果表明该算法在电池包焊点缺陷检测中能有效减少误匹配,且配准速度较快,满足工业检测要求。 展开更多
关键词 Qtree_ORB 描述符融合 空间余弦值 渐进抽样一致性 rmsprop算法
下载PDF
基于并联卷积神经网络的SAR图像目标识别 被引量:5
14
作者 李清 魏雪云 《电波科学学报》 EI CSCD 北大核心 2020年第3期364-371,共8页
基于合成孔径雷达(synthetic aperture radar,SAR)在图像目标识别领域中识别精度低的问题,设计一种利用并联卷积神经网络(convolutional neural network,CNN)来提取SAR图像特征的目标识别方法.首先利用改进的ELU激活函数代替常规的ReLU... 基于合成孔径雷达(synthetic aperture radar,SAR)在图像目标识别领域中识别精度低的问题,设计一种利用并联卷积神经网络(convolutional neural network,CNN)来提取SAR图像特征的目标识别方法.首先利用改进的ELU激活函数代替常规的ReLU激活函数,建立与二次代价函数相结合的深度学习模型.其次采用均方根支柱(root mean square Prop,RMSProp)与Nesterov动量结合的优化算法执行代价函数参数迭代更新的任务,利用Nesterov引入动量改变梯度,从两方面改进更新方式,有效地提高网络的收敛速度与精度.通过对美国国防研究规划局(DARPA)和空军研究实验室(AFRL)共同推出的MSTAR数据集进行实验,实验表明,该文提出的算法能充分提取出SAR图像中各类目标所蕴含的信息,具有较好的识别性能,是一种有效的目标识别算法. 展开更多
关键词 目标识别 卷积神经网络(CNN) ELU rmsprop Nesterov 合成孔径雷达(SAR)
下载PDF
基于神经网络的电池SOC估算及优化方法 被引量:3
15
作者 李永颖 张振东 朱顺良 《计算机测量与控制》 2020年第5期185-189,194,共6页
鉴于锂电池高度非线性和时变性使其剩余电量难以精确估算,影响电池的管理和控制;基于BP神经网络模型,在具有随机噪声干扰下,分析和比较不同架构的深度学习模型对电池剩余电量估算的运算时间和泛化性能,并根据粒子群算法(PSO)、基于Neste... 鉴于锂电池高度非线性和时变性使其剩余电量难以精确估算,影响电池的管理和控制;基于BP神经网络模型,在具有随机噪声干扰下,分析和比较不同架构的深度学习模型对电池剩余电量估算的运算时间和泛化性能,并根据粒子群算法(PSO)、基于Nesterov动量的RMSProp变学习率算法优化模型,结合数学规划设计出不同深度的最优构架,并与多种神经网络模型进行比较;根据实验数据和模型估算结果对比表明:此优化算法能有效减少模型的运算时间,在双隐层最优构架下,SOC平均估算误差在0.1左右。 展开更多
关键词 锂离子电池 SOC 神经网络 粒子群算法 rmsprop
下载PDF
深度学习优化器方法及学习率衰减方式综述 被引量:13
16
作者 冯宇旭 李裕梅 《数据挖掘》 2018年第4期186-200,共15页
深度学习作为现今机器学习领域中的重要的技术手段,在图像识别、机器翻译、自然语言处理等领域都已经很成熟,并获得了很好的成果。文中针对深度学习模型优化器的发展进行了梳理,介绍了常用的梯度下降、动量的梯度下降、Adagrad、RMSProp... 深度学习作为现今机器学习领域中的重要的技术手段,在图像识别、机器翻译、自然语言处理等领域都已经很成熟,并获得了很好的成果。文中针对深度学习模型优化器的发展进行了梳理,介绍了常用的梯度下降、动量的梯度下降、Adagrad、RMSProp、Adadelta、Adam、Nadam、ANGD等优化方法,也对学习率的衰减方式有分段常数衰减、多项式衰减、指数衰减、自然指数衰减、余弦衰减、线性余弦衰减、噪声线性余弦衰减等方法进行了总结,对深度学习现阶段存在的问题以及对未来的发展趋势进行了阐述,为入门深度学习的研究者提供了较为完整的最优化学习材料以及文献支持。 展开更多
关键词 深度学习 优化器 梯度下降 Adagrad rmsprop Adadelta ADAM 学习率衰减
下载PDF
改进Adam优化算法的人脸检测方法 被引量:5
17
作者 李梓毓 赵月爱 《太原师范学院学报(自然科学版)》 2022年第4期58-63,共6页
深度学习中模型优化算法的选择与模型的性能有直接关系.提出了一种改进Adam优化算法的人脸检测方法,在二阶动量计算过程中加入激活函数来调整学习率的变化,从而使得优化算法学习率可以随迭代次数自适应地改变,提高人脸检测网络的收敛性... 深度学习中模型优化算法的选择与模型的性能有直接关系.提出了一种改进Adam优化算法的人脸检测方法,在二阶动量计算过程中加入激活函数来调整学习率的变化,从而使得优化算法学习率可以随迭代次数自适应地改变,提高人脸检测网络的收敛性能,更加精确地检测到人脸.实验结果表明,与RMSProp和原Adam优化算法相比,改进后的算法能够提高人脸检测的精确度,加快网络的收敛速度,同时降低训练时出现的迭代震荡次数,解决无法收敛到局部最优的问题. 展开更多
关键词 Adam优化算法 rmsprop优化算法 人脸检测 自适应
下载PDF
非光滑凸情形Adam 型算法的最优个体收敛速率 被引量:5
18
作者 黄鉴之 丁成诚 +1 位作者 陶蔚 陶卿 《智能系统学报》 CSCD 北大核心 2020年第6期1140-1146,共7页
Adam是目前深度神经网络训练中广泛采用的一种优化算法框架,同时使用了自适应步长和动量技巧,克服了SGD的一些固有缺陷。但即使对于凸优化问题,目前Adam也只是在线学习框架下给出了和梯度下降法一样的regret界,动量的加速特性并没有得... Adam是目前深度神经网络训练中广泛采用的一种优化算法框架,同时使用了自适应步长和动量技巧,克服了SGD的一些固有缺陷。但即使对于凸优化问题,目前Adam也只是在线学习框架下给出了和梯度下降法一样的regret界,动量的加速特性并没有得到体现。这里针对非光滑凸优化问题,通过巧妙选取动量和步长参数,证明了Adam的改进型具有最优的个体收敛速率,从而说明了Adam同时具有自适应和加速的优点。通过求解l_(1)范数约束下的hinge损失问题,实验验证了理论分析的正确性和在算法保持稀疏性方面的良好性能。 展开更多
关键词 机器学习 AdaGrad算法 rmsprop算法 动量方法 Adam算法 AMSGrad算法 个体收敛速率 稀疏性
下载PDF
一种改进的FunkSVD算法
19
作者 岳小琛 刘其成 牟春晓 《烟台大学学报(自然科学与工程版)》 CAS 2022年第3期357-361,378,共6页
为了提高传统FunkSVD算法的准确率,提出了一种改进的FunkSVD算法。该算法以传统FunkSVD为基础,利用深度学习优化算法RMSProp对其进行改进。改进后的算法既能解决因迭代振荡而引起的准确率下降问题,又能缓解数据稀疏对算法准确率的影响,... 为了提高传统FunkSVD算法的准确率,提出了一种改进的FunkSVD算法。该算法以传统FunkSVD为基础,利用深度学习优化算法RMSProp对其进行改进。改进后的算法既能解决因迭代振荡而引起的准确率下降问题,又能缓解数据稀疏对算法准确率的影响,从而达到提高算法准确率的效果。实验结果表明,本文提出的算法有效提高了推荐算法的准确率,优于传统FunkSVD推荐算法以及其他改进的FunkSVD算法。 展开更多
关键词 深度学习 FunkSVD 梯度下降法 rmsprop
下载PDF
比例风险模型下参数极大似然估计的自适应优化算法及其改进算法 被引量:2
20
作者 林文强 《数学杂志》 2020年第3期363-378,共16页
自适应优化算法可避免很多常用数值算法遭遇的困难,例如:高维矩阵求逆问题,初值选取的问题和算法的收敛问题等等.因此,自适应优化算法得到了迅速的发展和广泛的应用,本文研究了比例风险模型下的自适应优化算法.首先利用三种自适应优化算... 自适应优化算法可避免很多常用数值算法遭遇的困难,例如:高维矩阵求逆问题,初值选取的问题和算法的收敛问题等等.因此,自适应优化算法得到了迅速的发展和广泛的应用,本文研究了比例风险模型下的自适应优化算法.首先利用三种自适应优化算法-Adam算法、RMSprop算法、Adagrad算法求解比例风险模型下的参数估计数值解问题,获得了自适应算法的计算优良性.然后,推广了比例风险模型下的Adam算法的研究,发展了一种改进的Adam算法,进一步提高了算法的计算速度并展现了其计算优势. 展开更多
关键词 Adam算法 rmsprop算法 Adagrad算法 比例风险模型
下载PDF
上一页 1 2 下一页 到第
使用帮助 返回顶部