-
题名基于图片问答的静态重启随机梯度下降算法
被引量:5
- 1
-
-
作者
李胜东
吕学强
-
机构
中国人民大学信息学院
廊坊燕京职业技术学院计算机工程系
网络文化与数字传播北京市重点实验室(北京信息科技大学)
-
出处
《计算机研究与发展》
EI
CSCD
北大核心
2019年第5期1092-1100,共9页
-
基金
国家自然科学基金项目(61671070)
国家语委十三五科研规划2017年度重点项目(ZDI135-53)
网络文化与数字传播北京市重点实验室开放课题(ICDD201505)This work was~~
-
文摘
图片问答是计算机视觉与自然语言处理交叉的多模态学习任务.为了解决该任务,研究人员提出堆叠注意力网络(stacked attention networks, SANs).研究发现该模型易陷入不好的局部最优解,引发较高的问答错误率.为了解决该问题,提出基于图片问答的静态重启随机梯度下降算法.实验结果和分析表明:它的准确率比基准算法提高0.29%,但其收敛速度慢于基准算法.为了验证改善性能的显著性,对实验结果进行统计假设检验.T检验结果证明它的改善性能是极其显著的.为了验证它在同类算法中的有效性,将该算法和当前最好的一阶优化算法进行有效性实验,实验结果和分析证明它更有效.为了验证它的泛化性能和推广价值,在经典的Cifar-10数据集上进行图像识别实验.实验结果和T检验结果证明:它具有良好的泛化性能和较好的推广价值.
-
关键词
图片问答
堆叠的注意力网络
动量
静态重启
随机梯度下降
-
Keywords
image question answering
stacked attention networks (SANs)
momentum
static restart
stochastic gradient descent (SGD)
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-