求解最短路径问题的Lotka-Volterra回复式神经网络模型

有向图的最短路径(SP)问题是一个优化问题。通过构造有向图的最短路径问题的能量函数,提出了一种Lotka-Volterra(LV)回复式神经网络(RNN)模型,用于求解有向图的最短路径。当LV神经网络迭代收敛到稳定吸引子时,对应的能量函数也达到其能量最小点。因此,通过稳定吸引子可以获取最短路径。实验结果表明,利用LV神经网络模型可以有效地求解有向图中任意两个顶点之间的最短路径。

一种求解旅行商问题的LV回复式神经网络模型

旅行商问题是一个组合优化问题。首先,构造一个能量函数来表示旅行商问题,该能量函数的能量最小点对应一条有效的近似最优访问路径;然后,构造一种LV神经网络模型来求解该能量函数的能量最小点。实验结果表明,本文提出的LV神经网络模型能够收敛到能量最小点,并且与Hopfield网络相比,该LV神经网络模型具有更好的求解性能。

回复式神经网络及其应用研究综述

回复式神经网络是深度学习领域中一类非常强大的神经网络模型,它主要用于处理和预测序列数据.得益于回复式神经网络的"记忆"功能,它和它的变体网络已经被成功应用于多种任务,比如:机器翻译、语音识别、视频行为识别等.本文首先介绍回复式神经网络的发展历程,之后阐述其网络基本原理、计算过程和网络训练方法.针对传统回复式神经网络存在的短期记忆和梯度消失问题,长短时记忆和门控回复式单元网络结构被详细地分析和对比.然后介绍回复式神经网络的热门应用领域及其相关工作.最后结合近年来工业界和学术界关于回复式神经网络的研究进展,本文总结了回复式神经网络的研究发展趋势.

回复式神经网络优化逆运动问题求解

针对传统逆运动问题数值求解算法计算时间长,多解情况下计算结果单调的问题,采用回复式神经网络对逆运动问题进行近似优化求解。通过针对逆运动问题建立基于回复式神经网络的动态求解模型,采用神经元异步更新计算和初始状态扰动,保证多解情况下解运动迹线的多样性。文中算法在无解情况下有较好适应性和稳定性,能迅速收敛到近似最优状态。算法理论计算时间复杂度为O(n2),可满足实时应用的需求。实验对典型对子运动链运动系统进行模拟,结果表明算法具有稳定和收敛性。

回复式离散神经网络的特征子空间估值(英文)

提出了用两种回复式离散神经网络模型研究正定对称矩阵的特征子空间估值问题:第1种模型是非线性神经网络,用于计算最大特征值及其特征向量;第2种模型属于线性神经网络,用于计算相应于最大特征值的特征子空间。详细研究了两种离散神经回路网络模型的动力学性质并用于特征子空间估值。

大数据分析的无限深度神经网络方法

深度神经网络(deep neural networks,DNNs)及其学习算法,作为成功的大数据分析方法,已为学术界和工业界所熟知.与传统方法相比,深度学习方法以数据驱动、能自动地从数据中提取特征(知识),对于分析非结构化、模式不明多变、跨领域的大数据具有显著优势.目前,在大数据分析中使用的深度神经网络主要是前馈神经网络(feedforward neural networks,FNNs),这种网络擅长提取静态数据的相关关系,适用于基于分类的数据应用场景.但是受到自身结构本质的限制,它提取数据时序特征的能力有限.无限深度神经网络(infinite deep neural networks)是一种具有反馈连接的回复式神经网络(recurrent neural networks,RNNs),本质上是一个动力学系统,网络状态随时间演化是这种网络的本质属性,它耦合了"时间参数",更加适用于提取数据的时序特征,从而进行大数据的预测.将这种网络的反馈结构在时间维度展开,随着时间的运行,这种网络可以"无限深",故称之为无限深度神经网络.重点介绍这种网络的拓扑结构和若干学习算法及其在语音识别和图像理解领域的成功实例.

具混合时滞神经网络周期解的存在性和稳定性

避开拓扑度理论的方法,通过利用不等式技巧、矩阵理论和Banach空间的不动点理论,在去掉激活函数有界的条件下,获得周期解的存在性、唯一性和全局指数稳定性的充分条件.

基于Seq2Seq的生成式自动问答系统应用与研究

由于要处理复杂的推理问题,同时要求处理输入序列生成输出序列,生成式自动问答系统被视为成为自然语言处理中一项困难的任务。Seq2Seq模型的提出为序列到序列的生成模型提供一个新的结构基础。基于Seq2Seq基础结构设计并实现一个轻量级的生成式自动问答模型。通过一个综合检验自动问答系统性能的数据集b Ab I-10k,验证与分析基于Seq2Seq的生成式自动问答系统模型在20种不同类型的推理任务上性能。