脑电情感识别中多上下文向量优化的卷积递归神经网络

目前的脑电(EEG)情感识别模型忽略了不同时段情感状态的差异性,未能强化关键的情感信息。针对上述问题,提出一种多上下文向量优化的卷积递归神经网络(CR-MCV)。首先构造脑电信号的特征矩阵序列,通过卷积神经网络(CNN)学习多通道脑电的空间特征;然后利用基于多头注意力的递归神经网络生成多上下文向量进行高层抽象特征提取;最后利用全连接层进行情感分类。在DEAP(Database for Emotion Analysis using Physiological signals)数据集上进行实验,CR-MCV在唤醒和效价维度上分类准确率分别为88.09%和89.30%。实验结果表明,CR-MCV在利用电极空间位置信息和不同时段情感状态显著性特征基础上,能够自适应地分配特征的注意力并强化情感状态显著性信息。

基于BIRCH聚类和递归神经网络的高铁强风预警算法

针对高铁临近风速预测需要克服数据的无周期性规律以及随机性较强的问题,构建了一种基于BIRCH聚类和LSTM递归神经网络算法的临近风速预测预警系统。该系统先做历史数据的交叉验证,然后用BIRCH进行在线增量聚类,最后根据聚类结果选取最接近当前预测时间序列的数据做LSTM的滚动训练并进行预测后得出预报预警结果,因此具有无需依赖数值预报产品以及随机数据适应性强的特点。实验证明,该系统的两种算法同时并行化在线运转,运行效率较高,预测效果较好,是解决强风预警问题的一种新方法。

基于递归神经网络算法的电子物流配送系统配送路径优化

传统电子物流配送系统无法有效优化配送路径,需要花费大量的时间进行路径搜索,从而导致分配成本的增加和效率的降低。因此,提出了递归神经网络算法(RNNs)的物流分布路径优化模型,并将递归模糊神经网络算、与布谷鸟搜索算法(CSA)与群体智能算法(ACO)进行电子商务物流分布路径比较。实验结果表明,递归模糊神经网络算法可以实现电子商务物流分布路径的优化,与群体智能算法和布谷鸟搜索算法相比,递归神经网络算法的最优路径长度分别减少3.7 km和3.5 km,并且在迭代200次数的条件下,递归神经网络算法可以获得最短配送路径。

递归神经网络下多属性信息模糊推荐仿真

由于海量信息资源的搜索需要较高的时间成本,因此信息推荐已经成为解决当前网络资源交互环境信息过载问题的关键方法。但是多属性信息数据结构复杂,单属性数据推荐算法难以取得理想的精度和结果。考虑用户信任信息形式和传播路径,提出基于递归神经网络的多属性信息模糊推荐算法。利用递归神经网络结构,存储用户历史兴趣信息。通过用户对项目的感兴趣程度建立评分矩阵,利用余弦相似性的思想计算项目属性相似性、综合相似性以及用户相似性。引入权值因子,将综合相似性与用户相似性的预测评分线性整合,得到多属性信息推荐列表,选取top-N推荐给用户。实验测试结果显示,提出方法下列表内相似性指标值ILS始终小于0.3,推荐精准度高于90%,平均绝对误差可控制在0.2以下。以上所得数据均可证明所提方法可综合考虑目标的多属性特征,为用户推荐感兴趣程度最高的对象。

递归神经网络下混合属性信息推荐仿真

信息量的大幅增加,导致用户无法从推荐的海量数据中提取到所需的信息。为了解决上述问题,提出一种基于递归神经网络的混合属性信息推荐算法。通过数据预处理方法,删除没有任何信息评分的混合属性信息,并挖掘用户和混合属性信息之间的关系。采用已评分混合属性信息,融合极度梯度提升树(eXtreme Gradient Boosting, XGBoost)算法对混合属性信息分类。构建递归神经网络模型,采用梯度下降法对模型训练,获取用户对各个混合属性信息的概率值,并将其按照从大到小的顺序排列,形成推荐列表直接推送给用户完成推荐。实验结果表明,所提方法的HR值得到了提高,且NDCG取值的平均值为0.805,全面提升推荐结果的准确性。

具有一类不连续非单调激活函数的时滞递归神经网络的多稳定性分析

本文提出了一类不连续非单调激活函数,研究了具有这类激活函数的时滞递归神经网络的多稳定性。根据激活函数的几何特性和不动点定理,给出充分条件确保n维神经网络至少存在7n个平衡点,其中4n个是局部指数稳定的。然后,我们将结果推广到更一般的情况。在不增加充分条件的情况下,本文通过增加激活函数峰值点的数量k,得到n维神经网络可以具有 (2k+3)n 平衡点,其中是 (k+2)n 局部指数稳定的。与之前文献相比,总平衡点和稳定平衡点的数量大大地增加了,从而提高了递归神经网络的存储容量。最后,给出了一个例子来证明我们的理论结果。

基于递归神经网络的机器人手臂轨迹跟踪控制

针对机器人手臂在连续变化的过程中不能及时跟随运动矩阵变化而导致的控制精度不高的问题,提出了一种基于递归神经网络的机器人手臂轨迹跟踪控制方法。首先建立了机器人手臂的动力学数学模型,并设计了机器人手臂的轨迹跟踪控制器。然后基于递归神经网络建立了轨迹跟踪线性变化参数模型,对机器人手臂运动轨迹进行实时调整,并通过求解静态反馈控制数值,实现了控制器参数的在线调整来适应外界环境的变化,从而有效改善了机器人手臂运动控制的精度。实验结果表明:所提方法具备更好的鲁棒性和较高的控制精准度,平均轨迹跟踪误差仅为0.008 m。研究结果可为机器人手臂的高精度控制提供理论支持。

基于递归神经网络的藏语语音转文本应用研究

本文针对藏语中的卫藏方言,探讨了自动语音识别(automatic speech recognition,ASR)技术在语音识别模型构建方面的应用。利用时间递归神经网络(recurrent neural network,RNN)及其变体来提升ASR系统的性能。通过引入LAS(listen,attend and spell)模型,并结合多任务学习框架、深度卷积神经网络和改进的注意力机制,显著提升了ASR系统的性能。在实验中,改进后的LAS模型在测试集和训练集上的词错误率分别达到了12.40%和16.23%,实验结果验证了方法的有效性。

基于递归神经网络的非结构化数据加密存储

为实现非结构化大数据的安全存储并提高其抗攻击能力,提出了基于递归神经网络的非结构化数据加密存储方法。通过分块处理医院非结构化大数据,获得输入、输出张量,构建基于LSTM的递归神经网络,生成医院大数据序列;通过向前反馈和向后反馈获得加密数据,将加密后数据包用加密后源数据包的线性组合代替;再设计基于列不满秩概率存储算法,通过加密存储子节点控制器分配加密存储任务。实验结果表明:该方法具有较强的抗攻击能力,存储效率优势更显著。

时滞递归神经网络的全局指数同步

本文主要讨论了时滞递归神经网络中,驱动系统和响应系统的全局指数同步问题。本文首先考虑到时滞前后模板元素设计了驱动系统,为了直观地看出全局指数同步效果设计了误差相关的控制器;其次构造了Lyapunov泛函并用Filippov解证明了本文设计的控制器的可行性;最后通过实验发现本文设计的控制器可以使驱动和响应系统达到全局指数同步的效果。

海南大学信息与通信工程学院教授郭东生 设计递归神经网络 提高机器人复杂运动精度

递归算法被认为是计算机科学中十分重要的概念,可以被用于解决很多计算机科学问题。学界普遍认为,计算理论证明递归的作用可以用来完全取代循环,所以在很多函数编程语言中习惯用递归来实现循环。在此背景下,Hopfield网络于20世纪80年代被学界广泛认可。Hopfield网络从不同的视角观察了人类的学习系统。

基于改进递归神经网络的同步电机短路故障模式识别

电力系统故障可能导致网络设备损坏等问题,从而降低网络可靠性,是故障定位运营商的基本任务之一。为提升同步发电机三相短路状态故障诊断的准确率,基于改进递归神经网络对同步电机短路故障进行了模式识别研究,建立了同步发电机的电气、机械和短路故障模型,利用MATLAB/Simulink对短路故障进行了建模和仿真。通过对比仿真,研究了基于改进型递归神经网络和BP神经网络模型的故障诊断,结果表明前者精确程度更高。

门控递归神经网络处理不规则时间序列数据综述

随着多传感器系统的发展以及非结构化手工数据记录机制的持续使用,不规则时间序列数据越来越普遍。不规则数据和由此产生的缺失值严重限制了对数据进行分析和建模以完成分类和预测任务的能力。通常情况下,用于处理时间序列数据的传统方法会引起偏差,并对底层数据的生成过程进行强假设,这可能会导致较差的模型预测结果。传统的机器学习和深度学习方法虽仍处于数据建模的前沿,但最多只能受到不规则时间序列数据集的影响,无法对不完整时间序列的时间不规则性进行建模。门控递归神经网络(RNN),如LSTM和GRU,在序列建模方面取得了突出的成绩,并在许多应用领域得到了应用,如自然语言处理。这些模型已成为时间序列建模的良好选择,也是处理不规则时间序列数据的重要工具。文中重点介绍了处理不规则时间序列数据的两种常用方法,即在数据预处理阶段输入缺失值以及在学习过程中修改算法从而直接处理缺失值,旨在介绍这一研究分支中出现的有效的技术,以便研究人员创造出进一步处理不规则时间序列数据的新技术。

递归神经网络的研究进展

递归神经网络作为深度学习领域下的一个领域,备受学者们的关注。递归神经网络因其独有的自反馈特点,能够完成其它神经网络所不能完成的任务,因而受到研究者的喜爱。递归神经网络和各种不同的模型搭建所生产的效果功能都不同。本文首先介绍了递归神经网络原理以及它的分类方法;其次对递归神经网络在理论上的最新研究进展做了一个分析与介绍,主要包括全局指数稳定性方面的研究,时滞递归神经网络以及其它递归神经网络在某些个类方法下的研究进展;最后对递归神经网络在应用领域的研究进展做一个介绍,主要对学者们研究较多的图像处理的应用,语音数据的文本处理的进展做一个介绍。

基于卷积递归神经网络和核超限学习机的3D目标识别

针对大规模RGB-D数据集中存在的深度线索质量和非线性模型分类问题,提出基于卷积递归神经网络和核超限学习机的3D目标识别方法.该方法引入深度图编码算法,修正原始深度图中存在的数值丢失和噪声问题,将点云图统一到标准角度,形成深度编码图,并结合原始深度图作为新的深度线索.利用卷积递归神经网络学习不同视觉线索的层次特征,融入双路空间金字塔池化方法,分别处理多线索特征.最后,构建基于核方法的超限学习机作为分类器,实现3D目标识别.实验表明,文中方法有效提高3D目标识别率和分类效率.

基于多尺度时间递归神经网络的人群异常检测

如何在人群密度大、变化快、存在大量遮挡的密集场景中实现可靠的人群事件检测,是领域研究的难点和热点.在密集场景时空建模的基础上提出了一种基于多尺度时间递归神经网络的人群异常事件检测和定位方法.首先对人群场景进行网格化划分,并利用多尺度光流直方图对每个网格的人群动态进行刻画;然后,连接各个局部的人群动态获得整体的人群动态,实现整体人群动态的时间序列建模;最后,利用多尺度时间递归神经网络实现异常事件的检测和定位.其中,多尺度隐含层实现了密集场景中不同规模相邻网格之间的空间联系,节点间的反馈关系则为时间维度上的关系表达提供了有效方案.与多种代表性算法的对比实验,验证了本方法的有效性.

优化相空间近邻点与递归神经网络融合的短期负荷预测

根据在相空间重构拓扑近邻点的时间演化原理,提出了优化近邻点(optimal neighbor points, ONP)的短期负荷预测(Short-term load forecasting, STLF)法,它可克服伪近邻点在高嵌入维对局域动力学估计的不利影响,以提高预测精度。在此基础上,又提出ONP与递归性时延神经网络(Time Delay Neural Network, TDNN)模型融合的STLF法, 具有动态性能的TDNN是按优化近邻相点的演化轨迹构造,是属于对预测点跟踪的智能辩识动态行为模型。它能增强模型对系统动力学的联想性和泛化能力,使预测精度提高一倍以上。该文经两类不同负荷系统周、日预测仿真测试,证实所研究的预测模型能有效、稳定地提高预测精度,且有高的适应能力,为基于相空间理论预测法用于实际取得有效的进展。

基于蚁群优化算法递归神经网络的短期负荷预测

为了克服BP算法收敛速度慢和易于陷入局部最小的不足,作者提出将蚁群优化算法用于短期负荷预测的递归神经网络模型学习算法,对实际负荷系统日、周预测的仿真测试表明,该模型能有效地提高短期负荷预测的精度,对工作日和休息日都具有良好的稳定性和适应能力,其预测性能明显优于基于BP算法的递归神经网络(BP-RNN)和基于遗传算法的递归神经网络(GA-RNN)。

基于动态递归神经网络的超磁致伸缩驱动器精密位移控制

由于内在的滞回非线性,超磁致伸缩驱动器(GMA)会在开环系统中引起定位误差,在闭环系统中造成系统不稳定。为了克服这个问题,将动态递归神经网络(DRNN)前馈和PD反馈控制器相结合,提出了一种实时滞回补偿控制策略,以期实现GMA的精密位移跟踪控制。DRNN控制器是根据GMA的滞回特性构造的,通过反馈误差学习方案在线学习GMA的逆滞回模型。仿真结果表明该控制策略能适应GMA滞回特性随机械负载、输入信号的变化,在线建立GMA的滞回逆模型,从而消除滞回非线性的影响,实现GMA的精密控制。

基于递归神经网络的语音识别快速解码算法

递归神经网络(Recurrent Neural Network,RNN)如今已经广泛用于自动语音识别(Automatic Speech Recognition,ASR)的声学建模。虽然其较传统的声学建模方法有很大优势,但相对较高的计算复杂度限制了这种神经网络的应用,特别是在实时应用场景中。由于递归神经网络采用的输入特征通常有较长的上下文,因此利用重叠信息来同时降低声学后验和令牌传递的时间复杂度成为可能。该文介绍了一种新的解码器结构,通过有规律抛弃存在重叠的帧来获得解码过程中的计算开销降低。特别地,这种方法可以直接用于原始的递归神经网络模型,只需对隐马尔可夫模型(Hidden Markov Model,HMM)结构做小的变动,这使得这种方法具有很高的灵活性。该文以时延神经网络为例验证了所提出的方法,证明该方法能够在精度损失相对较小的情况下取得2~4倍的加速比。