基于卷积神经网络的逐级唤醒存内计算控制器设计

随着人工智能的发展,边缘端设备对智能图像处理的需求急剧增加。目前边缘端设备主要面临能量受限、吞吐率较低等问题。无人机在侦察过程中,根据任务要求需进行复杂的地形分析、物体识别和环境监测等任务,这些任务常常会给设备带来严重的功耗问题,并且严重影响无人机的飞行时间。针对上述问题,提出一种基于卷积神经网络的逐级唤醒存内计算控制器设计方案,控制器内部能够完成分类型网络的前向推理,可根据分类结果唤醒对应的边缘端设备。控制器的模拟部分采用存算一体计算模式,数字部分采用分块的处理方式,在运行过程中可将空闲模块休眠,以降低系统的整体功耗。此外,控制器内部还集成了级联接口,可以将复杂任务分解为多个层级的子任务,并将其部署到级联的控制器上,从而实现多级唤醒,使系统具备提前输出的潜力。实验采用ResNet-14作为神经网络模型,数据集采用CIFAR-10数据集。实验结果表明,在10 MHz的时钟频率下,基于卷积神经网络的逐级唤醒存内计算控制器可以实现60帧/s的检测帧率,并且分类精度达到84.61%,验证了该架构在能量受限应用场景下的可行性和高效性。

基于SSA-LSTM模型的IGBT时间序列预测研究

针对绝缘栅双极型晶体管(IGBT)长工作周期导致的老化失效问题,提出一种基于麻雀搜索算法(SSA)优化长短期记忆(LSTM)网络的IGBT时间序列预测方法。首先分析IGBT疲劳失效的原因,选取某IGBT老化数据集中的集射极峰值电压为失效特征量,进行二次指数滤波以增大数据下降趋势。然后利用Matlab搭建LSTM模型,并采用SSA对网络模型中学习率、隐藏层节点数和训练次数进行寻优以得到最优网络。最后选取常用回归预测性能评估指标对LSTM模型与SSA-LSTM模型预测结果进行对比分析。结果表明,SSA-LSTM模型的预测结果平均绝对误差、均方根误差及平均绝对百分比误差分别降低了0.016%、0.022%和0.202%,证明所提方法预测精度高,可在一定程度上评估IGBT的寿命。

基于用户长短期兴趣的自注意力序列推荐

用户的行为序列既包含了用户的短期兴趣,也包含了用户的长期偏好。针对此类问题,提出一个基于用户长短期兴趣的自注意力模型。使用循环神经网络来处理变长的用户序列,得到用户的长期兴趣表示;用自注意力网络计算序列中的每个项目对预测用户下一次交互项目的重要性程度,得到用户的短期兴趣表示;将循环神经网络的输出作为查询输入到自注意力网络中,得到综合长短期兴趣的用户表示,并用这个表示来预测用户的下一次交互。该算法在三个真实世界的数据集上评估了提出的模型,其中命中率指标提高7%~30%。

基于改进DFSMN的非特定人语音识别模型

深度前馈序列记忆网络(Deep Feedforward Sequential Memory Network,DFSMN)是一种识别准确率较高且在非特定人语音识别领域得到良好应用的声学模型,但存在参数冗余、模型训练困难的情况。针对此问题,提出一种基于改进DFSMN的非特定人语音识别模型。该模型改进了DFSMN记忆模块大小和模块之间的连接方式,并结合连接时序分类(Connectionist Temporal Classification,CTC)端到端语音识别框架。实验结果表明,在相同条件下,该改进模型的参数量较之前减少了约1/10,在不同数据集上与几种常见语音识别模型相比,其语音识别字符错误率均最低,在识别准确率和模型训练效率方面具有一定的优越性。

基于改进型BP网络的自动寻路设计与实现

针对静态环境下机器人的自动寻路问题,进行了研究与探索,设计了一类改进型BP神经网络。该网络在结构上以按功能分类的方式取代传统的分层模式,在权值的设置方面参照了组合逻辑电路的基本原理;分析了时序逻辑电路的信息记忆过程,从而进一步赋予神经网络良好的记忆特性;提出一种基于人类寻路思想的路径规划方法。实验结果表明,通过将该寻路算法融入到改进的BP网络中,不仅使寻路的实现变得简单和方便,而且具有较高的实时性与适用性。

基于深度学习序贯检验的电源车故障诊断方法

针对电源车健康维护存在的问题,提出了一种基于长短时间记忆LSTM(Long Short Time Memory)网络与序贯概率比检验SPRT(Sequential Probability Ratio Test)融合的电源车故障诊断方法。该方法基于LSTM网络建立电源车的多变量时间序列模型,并引入SPRT方法进行自适应多样本故障诊断。经在电源车仿真系统上进行对比实验,结果表明LSTM诊断模型有更强的学习和映射能力,LSTM-SPRT融合的故障诊断方法,显著提高了电源车故障诊断的准确率和可靠性。

DFSMN-T:结合强语言模型Transformer的中文语音识别

自动语音识别系统由声学模型和语言模型两部分构成,但传统语言模型N-gram存在忽略词条语义相似性、参数过大等问题,限制了语音识别字符错误率的进一步降低。针对上述问题,提出一种新型的语音识别系统,以中文音节(拼音)作为中间字符,以深度前馈序列记忆神经网络DFSMN作为声学模型,执行语音转中文音节任务,进而将拼音转汉字理解成翻译任务,引入Transformer作为语言模型;同时提出一种减少Transformer计算复杂度的简易方法,在计算注意力权值时引入Hadamard矩阵进行滤波,对低于阈值的参数进行丢弃,使得模型解码速度更快。在Aishell-1、Thchs30等数据集上的实验表明,相较于DFSMN结合3-gram模型,基于DFSMN和改进Transformer的语音识别系统在最优模型上的字符错误率相对下降了3.2%,达到了11.8%的字符错误率;相较于BLSTM模型语音识别系统,其字符错误率相对下降了7.1%。

面向人体行为识别的深度特征学习方法比较

针对人体行为识别问题,比较了两种基于智能手机惯性加速度传感器数据的深度特征学习方法。先将传感器数据进行重叠加窗的预处理;然后将带标签的样本数据直接输入深度网络模型中,通过端到端的特征学习,最终输出行为分类结果。通过对比深度卷积神经网络、长短期记忆网络两种深度学习方法在公开网站UCI的机器学习知识库的人体行为识别数据集上的识别效果。实验结果表明,采用Dropout深度卷积神经网络特征学习方法识别准确率为90.98%,是一种有效的深度特征学习方法。

基于深度学习与SPRT的风电机组齿轮箱轴承状态监测

为提高故障发生率较高的齿轮箱高速轴轴承状态监测效率和准确性,提出了一种基于深度学习模型的状态监测方法。首先采用ReliefF方法初选建模变量,并通过降噪自编码网络对这些变量进行降维处理,使用长短期记忆网络对降维简化后的高速轴轴承温度与其影响变量之间的非线性关系进行建模,然后在监测阶段引入序贯概率比检验方法,捕捉模型预测轴承温度残差的异常变化,及时发出机组运行异常报警,最后以华东地区2台1.5 MW实验机组为例对模型进行验证。结果表明:采用本文方法能够及时准确地发现齿轮箱异常导致的高速轴轴承温度超温,为风电机组齿轮箱状态监测和故障预警提供参考。

基于TDNN-FSMN的蒙古语语音识别技术研究

为了提高蒙古语语音识别性能,该文首先将时延神经网络融合前馈型序列记忆网络应用于蒙古语语音识别任务中,通过对长序列语音帧建模来充分挖掘上下文相关信息;此外研究了前馈型序列记忆网络"记忆"模块中历史信息和未来信息长度对模型的影响;最后分析了融合的网络结构中隐藏层个数及隐藏层节点数对声学模型性能的影响。实验结果表明,时延神经网络融合前馈型序列记忆网络相比深度神经网络、时延神经网络和前馈型序列记忆网络具有更好的性能,单词错误率与基线深度神经网络模型相比降低22.2%。

基于时空双流卷积和长短期记忆网络的松耦合视觉惯性里程计

传统的松耦合视觉惯性里程计需要标定噪声和偏置等参数,而端到端学习的方法耦合性高、普适性低.因此,本文提出了一种由长短期记忆网络融合的端到端松耦合视觉惯性里程计EE-LCVIO(End-to-End Loosely Coupled Visual-Inertial Odometry).首先,在相机位姿和IMU融合部分,构建了一个时序缓存器和由一维卷积神经网络和长短期记忆网络相结合的融合网络;其次,为了解决现有单目深度视觉里程计难以利用长序列时域信息的问题,通过使用相邻图像对和帧间密集光流作为输入,设计了一种基于时空双流卷积的视觉里程计TSVO(Visual Odometry with Spatial-Temporal Two-Stream Networks).与DeepVO最多只能利用5帧图像信息相比,本文提出的视觉里程计可以利用连续10帧图像的时序信息.在KITTI和EUROC数据集上的定性和定量实验表明,TSVO在平移和旋转方面超过了DeepVO的44.6%和43.3%,同时,在传感器数据没有紧密同步的情况下,本文的视觉惯性里程计EE-LCVIO优于传统单目OKVIS(Open Keyframe-based Visual-Inertial SLAM)的78.7%和31.3%,鲁棒性高.与现有单目深度视觉惯性里程计VINet相比,EE-LCVIO获得了可接受的位姿精度,耦合性低,无需标定任何参数.

一种融合注意力和记忆网络的序列推荐算法

传统基于协同过滤和矩阵分解的静态表示推荐算法,不能很好地体现用户的动态兴趣。循环神经网络能够进行序列推荐,但存在序列之间的长距离依赖性差、各项目的区分度差等问题。由此提出一种融合注意力和记忆网络的序列推荐算法,根据Word2vec算法,引申item2vec和user2vec,初始化用户和项目的固定表示嵌入矩阵,通过结合注意力机制和长短期记忆网络(Long Short-Term Memory,LSTM)解决序列之间的长距离依赖性差和区分度差问题。利用记忆网络获取用户的动态邻居,加强用户的动态表示,实现更准确的推荐。通过在MovieLens数据集上的实验结果表明,所提出的算法相比其他算法推荐效果显著提高。

基于CNN与Bi-LSTM的唇语识别研究

针对唇语识别过程中唇部特征提取和时序关系存在的问题,提出一种卷积神经网络(CNN)和双向长短时记忆网络(Bi-LSTM)相结合的深度学习模型。利用CNN学习唇部特征,并将学习到的唇部特征送入Bi-LSTM进行时序编码,通过Softmax进行分类。建立NUMBER DATASET和PHRACE DATASET两个大型汉语数据集以解决汉语唇语数据缺失问题。将该模型与传统的唇语识别方法在两个数据集上进行实验对比,发现在NUMBER DATASET上识别准确率为81.3%,比传统方法提高了8.1%,在PHRACE DATASET上识别准确率为83.5%,比传统方法提高了9%。实验结果表明该模型能有效提高唇语识别的准确率。

递归神经网络研究综述

递归神经网络(RNN)因具存储特性,可以处理前后输入有关系的序列数据,故广泛应用于文本音频、视频等领域.当输入间隙较大时,RNN存在短期记忆问题,无法处理很长的输入序列,而长短期记忆(LSTM)能很好地处理长期依赖性问题.自LSTM提出以来,几乎所有基于RNNs的令人兴奋的结果都是由LSTM实现的,因此LSTM成为深度学习的焦点.综述首先简述了RNN以及LSTM及其几种变体的基本工作原理及特点,然后介绍了RNN和LSTM在某些领域中的应用,最后分析并总结了RNN未来的发展方向.

一种基于前馈序列记忆神经网络的改进方法

针对具有时序性的信号的分析和建模,主流的RNN、LSTM由于反馈连接的影响,在学习效率和稳定上有所不足。本文基于标准的前馈神经网络,借鉴滤波器中的抽头延迟线结构,提出一种改进的前馈序列记忆神经网络FSMN(cFSMN)和深层cFSMN(Deep-cFSMN),实现时序的音视频信号快速建模,减少了反馈连接,具有更高的学习速率和更好的稳定性。

基于非线性堆叠双向网络的端到端声纹识别

传统声纹识别方法过程繁琐且识别率低,现有的深度学习方法所使用的神经网络对语音信号没有针对性从而导致识别精度不够。针对上述问题,本文提出一种基于非线性堆叠双向LSTM的端到端声纹识别方法。首先,对原始语音文件提取出Fbank特征用于网络模型的输入。然后,针对语音信号连续且前后关联性强的特点,构建双向长短时记忆网络处理语音数据提取深度特征,为进一步增强网络的非线性表达能力,利用堆叠多层双向LSTM层和多层非线性层实现对语音信号更深层次抽象特征的提取。最后,使用SGD优化器优化训练方式。实验结果表明提出的方法能够充分利用语音序列信号特征,具有较强的时序全面性和非线性表达能力,所构造模型整体性强,比GRU和LSTM等模型具有更好的识别效果。

动物学习的神经元网络模型

本文提出了一个适用于动物神经系统在自然环境下的学习的神经元网络模型。这一模型可通过学习建立未知感觉物与某一已有行为反应间的正确对应关系。该模型的整个学习过程不需要人的参与。本文还提出了一个新的方法来解决在并行处理模型中如何识别或产生做为整体的具有一定时间顺序的由多个模式构成的序列。

基于GWO-VMD-LSTM的热力系统单参数时间序列预测方法

针对热力系统参数运行数据预测困难、准确率低的问题,基于灰狼算法(Grey Wolf Optimizer,GWO)、变分模态分解(Variational Mode Decomposition,VMD)、长短期记忆模型(Long Short Term Memory,LSTM)提出一种单参数时序预测方法。首先,使用改进适应度函数的GWO对VMD的分解层数和惩罚系数进行寻优;其次,以最优参数对运行数据进行VMD,并将筛选出的本征模态函数(intrinsic mode function,IMF)分量作为原始数据趋势项;最后,以此运行参数趋势项作为LSTM的训练集输入特征向量,构建LSTM,LSTM超参数由北方苍鹰算法(Northern Goshawk Optimization,NGO)得到。经实际案例验证,该方法可以通过降低原始数据的噪声和扰动对LSTM的影响,增加LSTM对热力参数运行趋势的可预测时间长度和预测精度,相较于传统的LSTM,所提方法的有效预测时间长度增加约176%、预测精度提高约158%。

弱GNSS信号下基于EMD和LSTM的车辆位置预测方法研究

针对弱GNSS环境下组合导航(INS/GNSS)系统存在的定位偏差问题,提出一种基于经验模态分解和长短期记忆网络的车辆位置预测算法。首先,针对训练数据中噪声较大的惯导数据,提出一种融合经验模态分解与离散小波变换的降噪算法。该算法基于噪声能量估计和各阶本征模态函数的功率谱密度函数,提出一种确定混合模态函数阶数上下界的方法,并采用离散小波变换硬阈值法对混合模态函数进行滤波处理,最终利用经过处理的各阶模态函数重构原始数据以达到降噪目的。训练数据经过预处理后,采用改进的堆叠式长短期记忆网络离线训练位置预测模型,利用该训练模型可在线实时进行位置预测。针对车辆定位序贯数据预测,提出一种局部数据降噪方法,该方法利用一定长度时间窗口的历史数据,通过线性最小二乘给出当下时刻数据的预估值,并与实际量测值进行滑动平均滤波,优化位置预测的结果。在封闭场地模拟隧道环境下,对长短期记忆网络输入端进行局部数据降噪与不进行降噪处理比较,经度和纬度的归一化均方误差分别下降了13.34%和9.38%,经度和纬度的归一化平均绝对误差分别下降了8.64%和5.41%;在复杂城市交通环境下,检验提出的方法,经度和纬度的归一化均方误差分别下降了6.51%和5.66%,经度和纬度的归一化平均绝对误差分别下降了5.70%和8.23%。试验结果表明,在弱GNSS信号环境下,提出的车辆位置预测方法有效提高了车辆定位精度和稳定性。