基于轻量级卷积门控循环神经网络的语声增强方法

针对在基于深度学习语声增强方法中因采用因果式的网络输入导致语声增强性能下降的问题,提出了一种基于轻量级卷积门控循环神经网络的语声增强方法。门控循环神经网络能够建模语声信号的时间相关性,但是其全连接结构忽略了语声信号的时频结构特征,并且参数数量庞大,不利于网络的训练。对此,该文采用卷积核替代门控循环神经网络中的全连接结构,在对语声信号时间相关性建模的同时保留了语声信号的时频结构特征,同时降低了网络的参数数量。为充分利用先前帧的特征信息,该网络单元当前时刻的输入融合了上一时刻的输入与输出。针对网络训练过程中容易产生过拟合的问题,该文采用了线性门控机制来控制信息的传输,这缓解了网络训练过程中的过拟合问题,提高了网络的语声增强性能。实验结果表明,该文所提出的网络结构在增强后的语声感知质量、语声短时客观可懂度、分段信噪比等指标上均优于传统的网络结构。

基于卷积门控循环神经网络的Web攻击检测方法

针对Web应用程序的攻击一直是网络空间对抗的热点问题,随着Web攻击技术的不断发展,传统的入侵检测系统和Web应用防火墙越来越无法满足安全防护需求。针对攻击者在Web请求中嵌入可执行代码或注入恶意代码来构造各种Web攻击,本文设计一种基于特征融合的恶意Web请求检测卷积门控循环单元(CGRU)神经网络。该网络利用CNN捕捉网络事件的局部特征和高阶特征,摒弃了传统的池化方法,采用GRU代替原有的池化层在时间维度上进行特征采集。同时,为了提高检测性能,筛选传统机器学习中在Web攻击检测领域分类效果较好的9个统计特征来增强原始特征。此外,还使用Word2Vec模型对词嵌入矩阵进行预训练,获得CGRU模型的输入,并对最终结果进行分类,有效提高多分类精度。在公开的HTTP CSIC 2010数据集上与当前典型方法进行对比实验,结果表明:本文所提方法的准确率为99.81%,召回率为99.78%,F_(1)值为98.80%,精准率为99.81%,较当前典型方法均有提高。

基于改进卷积门控循环神经网络的刀具磨损状态识别

刀具状态监测直接影响加工质量,对保障加工安全与提高生产效率起着重要作用。针对刀具加工信号分析较为复杂与深度学习求解耗时高的问题,提出一种基于改进卷积门控神经网络的刀具磨损状态识别网络模型。借助卷积神经网络(CNN)实现对数据中空间特性的获取,并利用双向门控循环单元(BiGRU)中数据时序特征处理能力提取原始振动信号的序列特征,将极限学习机(ELM)作为分类器进行刀具磨损状态识别。实验结果表明,在刀具磨损数据样本数量有限的情况下,该方法对于信号数据有较强的分析能力,运算速度快,能达到更好的识别精度。

基于卷积门控循环神经网络的刀具磨损状态监测

针对刀具磨损状态在线监测需求,提出一种基于卷积门控循环神经网络的刀具磨损状态在线监测方法。综合卷积神经网络和门控循环神经网络的优点,构建了卷积门控循环神经网络;以切削力为输入信号,通过小波变换滤除噪声;利用卷积神经网络提取表征刀具磨损状态关键信息的高维特征;通过门控循环神经单元使模型在时间尺度上的累积效应得到充分表达,体现磨损的时序特性。实验表明,在有限的刀具磨损数据样本条件下,通过卷积门控循环神经网络进行刀具磨损状态监测具有较好的效果,其准确率达到97%。

基于改进门控循环神经网络的采煤机滚筒调高量预测

采煤机自适应截割技术是实现综采工作面智能化开采的关键技术。针对采煤机在复杂煤层下自动截割精度较低的问题,提出了一种基于改进门控循环神经网络(GRU)的采煤机滚筒调高量预测方法。鉴于截割轨迹纵向及横向相邻数据之间的相关性,采用定长滑动时间窗法对获取的采煤机滚筒高度数据进行预处理,将输入数据划分为连续、大小可调的子序列,同时处理横向、纵向的特征信息。为提高模型预测效率,满足循环截割的实时性要求,提出了一种用因果卷积改进的门控循环神经网络(CC-GRU),对输入数据进行双重特征提取和双重数据过滤。CC-GRU利用因果卷积提前聚焦序列纵向的局部时间特征,以减少计算成本,提高运算速度;利用门控机制对卷积得到的特征进行序列化建模,以捕捉元素之间的长期依赖关系。实验结果表明,采用CC-GRU模型对采煤机滚筒调高量进行预测,平均绝对误差(MAE)为43.80 mm,平均绝对百分比误差(MAPE)为1.90%,均方根误差(RMSE)为50.35 mm,决定系数为0.65,预测时间仅为0.17 s;相比于长短时记忆(LSTM)神经网络、GRU、时域卷积网络(TCN),CC-GRU模型的预测速度较快且预测精度较高,能够更准确地对采煤机调高轨迹进行实时预测,为工作面煤层模型的建立和采煤机调高轨迹的预测提供了依据。

混合图神经网络和门控循环网络的短期光伏功率预测

为了能从大量历史光伏发电数据中提取出有效的时序特征以及在非欧几里得域中的关联,建立了基于混合图神经网络以及门控循环网络的短期光伏功率预测模型。该模型首先通过最邻近分类算法生成气象及出力数据的最邻近图,再将其结合图神经网络作为编码器对气象及出力数据进行编码形成时间序列,最后通过门控循环网络以及全连接层解码输出光伏功率预测结果。通过仿真分析验证,该模型具有更优的特征挖掘能力和分析性能,能更好地突出某时间节点的气象及出力数据特征,适应天气突变带来特征变化,从而提升光伏预测整体模型的表达能力。

基于门控循环神经网络的边缘服务中心风光荷组合预测方法

边缘计算因数据处理快、低成本和高实时等优点近年来在能源行业中受到广泛关注,而在边缘服务器上开展预测有助于对能源精细化管控。因此,针对边缘服务资源的有限性,基于差分自回归整合移动平均(autoregressive integrated moving average,ARIMA)模型和门控循环单元(gated recurrent unit,GRU)神经网络,提出考虑线性和非线性特征的风、光、荷组合预测方法。ARIMA用于提取源、荷的线性特征,将其与真实值进行拟合,得到包含非线性特征的残差。其次,将残差作为GRU的训练数据集建立预测模型,再引入剪枝和量化方法优化及压缩GRU模型,减小预测模型规模,以适应边缘服务器部署。大量仿真结果表明,所构建的GRU压缩模型规模小、预测精度高,适合边缘服务器的部署应用。

采用门控循环单元神经网络和多特征融合的铣削刀具磨损监测

为实现汽车发动机缸盖生产中刀具磨损状态的监测,提高刀具磨损监测方法的计算效率和识别精度,基于门控循环单元神经网络和多特征融合方法提出了面向铣刀后刀面磨损带宽度识别的刀具状态监测方法。通过铣削力信号数据对所提出方法的有效性进行了验证,分析了不同超参数设置对模型识别精度的影响机制,给出了最优超参数,实现了对铣削刀具磨损的精确识别。

基于多头注意力机制和门控循环单元神经网络的居民充电桩容量预测

居民充电桩的容量预测可为其定容选址提供参考,助力实现“双碳”目标,为此提出了一种基于数据驱动的居民充电桩容量预测方法。首先,采集了居民充电桩的历史容量数据并进行预处理;其次,利用不同大小的时序窗口对其进行切片作为输入特征;最后,构建了结合多头注意力机制和门控循环单元神经网络的预测模型,将特征输入模型从而实现了对未来容量的精准预测。通过实例分析表明,该模型预测结果的平均绝对误差和均方根误差分别为33.19和102.14%,预测精度相较于其他模型有较大提升,为居民充电桩的容量预测提供了新思路。

基于双向多层门控循环神经网络的奶牛乳脂率预测模型研究

通过对奶牛乳脂率进行数据预测以及结合随机森林算法对环境数据进行精准特征选择,确定了对乳脂率影响较大的环境因素。在此基础上,提出了将随机森林算法与双向多层门控循环神经网络相结合的乳脂率预测模型(RF-BiGRU)并进行了相关实验。结果表明,该模型能够提高预测的准确性及效率。

基于卷积循环神经网络的运动想象脑电信号模式识别

脑机接口技术可以帮助运动障碍人员通过外部设备与环境进行交互。为了提高对运动想象激发的脑电信号的识别率,提出一种基于卷积神经网络(Convolutional Neural Network, CNN)和循环神经网络(Recurrent Neural Network, RNN)的混合神经网络模式识别方法,并在实际计算中使用长短期记忆神经网络(Long Short-Term Memory, LSTM)和门控循环单元(Gated Recurrent Unit, GRU)两种不同的RNN进行对比。对原始脑电信号数据进行滤波和分段处理,将处理好的数据输入到混合神经网络中,使用Softmax进行分类,用BCI竞赛IV中的数据集2a和数据集1两种脑电数据集进行验证,此方法能够有效地提高模式识别精度,平均准确率达到了95%以上。

基于循环卷积神经网络的上下文感知协同过滤推荐模型

随着网络信息的爆炸式增长,推荐系统在缓解信息过载和信息迷航问题方面发挥着关键作用.如何更好地利用海量的网络信息挖掘用户的偏好和项目的特征成为当前研究的热点.针对这一热点,本文设计了一种深度混合模型从而更充分的提取文本上下文信息特征辅助推荐,提出的基于循环卷积神经网络的上下文感知协同过滤推荐模型通过利用循环卷积神经网络挖掘项目描述文本上下文信息中的特征,再结合概率矩阵分解实现评分预测.此外,探究利用多头注意力机制重点关注文本上下文信息中的多项重要信息.模型在两个公开数据集ML-100k和ML-10m上进行了实验,实验结果表明,本研究所提出的模型在RMSE和MAE评价指标上相较于广泛使用的基线模型有明显改进,其中RMSE指标在ML-100k数据集上的有效性比aSDAE高出5.42%.

循环相关熵和一维浅卷积神经网络轴承故障诊断

针对传统二维深度卷积神经网络结构复杂、易产生过拟合和难以有效处理低信噪比信号的问题,提出了一种基于循环相关熵和一维浅卷积神经网络的故障诊断-CCe-1D SCNN方法。该方法综合利用了一维浅卷积神经网络结构简单、计算复杂度低和循环相关熵能在低信噪比环境下有效提取故障特征的优点。首先,计算轴承故障振动信号的循环相关熵函数、循环相关熵谱密度函数和广义循环平稳度;其次,将一维归一化的广义循环平稳度作为一维浅卷积神经网络的输入层,通过一维浅卷积神经网络自动实现故障特征提取和模式分类;最后,将CCe-1D SCNN方法应用于电机轴承故障特征提取和分类,实验结果表明:CCe-1D SCNN方法在低噪声比情况下仍能保持很高的模式识别正确率,为一种自动故障特征提取和模式识别的有效方法。

门控循环神经网络的时序PS-InSAR地面沉降预测

为防止中国香港国际机场填海造陆引起的地面沉降对基础设施造成破坏,利用永久散射体合成孔径雷达干涉(PS-InSAR)技术,获得中国香港国际机场2016~2020年地面沉降数据,并利用小基线集雷达干涉(SBAS-InSAR)技术以及水准点数据验证;引入门控循环(GRU)神经网络构建堆叠式GRU地面沉降预测模型,对中国香港国际机场未来地面沉降进行时序预测,并与SVM和MLP神经网络进行比较。结果表明:中国香港国际机场2016~2020年地面沉降空间分布不均匀,累计沉降逐渐增加,2020年12月垂直向的累积沉降量已达106 mm。构建的堆叠式GRU神经网络地面沉降方法相比SVM和MLP更准确,2021年7月中国香港国际机场最大累积地面沉降可达111.8 mm。本文提出的地面沉降时序预测模型,可作为一种有效预测地面沉降的方法,为地面沉降早期预警提供关键技术支持。

基于循环卷积神经网络的排水管网缺陷检测方法

市政排水系统关乎城市道路交通安全,故对其状况进行评估非常重要。在发达国家,闭路电视(CCTV)是下水道评估和维护的主要检测工具,却也为其数据处理带来了新的挑战。本文提出一种基于循环卷积神经网络(RCNN)的排水管网缺陷检测方法。RCNN采用残差网络(ResNet)作为特征提取模块,提取排水管网图像序列的视觉特征,采用双向LSTM学习识别时间特征,以完成排水管网缺陷分类的任务。本文方法将图像序列作为一个整体进行识别。训练集、验证集和测试集共包含8800个图像序列,211200幅图像。经过RCNN模型的训练和测试,测试集的最高准确率为90.3%。将4种不同融合方式引入本文方法并与基于SVM的方法和基于单帧的方法进行了6组对照实验,同时将基于视觉注意力机制的3种融合方法引入本文方并进行了对照实验,实验结果表明,RCNN取平均值的融合实验精度最高(90.3%),召回率达到了0.977,验证了本文方法在工程应用中的可行性。

基于循环神经网络的2-DOF软体机械臂运动建模与控制

因现有软体机械臂材料刚度小、模量不稳定,导致建模与控制难度大.提出一种基于循环神经网络(recurrentneuralnetwork,RNN)的方法,用于二自由度(two-degree-of-freedom,2-DOF)软体机械臂的运动建模与控制.使用动作捕捉仪采集不同气压、负载下的位置坐标,并将其导入门控循环单元(gated recurrentunit,GRU)神经网络模型进行训练.当调节超参数至网络结构最优时,测试集准确度可达98.87%.在此基础上,构建气压与负载到末端位置的映射函数.实验结果表明,本方法可将机械臂的控制精度提升至6»8 mm,显著降低了软体机器人的控制与建模难度.

基于注意力卷积神经网络的视觉里程计

传统的视觉里程计(visual odometry,VO)要求图像含有大量的纹理信息,且求解过程较为复杂。针对以上问题提出基于注意力卷积神经网络的视觉里程计,对相机进行端到端的位姿估计,利用注意力机制提高模型估计轨迹的精度。首先,使用注意力-卷积神经网络(convolutional neural networks,CNN)模块提取图像特征;然后,将特征输入到门控循环单元(gated recurrent unit,GRU)学习图像的时序连接性;最后,通过全连接层降维输出相机位姿。在KITTI数据集上完成实验,并与其他方法进行对比,结果表明卷积网络中加入注意力机制可以有效提高轨迹估计的精度,且误差低于其他视觉里程计算法。

改进一维卷积神经网络与双向门控循环单元的轴承故障诊断研究

针对传统智能故障诊断依赖于人工经验进行特征提取和传统卷积神经网络(Convolutional neural networks, CNN)参数过多、训练量过大且无法充分利用时间序列信息的缺点,提出一种基于改进一维卷积神经网络与双向门控循环单元的深度学习新算法。首先,该方法利用一维卷积神经网络自提取能力进行特征提取,同时设计了一个全局均值池化层替换传统卷积神经网络的全连接层,减少参数数量;其次,引入双向门控循环单元学习特征信号中的时间序列关系;最后,通过支持向量机替换传统CNN中的Softmax层进行故障分类,进一步提高诊断的准确率。实验表明,该方法将诊断的准确率提升至99.8%,并且加快了诊断的速度。通过与其他方法的对比,证明了该方法有着更高的准确率,更快的诊断速度,更好的鲁棒性。

基于注意力机制循环神经网络的液体火箭发动机故障检测

针对液体火箭发动机主级段工作过程,采用多变量非线性时间序列分析理论,在两级注意力机制循环神经网络(Dual Stage Attention Based Recurrent Neural Networks,DA-RNN)的基础上,提出一种新型时序分析工具——卷积两级注意力机制循环神经网络(Convolutional Dual Stage Attention Based Recurrent Neural Networks,CDA-RNN),从而建立故障趋势预测模型。通过对预测残差进行自相关性分析并定义故障置信概率,提出了故障检测量化依据。利用发生微弱故障的热试车数据进行验证,结果表明,CDA-RNN模型对非稳态工作段微弱故障多参数检测具有良好鲁棒性,该方法十分有效,具有直接应用价值。

融合一维卷积神经网络和双向门控循环单元的APM车辆轮胎径向载荷识别方法

针对轮胎载荷直接测量昂贵复杂及传统载荷识别方法精度低、鲁棒性差的现实,提出了一种融合一维卷积神经网络(1D CNN)和双向门控循环单元(BiGRU)的胶轮车辆轮胎径向载荷识别方法。充分考虑轮胎径向载荷数据的先验信息,以车辆振动响应、车体位姿、运行状态等多源信息构建特征集并经特征选择保留有效的特征子集,构造多时间步输入-单时间步输出的样本用以网络训练。运用1D CNN提取信号的多维度空间特征并输入BiGRU中双向捕获时序特征,得到载荷预测的结果,结合预测精度、泛化性能、鲁棒性能修正理论模型。以APM300型车辆为例进行载荷识别,与传统算法相比,所提方法有效降低了载荷识别的误差,适用于不同运行工况,且能克服不同程度的测量噪声,在工程领域有现实应用价值。