基于多传感器信息融合和CNN-BIGRU-Attention模型的液压防水阀故障诊断方法

在建筑工程领域,尤其是在工程搅拌设备中,涉及到复杂液压工作介质,液压防水阀往往会出现不同程度的故障。此外,恶劣的工作环境和复杂的噪声背景使得对液压防水阀的故障进行诊断变得困难。为了解决这一难题,提出了一种基于多传感器信息融合和卷积神经网络-双向门控循环单元-自注意力机制(CNN-BIGRU-Attention)模型的防水阀故障诊断方法。首先,考虑到单一传感器振动信号难以充分表达故障特征,该方法使用了3个传感器采集含噪声的振动信号,并进行了必要的预处理;其次,提取了信号的16个时域特征、5个频域特征以及3个时频域特征,并利用熵权法进行了特征融合,达到了增强特征的目的;然后,将融合的多维特征集输入到CNN-BIGRU-Attention模型中进行了特征识别;最后,利用实际的液压防水阀故障诊断实验,验证了该方法的有效性。研究结果表明:采用多传感器提取的特征更为全面,信息融合有助于捕捉更完整的隐藏数据特征,从而显著提高诊断的准确率;相较于其他特征识别方法,采用CNN-BIGRU-Attention模型的液压防水阀故障诊断准确率可分别提高6.7%、4.6%和14.2%,达到了96.86%,证明了该方法的有效性。该方法将先进的机器学习技术与实际工程应用相结合,为建筑工程问题提供了一种新颖、有效的解决方案。

高速公路施工控制区动态交通流预测的LSTM-BiGRU-Attention模型

为提前准确预知高速公路施工控制区交通流变化趋势,解决交通流时间序列中的长期依赖问题,文中建立了高速公路施工控制区动态交通流预测的LSTM-BiGRU-Attention模型。首先,将预处理后的动态交通流数据集按时间步长顺序输入到LSTM网络,对交通流信息建模和学习。然后,引入BiGRU和Attention机制以更好地捕捉上下文信息和提供更具针对性的权重分配。最后,将构建的LSTM-BiGRU-Attention模型与其他模型进行交通流预测对比,评估模型性能。实验以G35济广高速公路某施工控制区交通运行情况为案例进行研究,结果显示该模型的平均绝对误差MAE为1.91,均方根误差RMSE为2.83,决定系数R^(2)为0.79,平均绝对百分数误差MAPE为3.23。对比其他模型,LSTM-BiGRU-Attention模型的4个评估指标均有所下降,说明该模型可为高速公路施工控制区提供更加精准的预测。

基于ERNIE-BiGRU-CRF模型的煤矿安全隐患命名实体智能识别研究

为充分挖掘煤矿安全隐患文本关键知识,帮助煤矿企业安全管理人员更好的开展隐患排查治理工作,提出一种基于预训练语言模型的命名实体识别方法。首先定义煤矿安全隐患实体类别,并采用BIO标注策略构建了7个实体类别和15个实体标签;然后将收集到的煤矿隐患排查数据进行预处理,由煤矿安全领域专家人工标注相关实体,得到1500条煤矿安全隐患命名实体标准数据集;最后采用ERNIE预训练模型对煤矿安全隐患文本词向量进行表征、同时利用BiGRU结构进行上下文语义特征提取以及CRF模型进行实体标签解码,完成煤矿安全隐患命名实体识别研究。实验结果表明:ERNIE-BiGRU-CRF模型在序列标注任务上的精确率、召回率和F1值分别为56.69%、69.23%和62.34%,较于BiLSTM-CRF基线模型分别提高了6.85%、13.74%和9.83%,并且实体抽取结果与实际标注结果相差不大。另外,消融实验也验证了BiGRU层能够更好的捕捉煤矿安全隐患文本上下文语义依赖关系以及CRF层能够进一步优化标签序列的有效性。

基于CNN BiGRU RF模型的TBM掘进参数预测研究

作为井下巷道掘进的新工法,全断面隧道掘进机(TBM)有显著的经济效益,对TBM的掘进参数进行预测对于确保TBM的掘进效率具有重要意义。对现场获取的TBM数据进行清洗和预处理,利用皮尔逊相关系数法对模型输入特征进行筛选,并构建基于卷积神经网络(CNN)优化的双向门控循环单元(BiGRU)神经网络并通过随机森林(RF)进行集成的TBM掘进参数预测模型,实现对TBM掘进参数的预测。研究结果表明:选取与总推力和推进速率关联度最密切的刀盘转速、刀盘扭矩和贯入度作为特征参数;构建的CNN BiGRU RF模型预测掘进参数对总推力和推进速率的拟合优度R 2均值分别为0.950和0.966,均方误差MSE平均值分别为0.750和0.782,均方根误差RMSE平均值分别为0.866和0.885,平均绝对误差MAE平均值分别为1.054和1.007,并且回归评价指标MSE、RMSE、MAE相较于CNN BiGRU模型,分别降低2.497、0.966和0.386,R 2提升23.4%,证明CNN BiGRU RF模型的预测准确度和泛化性最高。该研究可为实际工程掘进参数预测提供指导,有助于推动TBM在煤矿的推广,保障TBM的施工进度。

基于BiGRU模型的多模态网络舆情情感分析

情感分析可以挖掘社会热点事件网络舆情的矛盾冲突,加强对多模态信息的分析处理,对网络舆情管理具有重要意义。本文基于BiGRU模型构建多模态网络舆情情感分析框架,运用word2vec提取文本特征,卷积神经网络提取图像特征,采用线性融合进行特征融合实现情感分析。与基线模型相比,本文的多模态网络舆情情感分析方法准确率、宏平均F1和加权平均F1的结果更优,对现实生活产生的舆情事件具有较好的情感识别效果。

基于双通道注意力机制的AE-BIGRU交通流预测模型

交通流预测是智能交通系统的关键。针对目前交通流数据复杂的时空关联性以及自身的不确定性,为准确预测高速公路交通流并缓解交通拥堵问题,提出以自编码器网络(AE)和双向门控循环单元(BIGRU)相结合的深度学习组合预测模型(AE-BIGRU),并在此基础上引入双通道注意力机制进行模型训练。将预处理后的数据采用滑动窗口的方式作为参数输入模型,通过AE提取交通流的空间特征,得到输入信息特征的最优抽象表示;利用BIGRU从前向和后向传播中获取信息,充分提取交通流的时间相关特征,更全面地捕捉时间演变规律;最后结合双通道注意力机制,增强预测模型的特征提取能力,最大限度地保留特征信息,提升模型的预测精度,从而得到最终短时流量的预测目标值。为验证模型的适用性,采用多组短时交通流数据进行仿真实验,与其他基准模型对比发现:该交通流预测模型能够有效捕获交通流的动态时空特征,加强关键信息的提取,所预测的流量更加接近真实值,具有良好的泛化能力。其中测试集的均方根误差值下降了约0.061~0.604,平均绝对误差值下降了约0.025~0.512,相关系数值R2提高了约0.007~0.062。研究结果表明,随着预测步长的增加,该实验模型在交通流数据的时间特性上仍能表现出稳定的预测性能,所建的组合预测模型在预测精度和鲁棒性方面表现出更高水平。

基于EWT-CNN-BiGRU的多特征电力负荷预测模型

针对目前多特征预测模型在短期电力负荷数据上精度不足的问题,提出一种基于经验小波变换(EWT)的卷积神经网络(CNN)融合双向门控循环单元(Bi GRU)预测模型。首先,从多维时序数据中提取强关联性特征,其次,对选定特征进行经验小波变换,将时序数据映射至频域以获取子序列,最后,通过卷积神经网络和双向门控循环单元融合模型实现对电力负荷数据的预测。该预测模型使用德国某联合循环电厂的时序数据进行实验验证。结果表明,该预测模型获得99.463%的拟合优度,具有较好的预测效果。

基于ERNIE-BiGRU模型的摘要语步自动识别研究

学术文献的摘要是对文献主要内容的浓缩,摘要不同部分的语步具有不同的信息,语步的自动识别和抽取对于学术摘要的后续研究有着重要的应用价值,而目前语步识别的研究相对较少,并且相关算法的效果还需要提高。针对上述问题,该文提出了一种基于ERNIE-BiGRU模型的语步识别算法。该算法首先结合中文句法分析理论提出基于句法依存关系的多语步结构拆分法,对学术文献摘要多语步结构进行自动拆分,获得多个单语步结构;然后构建用于训练的单语步结构语料库,并利用知识增强语义表示预训练模型,训练出句子级词向量;最后将训练出的单语步结构词向量信息输入双向门限循环单元(BiGRU)进行摘要语步自动化识别,取得了良好的效果。实验结果表明,该算法具有较好的鲁棒性和较高的识别精度,在结构化和非结构化摘要上的识别准确率分别达到了96.57%和93.75%。

基于CNN-BIGRU-ATTENTION的短期电力负荷预测

电价的实时波动,会对负荷预测精度产生一定影响,增加预测的复杂性。针对这一问题,本文构建基于注意力(ATTENTION)机制的卷积神经网络(CNN)和双向门控循环单元(BIGRU)混合模型对短期电力负荷进行预测。首先用CNN对负荷及电价数据特征进行抽取;其次,利用BIGRU对潜藏的时序规律进行提取;最后结合ATTENTION机制,突出关键特征。仿真结果表明,与BP网络、CNN-GRU、CNN-BIGRU和CNN-GRU-ATTENTION混合模型的预测结果相比,上述模型具有更高的预测精度,是一种有效的短期负荷预测方法。

基于注意力机制的BiGRU判决结果倾向性分析

对裁判文书中判决结果的倾向性分析是完成律师推荐系统的前提,如何高效的实现判决结果倾向性分析是本文的重点.本文提出了基于注意力机制和BiGRU的判决结果倾向性分析模型.首先,训练词向量,得到词向量表;然后,通过查找词向量表,将文书数据转化为词向量序列,将词向量序列作为输入来训练判决结果倾向性分析模型.实验结果表明:注意力机制和BiGRU算法在判决结果倾向性分析中具有一定的有效性.该模型能够对裁判文书中判决结果的倾向性做一个合理的判断,为后期律师推荐系统的实现提供一个合理的评分依据.

基于字向量的BiGRU-CRF肺癌医案四诊信息实体抽取研究

目的肺癌医案中蕴含丰富的四诊信息,这些四诊信息对肺癌的研究具有重要意义。本文通过基于字向量的BiGRU-CRF方法实现四诊信息实体抽取研究。方法研究利用BERT模型对基于自定义词典自动化标注后的肺癌临床数据进行预训练,得到包含上下文语义的字向量,再将其作为BiGRU-CRF模型输入,实现肺癌医案四诊信息命名实体抽取。结果本文方法对临床表现、舌象、脉象、身体部位、程度副词五类实体抽取的F1值分别为98.17%、99.74%、99.77%、94.72%、93.36%,对比模型BERT-BiLSTM-CRF、BERT模型和Word2vec-BiGRU-CRF模型抽取的F1值分别为(96.46%、99.31%、98.78%、94.95%、92.44%)、(94.38%、95.14%、94.99%、90.89%、91.82%)和(91.27%、97.95%、98.09%、87.01%、86.77%)。结论本文利用基于字向量的BiGRU-CRF方法具有更强的命名实体识别能力,可以更好地应用于中医医案命名实体抽取研究,进而为医案的关系抽取以及知识图谱构建提供支持。

基于词性特征的CNN_BiGRU文本分类模型

传统词嵌入通常将词项的不同上下文编码至同一参数空间,造成词向量未能有效辨别多义词的语义;CNN网络极易关注文本局部特征而忽略文本时序语义,BiGRU网络善于学习文本时序整体语义,造成关键局部特征提取不足。针对上述问题,提出一种基于词性特征的CNNBiGRU文本分类模型。引入词性特征构建具有词性属性的词性向量;将词性向量与词向量交叉组合形成增强词向量,以改善文本表示;采用CNN网络获取增强词向量的局部表示,利用BiGRU网络捕获增强词向量的全局上下文表示;融合两模型学习的表示形成深度语义特征;将该深度语义特征连接至Softmax分类器完成分类预测。实验结果表明,该模型提高了分类准确率,具有良好的文本语义建模和识别能力。

基于BERT-BiGRU-ATT的社交媒体用户身份识别研究

随着互联网井喷式发展,社交媒体发展迅猛,但是伴随网络匿名特性出现的失范现象时有发生,如何准确判定社交媒体用户从属问题亟待解决。目前社交媒体信息载体多以短文本为主,语法语义过于灵活,难以准确获得文本特征向量。传统短文本作者识别多采用人工建模的方式对文本特征加以提取,设计纷繁复杂。结合深度学习的方法,提出BERT-BiGRU-ATT短文本作者身份识别模型。该模型对中文短文本使用BERT中文预训练模型生成字符向量,利用双向门控循环单元(BiGRU)结合注意力机制高效捕获序列上下文特征,最终通过A-softmax分类器实现文本作者的识别。在制作的中文微博短文本数据集上的实验结果表明,BERT-BiGRU-ATT模型与其他模型相比,在中文短文本作者识别的准确率上取得较好的成绩,其F1值达到93.6%的精度。

基于LDA和BiGRU的文本分类

文本分类是自然语言处理的基础任务,文本中的特征稀疏性和提取特征所用的神经网络影响后续的分类效果。针对文本中的特征信息不足以及传统模型上下文依赖关系方面不足的问题,提出经过TF-IDF加权的词向量和LDA主题模型相融合,利用双向门控循环神经网络层(BiGRU)充分提取文本深度信息特征的分类方法。该方法主要使用的数据集是天池比赛新闻文本分类数据集,首先用Word2vec和LDA模型分别在语料库中训练词向量,Word2vec经过TF-IDF进行加权所得的词向量再与LDA训练的经过最大主题概率扩展的词向量进行简单拼接,拼接后得到文本矩阵,将文本矩阵输入到BiGRU神经网络中,分别从前后两个反方向提取文本深层次信息的特征向量,最后使用softmax函数进行多分类,根据输出的概率判断所属的类别。与现有的常用文本分类模型相比,准确率、F1值等评价指标都有了较高的提升。

基于小波时频分析和Inception-BiGRU模型的盾构滚刀偏磨故障诊断

盾构机(tunnel boring machine, TBM)滚刀在重载、冲击和地质复杂的环境中服役,极易发生偏磨等失效故障,因此,掌握滚刀的磨损状态、实现基于数据驱动的滚刀偏磨故障诊断并指导滚刀的运维尤为重要。提出了一种基于小波时频分析和Inception-BiGRU模型的诊断模型以提高滚刀偏磨故障诊断效率。以滚刀为研究对象,在多功能缩比滚刀试验台上进行直线破岩试验,采集滚刀破岩时产生的振动加速度信号。采用连续小波变换获取反映振动信号时频域特征的小波时频图,进而以Inception模块的不同大小卷积核自适应地提取时频图中的多尺度空间信息,并通过添加双向门控循环单元(bidirectional gated recurrent units, BiGRU)使模型可更为准确地学习到时频图中丰富的时序依赖性关系,模型的超参数由贝叶斯优化算法确定。4种不同偏磨程度滚刀的诊断试验表明所提模型能够有效提取时频图中滚刀的偏磨特征并完成滚刀偏磨状态识别,实现端到端的盾构滚刀偏磨故障诊断。模型平均诊断准确率可达到98.5%,其诊断准确度和稳定性均优于其他常用算法,证明了所提方法的可行性。

基于信令数据的城市群空铁联程客流识别及预测框架

针对城市群空铁联程客流需求获取困难、客流规律难以把握的问题,提出一套集成空铁联程客流识别及预测模块的综合分析框架.首先,考虑交通枢纽的空间范围及旅客出行的时空特征,提出一种基于信令数据的空铁联程客流识别方法,并挖掘其时空分布规律.然后,在双向门控循环神经网络模型(Bidirectional Gated Recurrent Unit,BiGRU)的基础上,引入时间周期编码,构建具有时间周期性的双向门控循环神经网络模型(Temporal-Bidirectional Gated Recurrent Unit,T-BiGRU)对空铁联程客流进行预测.最后,以京津冀城市群为实例,对研究框架进行验证.研究结果表明:京津冀城市群空铁联程客流呈现出明显的聚集分布特征,其中北京南站—天津站—天津滨海机场和北京西站—正定机场站—石家庄正定机场两个场景的联程客流占比最高,超过联程客流总量的65%;T-BiGRU模型可以对联程客流的需求进行精准预测,对两个主要场景的双向联程客流的预测精度均超过了89%,优于多个基线模型.研究结果可为城市群空铁协同发展及空铁联程服务优化提供参考.

基于视觉注意力的图文跨模态情感分析

针对单模态情感分析无法完全捕获情感信息的问题,提出一种图像和文本跨模态情感分析模型(BERT-VistaNet),该模型没有直接使用视觉信息作为特征,而是利用视觉信息作为对齐方式,使用注意力机制指出文本中重要的句子,得到基于视觉注意力的文档表示。对于视觉注意力无法完全覆盖的文本内容,使用BERT模型对文本进行情感分析,得到基于文本的文档表示,将特征进行融合应用于情感分类任务。在Yelp公开餐厅数据集上,该模型相比基线模型TFN-aVGG,准确率提高了43%,相比VistaNet模型准确率提高了1.4%。

基于融合模型与语义网络的App用户意图识别研究

随着手机应用软件的流行,应用市场上出现了大量非结构化的中文用户评论。基于用户评论识别App用户意图,可以帮助开发人员对App软件进行有针对性的维护和改善。为了从中准确识别用户意图,提出一种基于融合模型和语义网络的App用户意图识别方法FSAUIR。使用百度工具Senta判断评论的情感倾向,构建基于RoBERTa的融合意图分类模型RBMS,通过RoBERTa模型将用户评论转化为语义特征表示,并将其输入到双向门控循环单元中,以提取评论的全局上下文语义信息,同时利用多头自注意力机制和SoftPool获取关键的特征信息,保留主要特征,通过Softmax进行归一化处理,得到意图分类结果。在意图分类的基础上,引入PositionRank模型提取各意图类别下评论的关键词,计算关键词之间的共现关系,构建关键词语义网络,从而更细粒度地识别用户意图。实验结果表明,相比BERT、RoBERTa、RoBERTa-CNN等模型,RBMS模型在人工标注数据集上具有较优的分类性能,准确率、精确率、召回率、F1值分别为87.75%、88.09%、87.80%、87.88%。此外,在意图分类的结果集中,FSAUIR构建的语义网络可以高效地挖掘出用户评论中有价值的信息。

基于DRN-BiGRU模型的滚动轴承剩余寿命预测

深度神经网络在剩余寿命预测(RUL)领域已获得了广泛应用,为进一步优化预测模型,充分提取数据间的时序信息,提高寿命预测的准确率,提出了一种结合深度残差网络(DRN)和双向门控循环单元(BiGRU)的剩余寿命预测(RUL)模型。首先,采用滑窗法对原始数据进行了重采样,对数据集进行了扩充;然后,设计了一种DRN-BiGRU网络模型,其中,利用DRN对输入数据进行空间特征提取,利用BiGRU捕获时域数据中包含的过去和未来两方向的相关特征,充分获取输入数据的时序退化信息,进一步改善了模型的特征提取效果;最后,采用公开发表的PHM2012数据集对模型进行了验证,并将得到的预测结果与采用DRN、DRN-GRU和全卷积神经网络(FCNN)模型获得的结果进行了对比。研究结果表明:在滚动轴承剩余寿命预测应用中,采用基于DRN-BiGRU模型的方法获得的3项误差值(MAE、MSE、RMSE)最低,预测Score值最高,分值为0.985;该结果验证了基于DRN-BiGRU模型在轴承剩余寿命预测应用方面的准确性和有效性。

基于Bahdanau注意力机制的大口径火炮双向GRU轨迹预测

针对大口径火炮弹丸轨迹预测问题,提出一种基于Bahdanau注意力机制与双向门控循环单元网络的序列到序列轨迹预测模型(S2S ATT-BiGRU)。通过不同条件下六自由度弹丸运动模型仿真,得到大量弹丸轨迹数据样本,并利用滑动窗口法和差分法构造仿真数据集;将所提轨迹预测模型与GRU模型在仿真数据集下进行实验。研究结果表明,S2S ATT-BiGRU模型在输入时间为0.5 s预测未来时间为5 s的情况下,其MSE为13.89 m^(2),MAE为1.84 m, MAPE为0.29%,其预测精度远高于GRU模型。在其余情况下S2S ATT-BiGRU模型的预测结果均优于GRU模型。这表明S2S ATT-BiGRU模型具有更强的存储输入轨迹序列信息和自适应关注重要输入轨迹信息的能力,为弹丸轨迹预测研究提供有利参考。