用循环网络模型解决排队网络问题

研究了循环运行网络模型、排队网络模型以及施工交通运输系统的特点。提出了运用循环网络模型解决排队网络问题的方法。

基于双向多层门控循环神经网络的奶牛乳脂率预测模型研究

通过对奶牛乳脂率进行数据预测以及结合随机森林算法对环境数据进行精准特征选择,确定了对乳脂率影响较大的环境因素。在此基础上,提出了将随机森林算法与双向多层门控循环神经网络相结合的乳脂率预测模型(RF-BiGRU)并进行了相关实验。结果表明,该模型能够提高预测的准确性及效率。

基于循环神经网络模型开展网络购物大数据分析和预测

现代信息技术的发展和应用推动了数字经济蓬勃发展,而数字经济深刻变革着各个行业、各个领域的传统发展模式,如何加快数字化赋能成为各行业发展的重要命题。消费领域是数字化赋能的代表性领域,网络购物数据研究和模型应用对消费领域数字化转型起到了积极的作用。本文从某电商平台交易数据入手,建立了一个循环神经网络结构(RNN)模型,通过该模型对平台交易数据进行分析和深度学习,对未来交易数据进行预测和模拟,并通过平台的实际数据检验该模型的有效性,同时根据预测数据所反映出的特点和趋势,提出主动促进消费的发展策略建议。

基于预训练模型和多视角循环神经网络的电力文本匹配模型

针对传统方法未能考虑词向量的动态性及句子间交互不充分等问题,提出基于BERT预训练模型及多视角循环神经网络的文本匹配模型。通过BERT-whitening方法对BERT输出的句向量进行线性变换优化,并利用多视角循环神经网络将两句子不同位置的BERT动态词向量进行双向交互计算;将句向量与词粒度交互向量进行融合后计算结果。实验结果表明,提出的模型相较于对比模型有明显性能提升,实用性良好。

耦合人工神经网络模型在径流预测中的应用综述

人工神经网络(artificial neural network,ANN)模型耦合其他模型或优化算法在径流预测中的应用逐渐增多。从人工神经网络模型与物理模型的耦合、多人工神经网络模型的耦合、分解技术与机器学习方法的耦合、人工神经网络模型与智能优化算法的耦合4个方面进行系统梳理和总结,阐述提高预测精度的原因及各方法的优势。同时,提出当前研究中存在的问题并进行展望,可为径流预测和水资源管理提供支持。

基于双向循环神经网络的评价对象抽取研究

评价对象抽取的研究难点在于如何精确地表示大范围的上下文信息。本文针对微博观点句,采用了基于双向循环神经网络(BRNN)的方法来抽取评价对象并对评价对象的情感倾向进行判定。BRNN的隐藏层对上下文进行了抽象,如果经过良好地训练,就能在循环处理句子时有效地表示远距离的有序上下文信息,而无需对上下文窗口长度进行限定。本文选择了词、词性、依存句法树以及产品词典等特征构建了BRNN模型。通过实验发现,上述4种特征组合获得了最优实验结果,通过与CRF模型的对比,本文提出的方法在相互覆盖模式下F值比CRF模型高出0.61%,验证了本文方法的有效性。本文方法在COAE2015任务3的资源受限评测任务中,获得了最好结果。

基于紫外-可见光谱法的工业废水CNN-GRU分类模型研究

工业废水分类是水污染防治和水资源管理的前提和基础,相较于生活污水,工业废水的分类研究相对滞后。水体化学需氧量(COD)是衡量水体质量的核心指标,针对现有工业废水COD分类算法中预测精度较低的问题,提出基于门控循环单元(GRU)的卷积神经网络(CNN)混合模型。该模型首先将紫外-可见光谱法测得的工业废水COD数据进行高斯滤波去噪,然后把去噪后的光谱数据输入CNN模型进行特征提取,最后通过GRU神经网络实现工业废水COD分类。实验结果显示,CNN-GRU分类模型经过200次训练后达到收敛,分类精度达到99.5%,与长短期记忆方法、GRU方法、CNN-LSTM方法相比,该混合模型的分类精度具有显著优势。

基于多传感器信息融合和CNN-BIGRU-Attention模型的液压防水阀故障诊断方法

在建筑工程领域,尤其是在工程搅拌设备中,涉及到复杂液压工作介质,液压防水阀往往会出现不同程度的故障。此外,恶劣的工作环境和复杂的噪声背景使得对液压防水阀的故障进行诊断变得困难。为了解决这一难题,提出了一种基于多传感器信息融合和卷积神经网络-双向门控循环单元-自注意力机制(CNN-BIGRU-Attention)模型的防水阀故障诊断方法。首先,考虑到单一传感器振动信号难以充分表达故障特征,该方法使用了3个传感器采集含噪声的振动信号,并进行了必要的预处理;其次,提取了信号的16个时域特征、5个频域特征以及3个时频域特征,并利用熵权法进行了特征融合,达到了增强特征的目的;然后,将融合的多维特征集输入到CNN-BIGRU-Attention模型中进行了特征识别;最后,利用实际的液压防水阀故障诊断实验,验证了该方法的有效性。研究结果表明:采用多传感器提取的特征更为全面,信息融合有助于捕捉更完整的隐藏数据特征,从而显著提高诊断的准确率;相较于其他特征识别方法,采用CNN-BIGRU-Attention模型的液压防水阀故障诊断准确率可分别提高6.7%、4.6%和14.2%,达到了96.86%,证明了该方法的有效性。该方法将先进的机器学习技术与实际工程应用相结合,为建筑工程问题提供了一种新颖、有效的解决方案。

基于CNN-BiGRU-NN模型的短期负荷预测方法

为充分挖掘蕴含在大量采集数据中的有效信息,提高短期负荷预测精度,提出一种基于卷积神经网络(CNN)和双向门控循环单元(BiGRU)、全连接神经网络(NN)的混合模型的短期负荷预测方法,将海量的历史负荷数据、气象信息、日期信息按时间滑动窗口构造特征图作为输入,先利用CNN提取特征图中的有效信息,构造特征向量,再将特征向量作为BiGRU-NN网络的输入,采用BiGRU-NN网络进行短期负荷预测。以2016年举办的全国第九届电工数学建模竞赛试题A题中的负荷数据作为实际算例,实验结果表明:该方法与DNN神经网络、GRU神经网络、CNN-LSTM神经网络短期负荷预测法相比,有更高的预测精度。

基于Fasttext和多融合特征的文本分类模型

针对传统文本分类办法无法有效应对长文本快速收敛的问题,提出了一种基于LSTM-CNN-ATTENTION机制FASTTEXT的文本分类模型。该模型使用预训练词向量将文本信息转换为词向量,通过将词向量送入CNN层、Bi-LSTM层,获得所对应的深度词向量特征,并通过Attention机制使CNN层特征与Bi-LSTM层特征交互,得到融合特征表示。同时,通过将词向量送入FASTTEXT层得到文本信息浅层表示,并与Attention机制的深层特征相拼接,将拼接后的特征映射到分类条目中实现文本分类。实验结果显示,与CNN、Bi-LSTM、AT-LSTM-CNN模型相比,该方法在取得了良好的分类效果前提下,有效地加快了模型学习速度。

LSTM-GRU模型对1型糖尿病和2型糖尿病患者低血糖的预警价值

目的探讨长短期记忆网络与门循环单元(LSTM-GRU)模型对1型糖尿病(T1DM)和2型糖尿病(T2DM)患者低血糖的预警价值。方法回顾性分析2015年7月至2017年3月于河南省人民医院内分泌科住院期间曾发生低血糖事件的50例糖尿病(DM)患者的临床资料,其中T1DM患者18例,T2DM患者32例。以连续72 h的血糖数据为研究对象,运用Python 3.6运行LSTM-GRU模型,得到15、30、45、60 min的预测血糖值,以均方根误差(RMSE)、平均绝对百分误差(MAPE)及克拉克(Clarke)误差网格分析评价模型预测性能。采用灵敏度、特异度和准确度评价模型低血糖预警效果,进一步比较模型在T1DM和T2DM患者的低血糖预警差异。结果15 min预测时,LSTM-GRU模型的RMSE、MAPE分别为0.24、2.64;30 min预测时,RMSE、MAPE分别为0.26、2.84;45 min预测时,RMSE、MAPE分别为0.27、2.89;60 min预测时,RMSE、MAPE分别为0.27、2.85。Clarke误差网格分析表明该模型对血糖的预测准确度均满足ISO 15197—2013标准。LSTM-GRU模型在15 min低血糖预警时,T1DM和T2DM患者的灵敏度、特异度、准确度分别为95.54%、98.41%、98.10%,88.82%、99.47%、99.05%;30 min预警时,T1DM和T2DM患者的灵敏度、特异度、准确度分别为94.49%、98.41%、97.98%,87.94%、99.44%、99.01%;45 min预警时,T1DM和T2DM患者的灵敏度、特异度、准确度分别为94.52%、98.49%、98.02%,85.53%、99.48%、98.98%;60 min预警时,T1DM和T2DM患者的灵敏度、特异度、准确度分别为92.78%、98.54%、97.92%,85.15%、99.46%、98.95%。无论在哪个预测时长下,LSTM-GRU模型对T1DM和T2DM患者的低血糖预警效果比较,差异有统计学意义(P<0.05)。结论LSTM-GRU模型能有效进行低血糖预警,且对T1DM患者的低血糖预警效果优于T2DM患者。

基于小波变换与BiGRU-NN模型的短期负荷预测方法

为更好地挖掘大量采集数据蕴含的有效信息,提高短期负荷预测精度,文中提出一种基于小波变换与双向门控循环单元(BiGRU)、全连接神经网络(NN)混合模型的短期负荷预测方法。文章利用小波变换将负荷特征数据分解为高频数据以及低频数据,再分别建立高频混合神经网络以及低频混合神经网络模型进行预测。在混合神经网络模型中,将负荷特征数据作为BiGRU-NN网络的输入,利用BiGRU-NN网络学习负荷非线性以及时序性特征,以此进行短期负荷预测。文中以丹麦东部地区的负荷数据作为算例,实验结果表明,该方法与GRU神经网络、DNN神经网络、CNN-LSTM神经网络相比,具有更高的预测精度。

一种基于CNN-RNN模型的图像检索技术

图像检索是一项重要的研究课题,涉及如何快速、准确地检索和管理海量的图像数据。传统的图像检索技术主要依赖图像的视觉特征或文本描述进行匹配,但是难以充分理解图像的语义信息,对复杂场景的适应性较差。针对这一问题,文章提出了一种基于卷积神经网络-循环神经网络(Convolutional Neural Networks-Recurrent Neural Network,CNN-RNN)模型的图像检索技术。该技术将CNN和RNN相结合,构建了一个统一的深度学习框架。其中,CNN模型用于从图像中提取全局特征,RNN模型用于学习图像与标签之间的语义关联和共现依赖。文章通过将CNN输出的特征序列输入到RNN模型中,实现了对图像全局语义信息的捕获。将设计系统在多个数据集上进行实验,结果表明,设计的方法能够有效提高图像检索的效率和准确性。

基于注意力机制的奶牛乳蛋白预测模型研究

机器学习在动物生理预测方面取得良好的效果,但在处理具有局限性的时序问题上未能得到深入应用。文章通过环境数据对乳蛋白进行预测研究,根据数据的时序特点,对双向门控循环神经单元的网络结构进行重新设计,设计了一种基于注意力机制的正反向交替的门控循环神经网络(LG)预测模型,实验验证模型在精度上和速度上都优于其他模型,所挖掘的关键指标有助于深入理解对奶牛生理情况的影响,进而有效提升养殖效益。

基于多传感器融合的工程坠落检测系统设计

阐述一种基于智能手机多传感器的坠落检测系统的设计。通过采集加速度、陀螺仪、重力和位置传感器的信息,使用循环神经网络模型实现高效准确的坠落检测。实验结果表明,系统能够及时响应。

基于深度学习的城市主干道路交通拥堵水平预测

为了解决城市主干道路交通拥堵问题,提出一种基于深度学习的城市主干道路交通拥堵水平预测方法。建立城市主干道路交通网络的Katz相似度矩阵,保存路网的结构特征,获得城市主干道路交通流数据。采用局部敏感判别分析模型,将交通流数据映射到低维流形,获得最优投影矩阵,提取城市主干道路交通特征。结合循环神经网络模型(RNN)和长短时记忆网络模型(LSTM),设计长短时记忆循环网络(RNN-LSTM)模型,解决梯度消失问题,输入城市主干道路交通特征,经过训练输出城市主干道路交通拥堵水平预测结果。实验结果表明,所提方法预测准确度在0.8~0.98,预测所需时间平均为24.74 ms,具有一定的应用价值。

基于机器学习的城市交通态势评估与预测方法研究

为更实时准确地评估和预测交通运行态势,以交通检测器提供的大量数据作为研究对象,通过分析交通流时空特征及变化规律,建立考虑谱聚类的K近邻算法,并对城市交通的运行态势进行等级分层并评估。在时间序列分析的基础上,建立考虑时间特性的LSTM和GRU神经网络模型,预测城市交通运行态势并分析对比各模型预测效果。研究结果表明:与传统ARIMA模型相比,改进的GRU神经网络模型综合效果更好。

基于点集匹配的缺陷样本图像生成方法

针对工业缺陷检测中存在的由产品次品率过低、产品迭代更新过快、缺陷种类难以覆盖全部以及缺陷样本高质量标注难度较高导致的小样本问题,使用基于点集匹配的缺陷样本图像生成方法来对缺陷数据进行扩充。将缺陷部位从多特征角度进行变换,使用单张样本进行扩充得到不同特征的缺陷图像,解决小样本条件下深度学习方法难以生成高质量缺陷图像的问题。通过图像评估与实验验证,该方法生成的图像具有更好的视觉效果,并且对缺陷与分割模型有着高效的提升。该方法可应用于样本较少的深度学习模型训练过程中,达到扩充样本提高训练效果的目的。

基于注意力机制Bi-LSTM算法的双语文本情感分析

针对双语微博情感分析方法稀缺且准确率低的问题,根据相同英文词汇在不同语境下对文本情感作用不同这一事实,提出基于注意力机制的双语文本情感分析神经网络模型。该模型使用双向循环神经网络模型学习文本的特征表示,并引入注意力机制,为文本不同词语赋予不同权重,得到融合特征后新的知识表示,从而实现双语文本情感识别。实验结果显示,与纯中文作为网络输入、纯英文作为网络输入和中英混合文本作为网络输入相比,注意力机制明显优于其他方法;与现有双语情感分析算法相比,该模型有效提升了情感分析的准确率。

自然语言处理中的神经网络模型

自然语言处理是用计算机来研究和处理自然语言的一门交叉学科,近年来发展迅速,引起语言学界的极大关注。文章讨论了自然语言处理中的四种神经网络模型,即前馈神经网络模型、卷积神经网络模型、循环神经网络模型和预训练模型,其中包括模型的原理、结构、算法、机制,并突出强调它们在自然语言处理中的应用。文章指出,尽管神经网络模型已经成为自然语言处理的主流,但这些模型还缺乏可解释性,未来需要得到基于规则的语言模型和基于统计的语言模型的支持。