基于改进循环神经网络的半导体质量预测

在复杂的半导体生产过程中,为了减少成本、缩短周期,须优化质量检测过程。本文对半导体的生产特点进行分析,结合数据预测的深度学习理念,构建基于长短期记忆网络(Long Short-Term Memory,LSTM)的质量预测模型。与基础预测模型相比,该模型考虑在复杂加工过程中使用的不同工具,引入工具识别模块。改进后的模型提高了质量预测的准确性和预测能力。对薄膜晶体管液晶显示器(TFT-LCD)的生产数据进行验证,本文方法预测结果更接近真实值,均方根误差(Root Mean Square Error,RMSE)和平均绝对误差(Mean Absolute Error,MAE)2类指标均大幅度降低。

基于改进循环池化网络的核电装备质量文本分类模型

核电装备质量文本描述了核电装备在设计、采购、施工和调试阶段出现的质量缺陷等问题。由于不同阶段质量事件的发生频率不同,且同一装备对应不同阶段的质量文本中存在相同的关键词和相似的表述形式,针对类型数量不均衡和语义描述耦合的质量文本分类问题,提出一种融合正则反馈焦点损失函数的改进循环池化网络分类模型。首先,采用BERT(Bidirectional Encoder Representation from Transformers)将核电装备质量文本转化为词向量;然后,提出一个改进的3层循环池化网络的分类模型结构,通过增加中间层并选择合适权重,扩大参数训练的提取空间,提升表征质量缺陷语义特征的能力;接着,提出正则反馈焦点损失函数来训练提出分类模型的参数,通过正则项使损失函数的梯度变化更稳定,根据反馈项对损失函数进行基于真实值和预测值之间误差的迭代调整,解决了不均衡样本在训练过程中梯度偏向不均衡的问题;最后,通过归一化指数函数计算出核电装备质量事件对应的阶段。在某核电公司真实数据集和公共数据集上,与Fast_Text网络相比,所提模型的F1值分别提高了2个百分点和1个百分点,实验结果表明该模型在文本分类任务中具有较高的准确性。

口语理解中改进循环神经网络的应用

口语理解性能的提升对于口语对话系统的研究具有重要作用。为了提高口语理解性能,应用循环神经网络(RNN)及其变体(LSTM,GRU)方法。在此基础上,提出一种改进的循环神经网络(Modified-RNN)方法,该方法通过添加存储历史状态信息,能够存储更长时的信息,含有更少的参数,根据获取的更多信息提取特征信息增加获取信息的有效性,提高了口语理解的精准率和F1,缩短了实验时间。在航空旅行信息数据库(ATIS)上的实验结果验证了该算法的有效性和可靠性。

基于改进长期循环卷积神经网络的海上风电功率预测

准确的风电功率预测对海上风电安全并网具有重要意义。不同于陆地,海上具有气象因素复杂、风电出力波动显著等特点,使得海上风电功率预测精度难以满足工程实际要求。针对以上问题,文中提出一种基于改进长期循环卷积神经网络(LRCN)的预测模型,用于超短期海上风电功率预测。首先,采用改进LRCN进行初步功率预测,即构建多卷积通道分别提取不同层次变量的时序特征,并通过具有前瞻性的改进Adam优化器提升网络收敛效果。其次,利用摇摆窗算法与波动特征聚类识别预测时段的出力波动类型。再次,针对不同的波动类型建立对应的误差修正模型,并输入经Xgboost算法筛选出的强相关特征因子,实现误差修正。最后,采用实际海上风电场数据进行实验,其结果表明所提方法能够有效预测超短期海上风电功率,且预测精度高于多种传统预测模型。

基于卷积神经网络和简单循环单元集成模型的风电场内多风机风速预测

在传统风电场风速预测中,往往将风电场视作一个整体,进而给出较大空间尺度下的单一整体风速预测结果。但在实际风电场中,多台风机分布在不同的地理位置上,其各自的本地风速也存在明显差异。对此,该文提出一种通过学习历史风速和历史风向中空间相关性和时间相关性,从而实现不同地理位置上多风机各自本地风速的预测方法。该方法首先利用卷积神经网络(CNN)提取空间相关性信息,然后将蕴含空间信息的特征序列交由简单循环单元(SRU)处理,进而学习时间相关性信息。风速和三角函数化的风向构成类似于RGB图像结构的三维矩阵。CNN非常适合处理RGB图像类型的数据,故使用CNN提取多风机的风速和风向在同一个时刻下的空间信息。与其他循环神经网络相比,由于SRU可大幅减小计算代价,故使用SRU提取多风机的风速和风向随时间变化的动态信息。在实际风电场数据上的仿真测试表明:在多个不同的预测时域下,该方法与现有利用时空相关性的预测方法相比,不仅显著减小了计算代价,而且提高了预测的准确性。

改进GAN模型在基站流量预测及5G节能中的应用

【目的】为了更精准地预测5G基站的流量,分析潮汐现象,提出一种优化的生成对抗网络(generative adversarial network,GAN)模型流量预测方法,并将其用于实际基站的定时控制中。【方法】GAN的生成器利用差分演化灰狼算法优化长短时记忆网络(long short term memory networks,LSTM),判别器使用门控循环神经网络(gated recurrent unit,GRU)进行判别,生成器和判别器利用不断地对抗训练达到均衡从而提高了5G基站流量的预测精度;其次,利用改进人工蜂群优化k-means++算法,将其用于输出最优基站定时时间,达到最大限度节能的目的。【结果】实验结果表明,与现有模型相比,所提预测模型有更高的预测精度,定时控制功能可极大地节约能耗。

基于改进LSTM的生鲜牛肉新鲜度预测模型研究

牛肉作为我国消费量较大的肉质食品,其新鲜度受到广泛关注。研究的主要目的是通过改进的循环神经网络模型对牛肉新鲜度进行预测研究。利用红外光谱技术采集了影响牛肉新鲜度的实验数据,即牛肉的系水率、pH值和TVB-N的含量。在利用改进的循环神经网络进行预测的同时,采用了循环神经网络做对比,通过计算均方根误差来评价模型的优势。实验结果表明,改进的循环神经网络均方根误差低于循环神经网络。同时这也证明了上述模型在食品预测方面具有较高的正确性,可用于对食品安全或者新鲜度进行预测。

门循环单元预测模型在故障诊断中的应用

为了提高动力设备故障诊断的效率和精准度,提出了一种结合规则推理和改进门循环单元(improvement gate recurrent unit,I-GRU)预测模型的诊断系统。I-GRU算法通过对门循环单元算法的重置门、更新门共同点进行分析,改进了门循环单元算法的更新门,使得I-GRU算法比门循环单元算法在结构上有了一定的优化。利用工业生产数据预测后续数据趋势,通过预测数据趋势结合3σ标准的故障阈值判断出异常点,将各类信息进行关联规则挖掘出内在关系,通过产生式推理推导出关联故障信息,最终进行案例匹配获取解决方案。试验表明,提出的模型比其他诊断方法更高效、更准确。

面向多复杂场景环境的敞车车号辨识研究

针对现有敞车车号定位识别方法存在的环境适应性差、定位和识别精度低的问题,本文提出一种面向多种复杂环境下的敞车车号精准定位和识别的方法。搭建融合多尺度特征信息的敞车车号定位模型框架,在此基础上,融合多尺度金字塔特征进行深度可分离卷积的敞车车号特征提取网络设计。提出基于改进卷积循环神经网络的车号定位识别模型,主要针对识别网络模型结构进行设计。通过不同环境下采集的敞车车厢图片对本文提出的方法进行验证。结果表明:本文提出的车号定位方法的准确率为0.94,车号识别的准确率为0.97。

双向RNN下的航迹拟合模型研究

飞机航迹拟合的模型建立一直是作战智能体训练研究的关键问题之一。针对当前作战多智能体在仿真训练中的航迹拟合精确度过低的问题,提出了一种基于改进强化循环神经网络与三次样条插值的训练策略。以飞机的俯仰角、滚动角、偏航角为参考对象,基于三次样条插值算法,通过循环神经网络进行强化深度学习训练来降低误差,对航迹进行拟合。通过大量的仿真实验和最终工程实践的对比证明,该方法相比已有的航迹仿真算法具有更高的准确性与合理性。在相同背景下,其航迹长度下降近10个百分点,准确性也较同领域算法高出5%以上,能有效解决作战智能体在模拟训练中减小航迹与实际作战误差的问题。

基于VMD-MGRU的箱式变压器高压套管温度预测

为了提前预防箱式变压器高压套管过热和爆炸等事故发生,提高变压器运行的安全稳定性,提出一种基于变分模态分解与改进门控循环单元神经网络的变压器高压套管温度预测方法。首先,运用变分模态分解将箱式变压器高压套管温度分解为具有不同特征的子序列分量,减少不同趋势信息对预测精确度的影响;然后,提出改进门控循环单元神经网络MGRU,针对分解后各子序列分别建立基于MGRU的时间序列预测模型;最后,叠加各子序列预测结果,得到高压套管温度最终预测值。结合某小区箱式变压器套管在线监测平台实际算例,仿真结果表明,相较于传统预测算法,所提方法在单步和多步预测中都能更好地预测箱式变压器高压套管温度,具备更优良的预测性能和更好的泛化能力。

基于DsRNN和多源气象数据的光伏发电功率短期预测

针对传统循环神经网络(RNN)长时间使用会存在梯度爆炸以及在处理长时间序列时容易忽略重要时序信息的不足,本文提出一种结合注意力机制(Attention)的双重选择循环神经网络(Double selection Recurrent Neural Network, DsRNN),面向短期光伏发电功率预测的模型。首先,引入气象影响因子数据并根据相关性大小进行修正处理,改变原有单一输入源建立新的数据集;然后,融合注意力机制,提取光伏发电功率的时序特征,挖掘数据之间的深层联系;最终,实现对分布式光伏发电进行较有效、精准的短期功率预测。仿真结果表明:气象数据的输入以及DsRNN光伏发电功率预测模型的使用能完成较高精度的预测任务,误差更小。