基于循环神经网络的2-DOF软体机械臂运动建模与控制

因现有软体机械臂材料刚度小、模量不稳定,导致建模与控制难度大.提出一种基于循环神经网络(recurrentneuralnetwork,RNN)的方法,用于二自由度(two-degree-of-freedom,2-DOF)软体机械臂的运动建模与控制.使用动作捕捉仪采集不同气压、负载下的位置坐标,并将其导入门控循环单元(gated recurrentunit,GRU)神经网络模型进行训练.当调节超参数至网络结构最优时,测试集准确度可达98.87%.在此基础上,构建气压与负载到末端位置的映射函数.实验结果表明,本方法可将机械臂的控制精度提升至6»8 mm,显著降低了软体机器人的控制与建模难度.

基于CNN-GRU-ISSA-XGBoost的短期光伏功率预测

针对光伏功率随机性及波动性大,单一预测模型往往难以准确分析历史数据波动规律,从而导致预测精度不高的问题,提出一种基于卷积神经网络-门控循环单元(CNN-GRU)和改进麻雀搜索算法(ISSA)优化的极限梯度提升(XGBoost)模型的短期光伏功率预测组合模型.首先去除历史数据中的异常值并对其进行归一化处理,利用主成分分析法(PCA)进行特征选取,以便更好地识别影响光伏功率的关键因素.然后采用CNN网络提取数据的空间特征,再经过GRU网络提取时间特征,针对XGBoost模型手动配置参数困难、随机性大的问题,利用ISSA对模型超参数寻优.最后对两种方法预测的结果用误差倒数法减小误差的同时对权重进行更新,得到新的预测值,从而完成对光伏功率的预测.实验结果表明,所提出的CNN-GRU-ISSA-XGBoost组合模型具有更强的适应性和更高的精度.

基于强化学习的多雷达抗干扰算法研究

针对多雷达系统在受到环境的扫频干扰下无法工作的问题,研究了基于深度强化学习的多雷达共存抗干扰算法。文中将环境划分为多个子频段,对干扰占用频段过程进行建模,用马尔可夫模型对多雷达系统进行建模;对双深度Q网络(Double DQN)强化学习算法进行改进,与门控单元循环神经网络相结合,使之能处理依赖于长时间序列的干扰问题;提出了基于门控循环记忆的深度确定性策略强化学习算法,针对Double DQN强化学习中的网络臃肿和行动集合较大的问题进行了改进,采用直接输出行动策略,有效降低了网络复杂度。实验仿真结果表明,在多雷达存在的情况,该算法通过避开存在干扰的频点,不仅能够有效降低来自外界的干扰,还能减少己方雷达相互之间的干扰。

基于“分解-重组-预测-集成”模式的Heston期权定价模型

精准合理地期权定价对于改善市场流动性、优化投资者结构、稳定金融市场拥有重要意义。本文提出了一种结合“分解-重组-预测-集成”思想的Heston期权定价模型,该模型利用Heston模型进行初始定价,通过自适应噪声完全集合经验模态分解(CEEMDAN)对定价误差进行分解与重构,获得高频项、低频项及趋势项,然后使用门控循环单元(GRU)估计高频项及低频项,使用差分整合移动平均自回归(ARIMA)估计趋势项,所有估计值集成汇总得到定价误差估计值,最后使用定价误差估计值对Heston模型的初始定价结果进行修正后获得最终定价结果。使用华夏上证50ETF、华泰柏瑞沪深300ETF和嘉实沪深300ETF期权数据验证模型,实证结果显示,在模型结构更加简单的基础上,本文提出模型的精度普遍优于基准模型。

基于双向门控式宽度学习系统的监测数据结构变形预测

监测数据深度学习预测模型运算量大、实时性差,为此结合宽度学习系统(BLS)和双向长短时记忆(Bi-LSTM)模型的优势,提出基于双向门控式宽度学习系统(Bi-G-BLS)的结构变形预测模型.对BLS的特征节点增加循环反馈和遗忘门结构,提高当前节点对前一节点的依赖关系,分别从正向和反向提取时间序列的内部特征,充分挖掘数据的双向特征,在提高模型预测精确度的同时减少模型预测时间.基于实测的地铁基坑沉降监测数据的测试结果显示,所提预测模型与门控循环单元(GRU)、BLS、Bi-LSTM、G-BLS模型相比,均方根误差(RMSE)、平均绝对误差(MAE)、平均绝对百分比误差(MAPE)平均分别降低了21.04%、12.81%、24.41%;在预测精度相近的情况下,所提模型的预测时间比Bi-LSTM模型降低了99.59%.结果表明,所提模型在预测速度和精确度上较对比模型有明显提升.

基于改进INFO-CNN-QRGRU模型的农村分布式光伏发电短期概率预测

随着“双碳”目标的推进,清洁能源所占比重大幅度增加,分布式光伏发电在我国农村地区快速发展,但其随机性、间歇性的特点给新能源消纳和电网稳定带来很大的挑战。光伏发电预测可以在一定程度上改善新能源消纳问题,减少光伏发电的不稳定性对电网的冲击。因此,为提高光伏发电功率预测精度,提出一种基于改进向量加权平均算法优化CNN-QRGRU网络的光伏发电概率预测方法。首先采用ReliefF算法对特征变量进行选择,在此基础上利用高斯混合模型(Gaussian mixture model,GMM)聚类方法将天气分为晴天、晴转多云和阴雨天3种类型,将处理好的数据输入到CNN-GRU模型中,并利用向量加权平均(weighted mean of vectors algorithm,INFO)优化算法对模型超参数进行调参,将分位数回归模型(quantile regression,QR)与INFO-CNN-GRU模型相结合得到光伏功率条件分布,结合核密度估计法从条件分布中获得概率密度函数,完成概率预测。以实际光伏电站数据作为基础,将提出的INFO优化算法与其他几种传统的优化算法进行对比,结果表明INFO的优化效果更好,在此基础上进行概率预测,得到的概率预测结果相较于点预测能提供更多有效信息,更具有应用价值。

基于用户性格和语义-结构特征的文本评论情感分类方法

由于传统文本评论情感分类方法通常忽略用户性格对于情感分类结果的影响,提出一种基于用户性格和语义-结构特征的文本评论情感分类方法(User Personality and Semantic-structural Features based Sentiment Classification Method for Text Comments,BF_Bi GAC).依据大五人格模型能够有效表达用户性格的优势,通过计算不同维度性格得分,从评论文本中获取用户性格特征.利用双向门控循环单元(Bidirectional Gated Recurrent Unit,Bi GRU)和卷积神经网络(Convolutional Neural Network,CNN)可以有效提取文本上下文语义特征和局部结构特征的优势,提出一种基于Bi GRU、CNN和双层注意力机制的文本语义-结构特征获取方法.为区分不同类型特征的影响,引入混合注意力层实现对用户性格特征和文本语义-结构特征的有效融合,以此获得最终的文本向量表达.在IMDB、Yelp-2、Yelp-5及Ekman四个评论数据集上的对比实验结果表明,BF_Bi GAC在分类准确率(Accuracy)和加权macro F_(1)值(F_(w))上均获得较好表现,相对于拼接Bi GRU、CNN的情感分类方法(Sentiment Classification Method Concatenating Bi GRU and CNN,Bi G-RU_CNN)在Accuracy值上分别提升0.020、0.012、0.017及0.011,相对于拼接CNN、Bi GRU的情感分类方法(Sentiment Classification Method Concatenating CNN and Bi GRU,Conv Bi LSTM)F_(w)值上分别提升0.022、0.013、0.028及0.023;相对于预训练模型BERT和Ro BERTa,BF_Bi GAC在保证分类精度的情况下获得了较高的运行效率.

基于模态分解及GRU-XGBoost短期电力负荷预测

精确的短期电力负荷预测能有效提高电力系统运营水平。针对电力负荷数据受多种因素影响,波动性和随机性强等问题,提出了一种基于模态分解及混合模型的负荷预测方法。首先,采用主成分分析法(principal component analysis,PCA)对负荷特征向量进行处理,去掉冗余信息,再用完全自适应噪声集合经验模态分解(complete ensemble empirical mode decomposition with adaptive noise,CEEMDAN)将历史负荷分解为简化的几个子序列;其次,选择引入样本熵(sample entropy,SE)来计算子序列熵值,将相近的子序列重构得到随机、细节、低频和趋势分量后选用不同结构门控循环单元(gate recurrent unit,GRU)对不同分量类型进行预测,再使用极致梯度提升模型(extreme gradient boosting,XGBoost)对各分量残差进行拟合,各重组序列的预测值为GRU预测值与XBGoost拟合值之和,重组各序列得到最终预测值。选取3年时电力负荷数据进行实验,结果表明,所提模型的均方根误差(root mean square error,RMSE)、平均绝对百分比误差(mean absolutepercentage error,MAPE)和平均绝对误差(mean absolute error,MAE)分别为370.676 MW、99.07%和246.89 MW,与单一模型和混合模型相比,实现了评价指标的明显减少。

基于ICEEMDAN和时变权重集成预测模型的变压器油中溶解气体含量预测

为了实现对变压器油中溶解气体体积分数的精确预测,同时克服仅使用单一预测模型导致预测精度及泛化能力不足的局限,提出了一种基于改进完全自适应噪声集合经验模态分解(improved complete ensemble empirical mode decomposition,ICEEMDAN)和灰色关联系数时变权重集成预测模型的变压器油中溶解气体预测方法。首先将溶解气体含量序列模态分解为一系列具有不同时间尺度的子序列。然后,使用门控循环神经网络和麻雀搜索算法优化支持向量机对各子序列进行训练,组合为一个集成预测模型;并比较不同预测方法的预测精度,计算灰色关联系数时变权重,形成各子系列的预测结果。最后将各子序列的预测结果叠加重构,得到最终预测结果。算例分析结果显示:该方法单步预测的均方根误差、平均绝对误差和相关系数分别为0.593、0.422和0.768,相比其他算法在预测精度上有明显提升,同时具有很强的泛化性能,可以为油浸式变压器内部状态监测提供依据。

基于小波分解和ARIMA-GARCH-GRU组合模型的制造业PMI预测

制造业采购经理人指数(PMI)是反映国家经济运行情况的重要指标,而传统预测模型对该类时序数据预测精度不高。针对制造业PMI指数的非线性、波动性和数据量少的特点,提出一种基于一维离散小波变换进行数据预处理的组合模型。时序数据经过小波变换,由整合移动平均自回归–广义自回归条件异方差模型(ARIMA-GARCH)处理稳态低频数据,门控循环单元(GRU)处理波动性强的高频数据,将各频段预测结果进行融合得到最终预测结果。为验证模型有效性,选取一定数据量的PMI指数进行实验。结果表明,与其他常见模型对比,本文构建的组合模型具有较好的预测精度与性能,平均绝对误差(MAE)、均方根误差(RMSE)、平均绝对百分比误差(MAPE)分别达到0.00329、0.004162、0.65%。

基于门控循环单元的基质栽培黄瓜结果期蒸散量预测模型

【目的】实时、准确地预测基质栽培黄瓜结果期蒸散量,指导基质栽培黄瓜灌溉。【方法】通过传感器实时获取黄瓜结果期的温室小气候环境数据,用称量法测量黄瓜蒸散量,以移栽时间、空气温度、空气相对湿度、光照强度及前5天的日均灌溉量为输入变量,利用BP神经网络(Back propagation neural network,BPNN)、卷积神经网络(Convolutional neural networks,CNN)、长短期记忆网络(Long short-term memory,LSTM)和门控循环单元(Gated recurrent unit,GRU)分别建立基质栽培黄瓜蒸散量预测模型,比较不同模型的预测效果,模型数据集的时间间隔设为20 min。【结果】相较于BPNN、CNN及LSTM模型,GRU模型的预测效果最好,其决定系数(R^(2))、均方根误差(RMSE)、平均绝对误差(MAE)分别为0.8577、2.3279 g和1.6744 g。当实测的黄瓜每日实时累积蒸散量超过50 g时,GRU模型预测的黄瓜每日实时累积蒸散量与实测每日实时累积蒸散量之间的相对误差最小,在0.11%~10.01%。【结论】基于GRU的基质栽培黄瓜结果期蒸散量预测模型预测效果最好,可为基质栽培黄瓜的灌溉系统提供参考。

基于COA-GRU的低成本气体传感器数据修正方法

针对低成本气体传感器在受到温度、湿度、压力、气体交叉干扰等影响时检测精度低的问题,提出了一种长鼻浣熊-门控循环单元神经网络(COA-GRU)的修正模型,用于提高传感器检测精度。首先,根据低成本传感器的非线性特性构建了GRU修正模型;其次,利用COA算法解决修正模型的多局部极值以及参数组合寻优问题;最后,利用低成本传感器组以及H200D气体检测装置的实测数据对该方法进行了仿真实验。结果表明,使用COA-GRU修正模型后,SO_(2)、CO、NO_(2)、CO_(2)传感器的平均绝对误差分别降低了72.0%、28.4%、29.6%、13.5%,能够有效提高低成本传感器的检测精度。

基于融合模型与语义网络的App用户意图识别研究

随着手机应用软件的流行,应用市场上出现了大量非结构化的中文用户评论。基于用户评论识别App用户意图,可以帮助开发人员对App软件进行有针对性的维护和改善。为了从中准确识别用户意图,提出一种基于融合模型和语义网络的App用户意图识别方法FSAUIR。使用百度工具Senta判断评论的情感倾向,构建基于RoBERTa的融合意图分类模型RBMS,通过RoBERTa模型将用户评论转化为语义特征表示,并将其输入到双向门控循环单元中,以提取评论的全局上下文语义信息,同时利用多头自注意力机制和SoftPool获取关键的特征信息,保留主要特征,通过Softmax进行归一化处理,得到意图分类结果。在意图分类的基础上,引入PositionRank模型提取各意图类别下评论的关键词,计算关键词之间的共现关系,构建关键词语义网络,从而更细粒度地识别用户意图。实验结果表明,相比BERT、RoBERTa、RoBERTa-CNN等模型,RBMS模型在人工标注数据集上具有较优的分类性能,准确率、精确率、召回率、F1值分别为87.75%、88.09%、87.80%、87.88%。此外,在意图分类的结果集中,FSAUIR构建的语义网络可以高效地挖掘出用户评论中有价值的信息。

基于IMGRU-Seq2seq的自动问答方法研究

针对传统问答模型采用循环神经网络带来的梯度消失和网络退化的问题,提出一种基于IMGRU-Seq2seq(Identity Mapping Gated Recurrent Unit-Sequence to Sequence)的自动问答模型。通过TF-IDF方法对文本进行加权词向量表示;以门控循环单元为基础,将批标准化技术和线性整流激活函数相结合并添加恒等映射,从而构建IMGRU模型;将双向IMGRU作为问答模型的语义抽取单元,引入注意力机制和集束搜索算法,实现自动问答。实验结果表明,所提方法比现有方法BLEU、ROUGE-L分别平均提高18.87%、4.35%。

融合卷积收缩门控的生成式文本摘要方法

在深度学习技术的推动下,基于编码器-解码器架构并结合注意力机制的序列到序列模型成为文本摘要研究中应用最广泛的模型之一,尤其在生成式文本摘要任务中取得显著效果。然而,现有的采用循环神经网络的模型存在并行能力不足和时效低下的局限性,无法充分概括有用信息,忽视单词与句子间的联系,易产生冗余重复或语义不相关的摘要。为此,提出一种基于Transformer和卷积收缩门控的文本摘要方法。利用BERT作为编码器,提取不同层次的文本表征得到上下文编码,采用卷积收缩门控单元调整编码权重,强化全局相关性,去除无用信息的干扰,过滤后得到最终的编码输出,并通过设计基础Transformer解码模块、共享编码器的解码模块和采用生成式预训练Transformer(GPT)的解码模块3种不同的解码器,加强编码器与解码器的关联,以此探索能生成高质量摘要的模型结构。在LCSTS和CNNDM数据集上的实验结果表明,相比主流基准模型,设计的TCSG、ES-TCSG和GPT-TCSG模型的评价分数增量均不低于1.0,验证了该方法的有效性和可行性。

面向联合收割机故障诊断领域知识图谱的构建技术及其问答应用

联合收割机作为一种有效的机械化收割设备,可以极大地提高农作物的收获效率。然而在进行收割作业时不可避免地会发生一些机械故障,由于驾驶员缺乏专门的维修经验,无法确定故障发生的原因以及出现故障后应该如何维修机器,导致严重影响农作物的收获,甚至还可能引发安全事故。由于知识图谱能够利用图数据库将专家知识等非结化数据进行规范化的存储,所以在故障诊断问答领域,知识图谱有着良好的应用前景,基于此提出一套面向联合收割机故障诊断领域知识图谱的构建方法。根据专家知识明确知识图谱中所需要的实体和实体关系类型,利用RoBERTa-wwm-ext预训练模型融合双向门控循环单元(BiGRU)和Transformer编码器的实体抽取模型对非结构化文本进行实体抽取;利用RoBERTa-wwm-ext预训练模型融合循环神经网络(RNN)模型对抽取的实体进行实体审核;在实体审核完成后使用RoBERTa-wwm-ext预训练模型融合双向门控循环单元(BiGRU)和注意力机制的关系抽取模型对头实体和尾实体之间存在的实体关系进行抽取;将抽取到的实体和实体关系组成三元组,利用三元组构建知识图谱,从而可以利用知识图谱实现智能问答。

基于紫外-可见光谱法的工业废水CNN-GRU分类模型研究

工业废水分类是水污染防治和水资源管理的前提和基础,相较于生活污水,工业废水的分类研究相对滞后。水体化学需氧量(COD)是衡量水体质量的核心指标,针对现有工业废水COD分类算法中预测精度较低的问题,提出基于门控循环单元(GRU)的卷积神经网络(CNN)混合模型。该模型首先将紫外-可见光谱法测得的工业废水COD数据进行高斯滤波去噪,然后把去噪后的光谱数据输入CNN模型进行特征提取,最后通过GRU神经网络实现工业废水COD分类。实验结果显示,CNN-GRU分类模型经过200次训练后达到收敛,分类精度达到99.5%,与长短期记忆方法、GRU方法、CNN-LSTM方法相比,该混合模型的分类精度具有显著优势。

基于集成深度学习模型的空气质量指数预测

大气污染严重危害居民的出行安全和身体健康,空气质量指数(AQI)是一种用于测量空气质量状况的综合指标,对AQI的预测可以提醒公众空气质量信息,使人们做出更明智的出行决策.通过提前预测空气质量的变化,政府和环保部门可以采取应急措施以减轻空气污染.本文提出基于卷积神经网络和门控循环单元的集成深度学习模型(CNN-GRU)对AQI进行预测.其中,卷积神经网络(CNN)提取污染气体浓度和AQI的时空特征并完成特征映射,门控循环单元(GRU)建模时序关系并高效完成计算.选取2014—2022年北京市和广州市的6种主要污染气体(PM2.5、PM10、SO_(2)、CO、NO_(2)、O_(3))日平均质量浓度和AQI进行实例研究,使用CNN-GRU模型对AQI进行预测,与多元宇宙优化的广义回归神经网络模型(MVO-GRNN)、遗传算法优化的BP神经网络模型(GA-BP)对AQI的预测进行对比分析.实验结果表明,本文提出的CNN-GRU模型对AQI的预测误差最小.

融合主题模型的图神经网络对话情感识别

对话情感识别(ERC)旨在预测对话中语句的情感类别。目前,基于图神经网络的ERC方法主要采用固定的超参数来确定图中边的连接,缺乏针对不同数据进行自适应构边的策略,且忽略了语句间的主题关系。此外,在图神经网络的训练过程中,这些方法通常采用求和叠加的方式来聚合节点信息,限制了模型的非线性能力。为此,本文将主题模型与图神经网络相融合,提出了一种新的构边方法。首先利用主题模型获取对话中语句的主题分布,然后将具有相同主题的语句相互连接。同时,引入了SwiGLU门控单元,用于调控图神经网络中层与层之间的信息流动。在边的类型方面,考虑了人物信息的差异,以更好地捕捉情感变化的内因和外因。通过在4个公开数据集(IEMOCAP、MELD、EmoryNLP、DailyDialogue)上进行的广泛实验,与当前先进的ERC方法相比,本文的方法在前3个数据集上的F1分数分别提升了1.69%,0.27%和0.38%。此外,本文的自适应方法在长对话上的效果提升了2.11%,优于短对话的0.8%,同时,通过引入SwiGLU有效减缓了图神经网络中的过度平滑现象。综合结果表明,本文提出的融合主题模型进行自适应构边以及引入SwiGLU门控单元的图神经网络方法,能够有效提高对话情感识别的效果,增强模型的鲁棒性。

基于EWT-CNN-BiGRU的多特征电力负荷预测模型

针对目前多特征预测模型在短期电力负荷数据上精度不足的问题,提出一种基于经验小波变换(EWT)的卷积神经网络(CNN)融合双向门控循环单元(Bi GRU)预测模型。首先,从多维时序数据中提取强关联性特征,其次,对选定特征进行经验小波变换,将时序数据映射至频域以获取子序列,最后,通过卷积神经网络和双向门控循环单元融合模型实现对电力负荷数据的预测。该预测模型使用德国某联合循环电厂的时序数据进行实验验证。结果表明,该预测模型获得99.463%的拟合优度,具有较好的预测效果。