基于门控循环单元和胶囊特征的文本情感分析

针对简单的循环神经网络(RNN)无法长时间记忆信息和单一的卷积神经网络(CNN)缺乏捕获文本上下文语义的能力的问题,为提升文本分类的准确率,提出一种门控循环单元(GRU)和胶囊特征融合的情感分析模型G-Caps。首先通过GRU捕捉文本的上下文全局特征,获得整体标量信息;其次在初始胶囊层将捕获的信息通过动态路由算法进行迭代,获取到表示文本整体属性的向量化的特征信息;最后在主胶囊部分进行特征间的组合以求获得更准确的文本属性,并根据各个特征的强度大小分析文本的情感极性。在基准数据集MR上进行的实验的结果表明,与初始卷积滤波器的CNN(CNN+INI)和批判学习的CNN(CL_CNN)方法相比,G-Caps的分类准确率分别提升了3.1个百分点和0.5个百分点。由此可见,G-Caps模型有效地提高了实际应用中文本情感分析的准确性。

基于领域融合和时间权重的招工推荐模型

针对推荐系统使用嵌入层&多层感知机(Embedding&MLP)范式学习用户表示时强特征过拟合和弱特征欠拟合的问题,以及使用门控循环单元(GRU)学习用户兴趣时没有考虑到当前行为对用户最终兴趣的影响力会随时间推移逐渐减弱的问题,设计了一种基于领域融合和时间权重的招工推荐模型(RecRec)。首先,RecRec采用新的领域融合层来代替传统的串联层,而领域融合层在多域特征上表现出显著的优越性能。然后,RecRec在兴趣演化层将时间权重融入GRU,并提出时间戳门控循环单元(TSGRU),而TSGRU能更准确地学习用户兴趣。最终,RecRec通过预测用户拨通率来实现个性化推荐。实验结果表明,相较于YouTube DNN、Wide&Deep、融合注意力LSTM的协同过滤算法(ALAMF)和分期序列自注意力网络(LSSSAN),RecRec的AUC提高了0.03~0.36个百分点,说明RecRec能有效学习用户表示和用户兴趣。

基于CNN-aGRU融合模型的尾矿坝浸润线预测方法

为预防尾矿库溃坝安全事故,关联分析在线监测数据的深度,提出将卷积神经网络(CNN)与门控循环单元(GRU)融合的尾矿库浸润线安全态势预测方法,以掌握坝体的稳定性状况与安全发展态势。该方法综合考虑尾矿库监测数据复杂非线性和时序关联性等特点,利用一维卷积神经网络(1D CNN)模型获取多源数据的局部关联特征和空间特征,并利用GRU模型获取浸润线数据的时序特征,采用自适应矩估计权重衰减优化算法(AdamW)优化模型梯度的自适应性,提高预测模型泛化能力和预测精度,并以河南洛阳某金属露天钼矿尾矿坝进行试验验证。试验结果表明:对比传统BP神经网络、长短期记忆网络(LSTM)、GRU等预测模型,该预测模型在平均绝对百分比误差(MAPE)、平均绝对误差(MAE)、均方误差(MSE)、均方根误差(RMSE)、R 2几项关键指标上,分别达到0.01391562、0.005432、0.000045、0.006702、0.998334,实现对浸润线变化态势快速精准预测。

基于CNN与WRGRU的网络入侵检测模型

针对当前的入侵检测方法普遍存在准确率与泛化性较低的问题,提出了一种基于卷积神经网络(Convolutional Neural Network,CNN)和权重缩减门控循环单元(Weight Reduction Gated Recurrent Unit,WRGRU)的网络入侵检测模型(CNN-WRGRU)。该模型首先利用CNN进行入侵检测数据集的特征提取,其次利用WRGRU来学习数据特征之间的依赖关系,保留了特征之间的长期相关性,有效地防止了过拟合现象的出现,提高了模型的识别准确率及泛化性。在实验中,将CNN-WRGRU与传统方法在公开数据集上进行了检测性能比较,结果证明CNNWRGRU模型具有更好的识别效果,有效地提高了入侵检测的识别精度。

基于麻雀搜索优化的Attention-GRU短期负荷预测方法

针对短期电力负荷预测目前存在的难点与问题,提出了一种基于麻雀搜索优化的注意力门控循环单元预测方法。首先,应用注意力机制对输入序列进行权重分配;然后,输入门控循环单元组合网络对内部特征进行学习,并输出预测时间负荷值;最后,使用麻雀搜索算法对网络超参数进行组合优化,以验证集损失最小为目标函数获取最优化网络结构超参数。该方法实现了原始输入序列结构权重分配与组合网络超参数的最优化。算例分析表明,所提方法比传统预测模型精确度更高。