新的组合激活函数BP网络模型研究

作者提出了一种新的 BP神经网络模型 ,其隐层激活函数采用中心参数可调的 Gaussian函数 ,输出层采用斜度可调的 Sigmoid函数 ,从而神经元具有了更强的信息存储、处理能力。由于采用组合函数 ,将 Gaussian函数良好的局部性和 Sigmoid函数良好的全局性相结合 ,提高了神经网络的收敛速度。几个典型实验的结果表明 ,与传统 BP网络模型相比 。

可重构功放的新颖NARX神经网络逆向建模研究

针对使用CAD软件设计射频微波电路繁琐且耗时长等缺点,提出一种新颖的带外部输入的非线性自回归(NARX)神经网络逆向建模方法。此方法采用具有激励函数的NARX神经网络(DAFNN)为模型以提高网络的泛化能力,利用支持向量机(SVM)替代模型的前馈部分完成数据分类,解决设计中的多解问题。然后应用于可以覆盖多个频段的可重构功率放大器中,实验表明,该方法在精度方面分别优于直接逆向建模方法和自适应η逆向建模方法99.86%和81.32%,计算速度方面优于直接逆向建模方法31.72%,可以降低射频微波可重构功率放大器的设计复杂度、缩短其设计时间。

基于时序融合策略的深度卷积网络动态表情识别

静态表情识别是对单一图像进行特征提取及学习训练,相比于动态表情识别缺少表情变化的时间动态信息。为利用上表情在时间上的变化特征,提出基于时序融合策略的深度网络动态表情识别方法。首先分析动态表情变化"平静-高峰"的过程,利用主动外观模型(AAM),定义峰值距离(PD)和相邻距离(ND),利用两个参数对表情序列进行筛选,除去中性及表达不明显的表情;采用连续4帧序列作为输入,并使用3个VGGFace深度卷积网络分别对输入进行训练,通过构建分类损失函数和排序损失函数将3个网络关联起来,从而达到融合表情序列时间信息的目的;最后通过CK+数据库实验验证表明,所提方法结合了深层次卷积网络特征提取的能力以及表情变化信息融合的优势,对比近年表情识别算法,在识别率上具有较强的优势。

基于BiLSTM-NFC的地下水埋深预测方法研究

为了提高地下水埋深预测的精度,提出了双向长短时记忆循环神经网络(BiLSTM)融合非全连接神经网络(NFC)的深度学习模型。使用自适应矩估计优化函数(Adam),耦合双曲正切(Tanh)、软最大逻辑回归(Softmax)和线性整流单元(ReLU)3个激活函数,且将学习率设置为动态的,以黄河下游人民胜利渠灌区1993—2018年的地下水埋深预测为例,将BiLSTM-NFC与BiLSTM、长短时记忆循环神经网络(LSTM)及LSTM-NFC的预测结果进行对比分析。结果表明:双向网络的性能优于单向网络,NFC可以防止过拟合,还能明显降低模型的均方误差(MSE);与BiLSTM、LSTM-NFC和LSTM相比,BiLSTM-NFC的学习能力、稳定性、可靠性及泛化能力最强;BiLSTM-NFC在测试集上的准确率(Acc)可以达到100%,最接近无偏估计,MSE比LSTM的减小96.60%,平均相对误差(MRE)减小85.63%,相关系数(r)增大34.81%;模型在图形处理单元(GPU)上比在中央处理单元(CPU)上训练时间明显缩短,合理设置多种激活函数可以解决单一激活函数的弊端;使用BiLSTM-NFC可以准确地预测地下水埋深的变化情况。