船舶拥堵水域通行能力预测技术

针对船舶交通流量大、水域繁忙情况下,通行能力预测难度过高的问题,提出船舶拥堵水域通行能力预测技术。利用船舶坐标位置以及航行速度,确定船舶状态,建立船舶航行队列模型。依据船舶领域模型确定船舶航行对应的椭圆形区域,作为船舶拥堵水域的领域。确定船舶领域内,影响航道容量的相关因素。设置船舶密度、船舶航行速度等水域通行能力影响指标,作为长短时记忆网络的输入。长短时记忆网络通过遗忘门、输入门以及输出门3个门控单元,选择保留或遗忘输入的数据,输出船舶拥堵水域通行能力预测结果。实验结果表明,该技术能够有效预测船舶拥堵水域通行能力,提高航道利用率,保障水域交通安全性。

基于长短期记忆神经网络的企业财务风险预警模型研究

为了提高企业财务风险预警的准确度,采用长短期记忆(LSTM)神经网络算法建立企业财务风险预警模型。首先分析企业财务风险预警指标,并选取重要度高的指标构建企业财务风险预警特征样本。然后经过LSTM神经网络训练,采用遗忘门和记忆节点对历史财务数据进行遗忘和筛选,保留部分数据代入下次神经网络训练,通过反向传播获取最优权重与阈值。以企业财务风险预警准确度为目标函数,获得稳定的企业财务风险预警模型。实验证明,LSTM神经网络算法能够对企业财务重要指标进行预测,而且能正确设置企业财务风险预警阈值。通过和常用企业财务风险预警算法对比,本文算法的预警准确率更高。

一种基于GRU的增量学习算法

为了提高增量学习过程中模型的灵活性,本文提出一种基于门控循环单元(gate recurrent unit, GRU)的增量学习算法。为了保证模型的稳定性,提出共享主干特征提取网络的低级特征。基于GRU设计了特征融合模块和伪增量学习算法;特征融合模块能够融合神经网络为不同任务产生的高级特征,重建特征表示与分类器的对应关系,实现增量学习过程中神经网络的灵活性。为了验证算法稳定性,本文在CIFAR100、miniImageNet和ImageNet1000数据集上与其他增量学习算法进行了对比实验,分别实现了0.173 0、0.174 7与0.223 0的表现下降率,比最好的基准算法提升了0.028 9、0.059 4与0.011 6。为了验证算法的灵活性,本文在ImageNet1000数据集上实现了0.753 4的top1准确率,比最好的基准算法高出0.129 0。

基于随差遗忘长短期记忆的风电功率实时预测

由于标准长短期记忆(long short-term memory,LSTM)遗忘门更新方式不能实时反映预测误差对模型预测的修正作用,提出随差遗忘长短期记忆(Error Following Forget Gate-based LSTM,EFFG-based LSTM)的风电功率实时预测模型。用上一时刻的风电功率预测值与实际值的误差来更新遗忘门,从而降低上一时刻预测误差对此时风电功率预测精度的影响,提升风电功率滚动预测精度,并采用某实际风电场的历史风电功率数据和数值预报气象数据进行了验证,结果表明:基于EFFG-based LSTM网络风电功率实时预测模型预测值的均方根误差小于3%,满足系统调度相关要求;准确率、合格率达到90%以上,比基于支持向量机和标准LSTM模型具有更高的预测精度。

基于紧耦合时空双流卷积神经网络的人体动作识别模型

针对视频人体动作识别中动作信息利用率不高、时间信息关注度不足等问题,提出了一种基于紧耦合时空双流卷积神经网络的人体动作识别模型。首先,采用两个2D卷积神经网络分别提取视频中的空间特征和时间特征;然后,利用长短期记忆(LSTM)网络中的遗忘门模块在各采样片段之间建立特征层次的紧耦合连接以实现信息流的传递;接着,利用双向长短期记忆(Bi-LSTM)网络评估各采样片段的重要性并为其分配自适应权重;最后,结合时空双流特征以完成人体动作识别。在数据集UCF101和HMDB51上进行实验验证,该模型在这两个数据集上的准确率分别为94.2%和70.1%。实验结果表明,所提出的紧耦合时空双流卷积网络模型能够有效提高时间信息利用率和动作整体表达能力,由此明显提升人体动作识别的准确度。

基于注意力机制双通道复合模型的文本情感分类

针对目前常见神经网络在处理中文短文本情感分类任务中对文本数据复杂信息特征提取不完整,致使前后关联性文本学习不充分等问题,提出一种结合注意力机制的双通道复合网络模型。首先对语料进行预处理形成文本向量矩阵;然后在两个通道中分别利用卷积神经网络层,双向耦合输入和遗忘门网络层提取样本向量的局部特征,用以学习前后词向量之间的联系;再分别加入注意力机制网络层,对不同情感密度的文本信息进行权重分配,提高重点信息对句子情感分类的影响强度;最终将两个通道特征向量进行融合,计算文本数据概率分布。提出的多层混合网络模型在京东商品评论集和搜狐新闻数据集上测试结果显示,准确率分别达到93.17%和91.18%,F-SCORE数值达到93.12%和91.12%,验证了该复合模型应用于文本情感分析的有效性。

基于序列遗忘行为的动态键值记忆网络

知识追踪过程中动态键值记忆网络(dynamic key-value memory networks,DKVMN)未考虑答题序列对学生学习和遗忘行为的影响,导致DKVMN预测性能仍有一定的提升空间.针对该问题,提出一种基于序列中遗忘行为的动态键值记忆网络(dynamic key-value memory networks-forget,DKVMN-F).将重复时间间隔视为遗忘因素,过去答题次数视为学习因素,利用门控机制在DKVMN的预测层整合遗忘因素和学习因素.仿真结果表明,相较于同类模型,DKVMN-F模型的曲线下面积(area under curve,AUC)和准确率(accuracy,ACC)分数更高,更加适用于知识追踪任务.

基于CNNCIFG-Attention模型的文本情感分类

神经网络在处理中文文本情感分类任务时,文本显著特征提取能力较弱,学习速率也相对缓慢。针对这一问题,文中提出一种基于注意力机制的混合网络模型。首先对文本语料进行预处理,利用传统的卷积神经网络对样本向量的局部信息进行特征提取,并将其输入耦合输入和遗忘门网络模型,用以学习前后词句之间的联系。随后,再加入注意力机制层,对深层次文本信息进行权重分配,提高重要信息对文本情感分类的影响强度。最后,将所提出的混合网络模型在京东商品评论集上进行测试。测试结果显示,新方法的准确率达到了92.13%,F-Score数值为92.06%,证明了CNNCIFG-Attention模型的可行性。