基于时间进化反传学习算法的控制器设计

时间进化反传算法(BPTT)引入离散时间变量,把网络各个时刻的处理发展成前向网络。其计算的导数能用于模式识别及随机、确定控制。基于BPTT的控制器仿真用一单层网络作为仿真器模拟系统的运动学特性,用BPTT算法按时间展开仿真器模型,再运用BP算法进行训练,以求解动态系统诸问题。

基于多分支RNN快速学习算法的混沌时间序列预测

针对传统递归神经网络中出现的网络结构与计算复杂性,提出了使用多分支递归神经网络学习算法,并将其应用到混沌时间序列预测领域。首先缩减了部分冗余的分支,只保留了节点与自身之间以及节点与代表以后时刻的节点之间的分支;然后使用规则导数代替惯用的一般偏导数,有助于同时反映权值对目标函数的直接影响和间接影响;最后使学习率根据学习情况进行动态调整,有助于加快学习算法的收敛速度。仿真实验表明,当参数的选取合理时,多分支递归神经网络能够达到较高的性能。

智能车跷跷板运动行进平衡算法的研究与实现

目前智能车行进算法多采用传统的PID控制算法方案,其弱点在于响应速度慢、平衡误差较大。提出了基于反向传播神经网络(Backpropagation Through Time,BPTT)的PID精确控制算法,采用以STM32F103C8T6为核心的高精度智能车跷跷板伺服控制系统,通过三维陀螺仪加速度计传感器集成模块MPU-6050检测输出信号给主控系统更新策略,使智能车顺利达到平衡位置。多次测试结果表明,智能车在运行中最大行进速度可达3.25 m/s,全程运行平均速度可以达到2.78 m/s,实际测得最大偏差为10.7 mm,该值在允许误差范围之内,说明该神经网络伺服控制系统具有控制精度高、响应速度快、实时性好等优点。

基于GRU改进RNN神经网络的飞机燃油流量预测

利用从飞机快速存储记录器(quick access recorder,QAR)中获取的大量数据设计研究了一种利用循环神经网络(recurrent neural network,RNN)及其改进网络门控循环单元(gate recurrent unit,GRU)进行飞机燃油流量预测的模型。首先使用基于时间的反向传播算法(back propagation trough time,BPTT)训练网络,Adam优化算法加速迭代更新神经网络权重。在参数调整实验中发现循环神经网络对历史信息利用能力不足,极易发生梯度消失与梯度爆炸,遂提出改进网络结构,引入GRU重构燃油流量预测模型。在最优的超参数条件下,重构模型在训练集和测试集上的损失函数均方误差(mean squared error,MSE)值分别为0.00108、0.00097。通过与朴素RNN的预测曲线和MSE对比可以发现,改进后的GRU网络能够“记忆”更多历史信息而不易出现梯度消失或梯度爆炸的问题,预测精度与曲线拟合能力显著提高。因此,GRU重构模型显著改善了预测能力,并通过实际案例验证该预测模型在故障诊断等领域的应用。

用连续回归神经网络求解泛函极值问题

针对信息科学和控制理论中经常涉及的一类泛函极值问题,提出基于连续回归神经网络的求解方法。推导了求解泛函的连续BPTT算法,进而对该算法进行改进,得出一种在线学习算法,为并行实现打下了基础。

高校智慧后勤建设与应用

随着高校后勤信息化建设推进,资源节约集约型的智慧化后勤建设成为今后的研究方向。目前,高校智慧后勤建设以基础硬件设备建设为主。设备有效管控、风险预测等方面还需要进一步探索。文章通过智慧后勤综合管理平台采集实时数据,提出一种集成学习模型,结合常用的梯度学习算法,使用BPTT算法对高校智慧后勤风险进行有效预测。

基于递归神经网络的桥梁变形趋势预测研究

随着物联网的应用普及,桥梁的安全监测逐步向全自动、全天候、实时、高精度方向发展,但这些监测手段仅能对现有桥梁安全问题进行监测预警,无法提前预测其安全隐患,使桥梁养护止步于"管"和"控",而无法实现"防"。鉴于此,文中利用递归神经网络的循环连接特性建立桥梁健康状况评估模型,结合工程实例进行应用分析,结果表明递归神经网络在桥梁变形趋势预测、隐患发掘及健康状况评估方面具有较大优势。

基于时间递归序列模型的短文本语义简化

针对传统循环神经网络训练算法无法处理梯度消失和梯度爆炸等问题,基于循环神经网络建立LSTM模型和seq2seq模型,提出时间递归序列模型TRSM,处理序列中间隔和延迟相对较长的输入,使用BPTT反向传播算法对中文微博语料库进行训练。建立三组不同的实验作为对比,实验结果表明,TRSM模型处理后的微博文本更加简洁精炼,更适合文本语义的提取,大大减少了计算量,文字缩减率达到60%以上,语义保持率达到1.8,简化了用户要处理的大量信息,处理后的结果能够更好地用于几个关键中文语义的处理任务。