一种基于序列到序列时空注意力学习的交通流预测模型

城市交通流预测是研究交通时空序列数据的动态演化并预测未来交通情况的关键技术,对于智能交通预警及管理决策来讲至关重要.但是有效的交通流建模非常具有挑战性,因为它受到很多复杂因素的影响,例如交通网络的时空依赖性和序列突变性等问题.一些研究工作将卷积神经网络(convolutional neural networks, CNN)或循环神经网络(recurrent neural networks, RNN)用于交通流量预测建模.但是,直接使用经典的深度学习模型难以有效捕获与交通流相关的多通道多变量序列数据中的隐含时空依赖性特征.针对上述问题,提出了一种新的序列到序列时空注意力深度学习框架(spatial-temporal attention traffic forecasting, STATF)来处理城市交通流建模任务,它是一种基于卷积LSTM编码层和LSTM解码层,并辅助注意力机制的端到端深度学习模型,可以自适应地学习与城市交通流相关的多通道多变量时空序列数据中的时空依赖性和非线性相关性特征.基于3个真实的交通流数据集实验结果表明:不管是单步预测还是多步预测条件下,STATF模型都具有更优的预测性能.

基于深度学习的稠油蒸汽驱汽窜时间预测方法

实时可靠的汽窜时间预测方法可以为及时采取防治措施提供支持.结合深度学习算法以及油井自身动态数据的约束,提出一种预测稠油井汽窜时间的新方法.针对单一指标波动频繁,噪声大,以及无法准确表征汽窜时间等问题,根据油田实际注采数据,以参数组合的方式构建表征蒸汽窜流通道形成时间的指标参数,并结合变异系数-G1混合交叉赋权法融合成汽窜综合判识曲线.基于标准互信息的相似性度量方法选择合适的时间序列数据作为输入特征,以相应的汽窜综合判识曲线作为输出时间序列构建学习样本.采用序列到序列深度学习框架建立汽窜时间的预测模型进行实际预测,并与传统的机器学习方法进行对比,验证模型的有效性和优越性.该方法通过数据驱动的方式模拟了注采时间序列特征与汽窜判识曲线之间的映射关系,可有效提高汽窜时间预测的效率和精度,对汽窜智能预警具有一定指导意义.

基于自动文摘的答案生成方法研究

在自动问答系统中,用户提出的问题具有句式复杂和语义多变的特点。而自动问答知识库中资源有限,因此问句和答案句的语义表示和问句答案间的语义匹配是答案生成的关键^([1])。针对以上问题,提出一种基于自动文摘的答案生成方法。将答案生成转换为特征匹配和自动摘要问题,即计算问句间的相似度并以相似问题的答案构建原始答案集。利用循环神经网络构建序列到序列学习模型实现原始答案集的自动摘要,得到简洁准确答案。

基于数据增广和复制的中文语法错误纠正方法

中文作为一种使用很广泛的文字,因其同印欧语系文字的天然差别,使得汉语初学者往往会出现各种各样的语法错误。本文针对初学者在汉语书写中可能出现的错别字、语序错误等,提出一种自动化的语法纠正方法。首先,本文在自注意力模型中引入复制机制,构建新的C-Transformer模型。构建从错误文本序列到正确文本序列的文本语法错误纠正模型,其次,在公开数据集的基础上,本文利用序列到序列学习的方式从正确文本学习对应的不同形式的错误文本,并设计基于通顺度、语义和句法度量的错误文本筛选方法;最后,还结合中文象形文字的特点,构造同形、同音词表,按词表映射的方式人工构造错误样本扩充训练数据。实验结果表明,本文的方法能够很好地纠正错别字、语序不当、缺失、冗余等错误,并在中文文本语法错误纠正标准测试集上取得了目前最好的结果。