基于分解和频域特征提取的多变量长时间序列预测模型

针对现有基于Transformer的多变量长时间序列预测(MLTSF)模型主要从时域中提取特征,难以直接从长时间序列分散的时间点中找出可靠依赖关系的问题,提出一种新的基于分解和频域特征提取的模型。首先,提出基于频域的周期项-趋势项的分解方法,以降低分解过程的时间复杂度;其次,在利用周期项-趋势项分解提取序列趋势性特征的基础上,利用基于Gabor变换进行频域特征提取的Transformer网络捕捉周期性的依赖,提高预测的稳定性和鲁棒性。在5个基准数据集上的实验结果显示,与现有的先进方法相比,所提模型在MLTSF上的均方误差(MSE)平均减小了7.6%,最多减小了18.9%,有效提升了预测精度。

较短的长序列时间序列预测模型

针对现有的研究大多将短序列时间序列预测和长序列时间序列预测分开研究而导致模型在较短的长序列时序预测时精度较低的问题,提出一种较短的长序列时间序列预测模型(SLTSFM)。首先,利用卷积神经网络(CNN)和PBUSM(Probsparse Based on Uniform Selection Mechanism)自注意力机制搭建一个序列到序列(Seq2Seq)结构,用于提取长序列输入的特征;其次,设计“远轻近重”策略将多个短序列输入特征提取能力较强的长短时记忆(LSTM)模块提取的各时段数据特征进行重分配;最后,用重分配的特征增强提取的长序列输入特征,提高预测精度并实现时序预测。利用4个公开的时间序列数据集验证模型的有效性。实验结果表明,与综合表现次优的对比模型循环门单元(GRU)相比,SLTSFM的平均绝对误差(MAE)指标在4个数据集上的单变量时序预测分别减小了61.54%、13.48%、0.92%和19.58%,多变量时序预测分别减小了17.01%、18.13%、3.24%和6.73%。由此可见SLTSFM在提升较短的长序列时序预测精度方面的有效性。

基于Conv1D-LSTM混合模型的长时间序列日最高温预测研究

针对传统方法难以处理高维度数据捕捉气温数据中的非线性模式和复杂动态特征的问题,本文提出一种基于卷积神经网络(Conv1D)与长短期记忆网络(LSTM)相结合的混合模型,用于长时间序列高温预测研究。数据集包含北京市2014年至2023年间的气象数据,包括天气、日最低温、日最高温、风向等特征。通过特征工程处理,将天气和风向特征编码,并对温度特征归一化。构建的Conv1D-LSTM混合模型创新性地融合Conv1D以捕获时间序列中的局部特征,融合LSTM以学习长期依赖关系。与传统模型相比,该混合模型的均方根误差(RMSE)和平均绝对误差(MAE)分别降低约17.3%和20.5%,同时R2分数提高约1.06%,表明该模型具有更高的预测精度和泛化能力。

基于双通道回声状态网络的时间序列补全及单步预测

随着物联网的发展,众多传感器采集到大量具有丰富数据相关性的时间序列,为各种数据挖掘应用提供强大的数据支持。然而,一些客观或主观原因(如设备故障、稀疏感知等)往往会造成采集到的数据出现不同程度的缺失。虽然已有很多方法被提出用于解决这一问题,但这些方法在数据相关性方面或考虑不够全面,或计算成本过高。而且,现有方法仅关注对缺失值的补全,未能兼顾下游应用。针对上述不足,设计了一种兼顾补全与预测任务的双通道回声状态网络。两个通道的网络虽共用输入层,但具有各自的储备池和输出层。两者最大的区别是左/右通道的输出层分别表示输入层前/后一个时刻对应的目标值或预补值。最后将两个通道的估计值进行融合,充分利用来自缺失时刻之前和之后的数据相关性以进一步提升性能。两种缺失现象下(随机缺失和分段缺失)不同缺失率的实验结果表明,所提模型无论是在补全精度还是预测精度上都优于目前流行的各类方法。

基于渐进式分解架构的风电时间序列预测

准确预测风电机组各项指标对准确管控机组和调控电网的供需有着重要意义.预测指标任务可抽象为风电时间序列预测任务.目前时间序列预测模型主要采用深度学习模型,但是风电时间序列具有较强的波动性和随机性,导致绝大部分模型不能较好挖掘风电时间序列的复杂演化特性.为解决上述问题,提出了一种基于渐进式分解架构的风电时间序列预测方法,该方法首先应用神经网络池化分解方法将复杂的依赖关系简化并应用注意力机制学习长期趋势,然后运用多变量融合捕捉模块增强了网络整体的多变量关联挖掘能力,最后,融合趋势项和周期项对风电时间序列做出准确的预测.实验结果表明,该方法在风电时间序列的多步预测中均方误差相比基线模型至高可提升24%,在多尺度预测长度下表现出预测性能稳定提升的同时,计算效率显著优于同类模型.

基于CNN-LSTM-AM神经网络的多维长序列物流需求预测

物流需求预测是物流管理中的关键环节,但是在现实生活中,物流需求可能受到诸如天气、经济状况、特殊事件等多方面因素的影响,这使得问题呈现出多维度、长序列的特征。随着深度学习和神经网络的发展,越来越多的研究开始尝试使用神经网络模型进行物流需求预测,但是单一的神经网络模型在处理多维度、长时间序列的预测任务时常常表现欠佳。由此文章提出了一种基于CNN-LSTM-AM的神经网络模型,用于多维长序列物流需求预测。通过消融实验与其他模型的对比,结果表明,其平均绝对误差(MAE)、均方根误差(RMSE)、决定系数(R2)均值分别为1.56、1.63和0.981,均优于其他6种神经网络模型,为物流企业提供了一个有效的参考来更好地规划资源和降低成本。

基于自注意力机制的PM_(2.5)长时间尺度预测

近些年基于机器学习的PM_(2.5)预测逐渐成为主流,具有较强的非线性建模能力和提高预测精度的优势。然而,时间跨度较大的PM_(2.5)浓度变化预测仍然面临挑战。文章构建了多种自注意力机制的模型,将PM_(2.5)浓度的逐日预测提升到了14天的尺度,提升了以日为单位的PM_(2.5)预测精度。并对Informer、Autoformer、FEDformer和TCN模型在以日为单位的长时间尺度预测进行了对比分析,提高了PM_(2.5)预测模型的准确性和可靠性。文章共构建了3,7,14天三个时间尺度,在各个时间尺度上,Autoformer模型性能表现都是最好的。相较于TCN模型,Autoformer在预测未来3天的时间尺度上,RMSE优化了43.36%,MAE优化了42.70%。在7天的时间尺度上,RMSE优化了39.07%,MAE优化了8.98%、在14天的时间尺度上,RMSE优化了39.07%,MAE优化了8.98%。有效提升了PM_(2.5)在长时间序列预测上的精度。

基于核技巧改进的Informer模型的长序列时间序列预测方法

如今,学者们对长序列时间序列问题的预测主要基于类RNN模型,且其中大部分使用的损失函数是传统的均方误差(MSE)。但类RNN模型在预测任务中存在只能捕捉局部信息且计算开销会随着预测序列的增多迅速提升的问题。不仅如此,MSE损失函数无法捕捉长时间序列数据中普遍存在的非线性问题,且自身还存在对异常值敏感和鲁棒性较低的问题。基于以上背景,提出一种完全基于注意力机制的Informer模型,并在模型中使用基于核技巧改进的Kernal-MSE损失函数代替传统的MSE损失函数来解决长序列时间序列预测的问题。在多变量预测多变量的背景下,以3类数据中的8份数据集为例,对比改进后的Informer模型与经典的Informer模型,类RNN模型中的LSTM和GRU模型。结果表明,改进后的Informer模型预测精度更高,且精度的相对提升值随着原始数据量的增大而增大,适用于长序列时间序列预测问题。

基于时间跨度注意力机制的多变量时间序列预测方法

在深度学习领域中,多变量时间序列预测的关键是充分捕获其长、短期的依赖。通常的做法是使用卷积神经网络(CNN)来提取多变量时间序列的短期依赖。但是目前的大多数方法都仅仅使用了一种尺寸的卷积核来提取短期依赖,这样就只提取到了一种时间跨度的短期依赖,使得序列的短期依赖关系没有被充分学习到。受多尺度特征提取和通道注意力机制的启发,提出了一种基于时间跨度注意力的神经网络(TSANN)方法,通过充分利用短期依赖来提高多变量时间序列预测的准确度。首先,使用一系列不同大小的卷积核来提取不同时间跨度的短期依赖。然后使用时间跨度注意力将这些特征融合起来并送入循环神经网络(RNN),进一步提取长期特征。另外,与其他方法直接将非线性部分和线性部分的输出相加不同,采用了一个权重学习模块来整合非线性部分和线性部分的输出。在四个基准数据集上进行了实验,结果表明TSANN能有效提高多变量时间序列预测的准确度。

电力短期负荷的多变量时间序列线性回归预测方法研究

根据单变量时间序列的相空间重构思想,提出了一种电力短期负荷的多变量时间序列相空间重构方案,同时针对每一分量时间序列采用互信息法进行最佳延迟时间的选择,最优嵌入维数则采用最小预测误差法进行确定。根据相点间的欧氏距离和关联度,提出了最近邻域点的优化选择方法,建立了多变量时间序列的一阶局域线性预测模型。通过重庆某地区电力系统短期负荷预测的计算实例表明,基于多变量时间序列的负荷预测方法与单变量负荷预测方法相比,具有较强的自适应能力和较好的预测效果。

基于多变量时间序列CAR模型的地下水埋深预测

为准确估计内蒙古河套灌区地下水埋深的变化规律,根据河套灌区沙壕渠灌域1988-2007年实测的地下水埋深、降雨、蒸发及引水量资料,基于多变量时间序列CAR(Controlled Auto-regressive)模型建立了地下水埋深的预测模型,并对模型进行了验证,并将模型在不同方案条件下进行了地下水埋深预测的应用。结果表明:河套灌区地下水埋深受到气候条件、引水量的影响较大。CAR模型预测效果良好,模型在沙壕渠灌域具有较好的适用性。预测方案显示,当区域蒸发量增加25%,降雨量减少34%,年引水量减少18%时,地下水埋深将达到2.21m。提出的研究方法和结果可为灌区灌溉用水管理提供参考。

一种多变量时间序列的短期负荷预测方法研究

针对短期负荷影响因素多的特点提出了电力短期负荷的多变量时间序列预测方法,并根据单变量时间序列的延时重构对由历史负荷序列及其相关因素序列所构成的多变量时间序列进行了相空间重构,采用互信息法计算了各子序列的延迟时间,各子序列的嵌入维数则运用平均一步绝对误差和最小一步绝对误差进行选取,然后通过RBF神经网络的非线性映射能力进行电力短期负荷预测。研究结果表明多变量时间序列的预测效果相对于单变量序列有较大提高。

基于多变量混沌时间序列的冲击地压预测

考虑到冲击地压的混沌特征及其监测数据含噪且长度有限,基于多变量时间序列重构和GRNN模型来预测冲击地压监测变量。给出了多变量时间序列相空间重构理论和GRNN混沌预测原理,并提出采用遗传算法同时确定最佳重构参数和GRNN的光滑因子以保证预测精度。在Matlab2010a仿真环境下,将本文方法用于Lorenz系统以验证对含噪且长度有限的混沌序列的适用性,最后对微震能量和电磁辐射两类数据进行预测研究。结果表明:即使历史数据有限,多变量混沌序列预测方法也能提前预测出多个监测变量,从而实现冲击地压预报。

基于多变量时间序列及向量自回归机器学习模型的水驱油藏产量预测方法

提出了一种基于多变量时间序列(MTS)及向量自回归(VAR)机器学习模型的水驱油藏产量预测方法,并进行了实例应用。该方法在井网分析的基础上通过MTS分析对注采井组数据进行优选,并将井组内不同采出井产油量及注入井注水量作为彼此相关的时间序列,通过建立VAR模型从多个时间序列中提取出相互作用规律,挖掘注采井间流量的依赖关系从而进行产量预测。水驱油藏历史生产数据分析结果表明,与数值模拟历史拟合结果相比,机器学习模型产量预测结果具有更高精度,同时不确定性分析提升了预测结果的安全性。通过脉冲响应分析对注入井的采油贡献量进行评价,可为注水开发方案调整提供理论指导。

长记忆性时间序列及其预测

本文概述了长记忆的概念、性质和分整自回归滑动平均模型（ＡＲＦＩＭＡ）。

基于虚拟变量与时间序列法的电量需求预测

在使用时间序列法预测电量需求的过程中,引入虚拟变量,量化关键不确定性因素对电量需求的影响,构建基于时间序列法和虚拟变量法的预测模型。该模型能够对参与回归的电量数据进行较好的平滑处理,从而更好地拟合电量需求的变化趋势。算例分析表明,使用该模型预测电量需求的准确性较高,在实际工作中具有可行性和有效性。

基于神经网络的多变量时间序列预测及其在股市中的应用

首先分别由开盘价、最低价、最高价和收盘价序列经小波变换得到在大尺度上的各自逼近序列 ,并由这些逼近序列进行相空间重构 ,得到各自重构相空间内的点 ,即矢量列 .然后将这 4个矢量列组合成一个维数更高的矢量列 ,作为神经网络的输入 ,对其进行训练 .最后用训练好的网络对 2 0 0 0年初的牛市行情中的上证指数波动趋势进行预测 。

短期负荷多变量混沌时间序列正则化回归局域预测方法

为提高短期负荷预测的精度,提出了多变量混沌时间序列正则化回归局域预测方法。选取对负荷影响程度最大的实感温度因素,构建了多变量时间序列。首先采用互信息法和最小预测误差法确定出时间序列延迟和嵌入维数,并依据确定的重构参数进行短期负荷多变量时间序列的相空间重构,针对局域预测法中邻近点个数少而不能满足最小二乘估计条件的问题,提出了基于正则化回归的多变量时间序列混沌局部预测模型。通过重庆某地区电力系统短期负荷预测的计算实例表明,该方法具有较强的自适应能力和较好的预测效果。

基于多变量时间序列(CAR)模型的洞庭湖区域地下水资源量预测

为了预测洞庭湖区域地下水资源量的变化趋势,制定应对地下水资源量较低年份的有效措施,通过分析洞庭湖区域河川天然径流量、长江三口入水量、城陵矶出水量与地下水资源量的变化趋势和相关性,运用多变量时间序列CAR模型,建立了洞庭湖区域地下水资源量的预测模型,验证了模型的预测效果;并运用该模型对洞庭湖区域地下水资源量的变化进行了预测。研究结果表明,洞庭湖区域河川天然径流量、长江三口入水量和城陵矶出水量的变化是引起地下水资源量变化的主要因素;本研究所建的模型模拟值与实测值相对误差的最大值为-7.47%,平均值为3.63%,表明该模型的预测精度高、效果好;通过对未来10年洞庭湖区域的地下水资源量进行预测可知,其平均值下降了0.49亿m3,最低值下降了0.66亿m3,表明该区域地下水资源量仍将持续降低;据不同方案下的地下水资源量预测结果可知,通过增加长江三口入水量,可以有效提高洞庭湖区域的地下水资源量。

单变量时间序列预测:综述与评价

对目前常用的和较有发展前途的单变量时间序列预测方法进行了评述,分析了这些方法的长处和不足,并指出了一些值得研究的问题。