基于核技巧改进的Informer模型的长序列时间序列预测方法

如今,学者们对长序列时间序列问题的预测主要基于类RNN模型,且其中大部分使用的损失函数是传统的均方误差(MSE)。但类RNN模型在预测任务中存在只能捕捉局部信息且计算开销会随着预测序列的增多迅速提升的问题。不仅如此,MSE损失函数无法捕捉长时间序列数据中普遍存在的非线性问题,且自身还存在对异常值敏感和鲁棒性较低的问题。基于以上背景,提出一种完全基于注意力机制的Informer模型,并在模型中使用基于核技巧改进的Kernal-MSE损失函数代替传统的MSE损失函数来解决长序列时间序列预测的问题。在多变量预测多变量的背景下,以3类数据中的8份数据集为例,对比改进后的Informer模型与经典的Informer模型,类RNN模型中的LSTM和GRU模型。结果表明,改进后的Informer模型预测精度更高,且精度的相对提升值随着原始数据量的增大而增大,适用于长序列时间序列预测问题。