時間序列預測建模中，非平穩性或distribution shift一直是一個建模難點。非平穩性指的是時間序列的統計量，如均值、方差隨時間發生變化，導致數據分布隨著時間發生漂移，造成了模型訓練和擬合的難度。

今天給大家介紹一下最近一段時間提出的2種解決時間序列非平穩性問題的方法。這兩種方法分別從多粒度的角度和頻域的角度進行可逆歸一化，實現了不錯的效果提升。

1.基礎可逆歸一化方法

可逆歸一化最基礎的方法來自REVERSIBLE INSTANCE NORMALIZATION FOR ACCURATE TIME-SERIES FORECASTING AGAINST DISTRIBUTION SHIFT（ICLR 2022），這篇文章的核心思路是在輸入序列中將均值、方差等序列不穩定的信息去掉，再在輸出階段利用這些被去掉的不穩定但是序列個性化的信息對序列進行還原，模型重點處理去掉均值和方差后的平穩序列的預測任務。

下面給大家進一步介紹最近兩篇可逆歸一化建模方法。

2.多粒度可逆歸一化

論文標題：EVOLVING MULTI-SCALE NORMALIZATION FOR TIME SERIES FORECASTING UNDER DISTRIBUTION SHIFTS

下載地址：??https://arxiv.org/pdf/2409.19718v1??

上述基礎的ReVIN只考慮了單一粒度的統計量信息，沒有考慮多粒度信息的影響。時間序列中，不同的粒度的序列，對應的均值和方差都是存在較大差異的，只用單一粒度的統計量進行歸一化，無法完美解決分布漂移問題。

為了解決上述問題，本文提出了一種多粒度歸一化方法。對于原始時間序列，先經過傅里葉變換后，找到topK個主成分，這些主成分表明序列的主要季節性信息。接下來，根據這些頻率信息作為聚合粒度，生成K種不同粒度的時間序列聚合結果。針對每種粒度的時間序列，分別使用類似Dish-TS的建模方法，進行均值方差的歸一化，并預測未來的均值方差，再將預測的均值方差作用到模型輸出結果上。對于不同粒度的預測結果進行ensemble，使用頻域中該粒度對應頻域的振幅進行加權，得到最終的預測結果。

3.頻域可逆歸一化

論文標題：Frequency Adaptive Normalization For Non-stationary Time Series Forecasting

下載地址：??https://arxiv.org/pdf/2409.20371v1??

ReVIN這種在時域進行的可逆歸一化方法，雖然能解決均值和方差的變化問題，但是無法解決周期性的變化問題。比如圖中，模型的季節性隨著時間發生變化，這個信息在ReVIN的方法中無法消除。

為了解決這個問題，這篇文章提出了一種在頻域進行可逆歸一化的建模方法。其整體建模思路和ReVIN類似，將原始序列通過傅里葉變換映射到頻域，在頻域中選擇topK個主要頻率成分，將這些主要頻率成分從原始數據中剝離出來，模型只對剩余的平穩季節項的序列進行預測，預測結果再加上主要頻率成分進行還原。

4.總結

分布漂移是時間序列預測的一個核心研究點，也是建模的難點。今天介紹的2篇新方法，從不同維度提出了新的時間序列可逆歸一化建模方法，取得了一定的效果提升，可以在實際應用中進行嘗試。

本文轉載自??圓圓的算法筆記??，作者： Fareise ????