好久沒有見到時間序列預(yù)測方向大的突破了，部分可能歸因于兩點(diǎn)：1. 現(xiàn)有方法能力已被推至極限；2. 所預(yù)測對象本身內(nèi)生的隨機(jī)性。

近日Nature上有學(xué)者提出未來引導(dǎo)學(xué)習(xí)（Future Guided Learning, FGL），引入“未來信息”動態(tài)反饋機(jī)制，在多個任務(wù)中顯著提升預(yù)測性能。

核心機(jī)制

FGL 由兩個模型構(gòu)成：

檢測模型（Future Model / Teacher），利用未來時間窗口的數(shù)據(jù)判斷關(guān)鍵事件是否會發(fā)生。

預(yù)測模型（Predictive Model / Student），依賴歷史與當(dāng)前數(shù)據(jù)進(jìn)行實(shí)時預(yù)測。

兩者通過動態(tài)反饋機(jī)制協(xié)作，預(yù)測結(jié)果與檢測結(jié)果差異越大，預(yù)測模型的更新信號就越強(qiáng)。這相當(dāng)于“未來的老師”指導(dǎo)“現(xiàn)在的學(xué)生”，讓預(yù)測模型不斷對齊未來事實(shí)。

A 在FGL框架中，教師模型專注于長期預(yù)測的學(xué)生模型的相對未來時間域進(jìn)行運(yùn)作。在完成教師模型面向未來任務(wù)的訓(xùn)練后，雙模型會在學(xué)生模型的訓(xùn)練階段同步進(jìn)行推理。

通過提取教師與學(xué)生模型的概率分布，基于公式(1)計算損失函數(shù)。A1 知識蒸餾通過類別分布間的KL散度實(shí)現(xiàn)信息傳遞。

B 在事件預(yù)測場景中，教師模型直接基于事件本身進(jìn)行訓(xùn)練，而學(xué)生模型則被訓(xùn)練來預(yù)測這些事件。盡管使用相對歷史數(shù)據(jù)，教師模型生成的未來標(biāo)簽仍被蒸餾至學(xué)生模型，引導(dǎo)其預(yù)測結(jié)果與教師模型更緊密對齊。

C 在回歸預(yù)測任務(wù)中，教師與學(xué)生模型分別承擔(dān)短期與長期預(yù)測職責(zé)。與事件預(yù)測類似，學(xué)生模型在訓(xùn)練過程中持續(xù)從教師模型獲取洞察，從而增強(qiáng)其面向更長遠(yuǎn)未來的預(yù)測能力。

關(guān)鍵實(shí)驗成果

事件預(yù)測，使用真實(shí) EEG 數(shù)據(jù)，AUC-ROC 上提升44.8%，顯著提高對發(fā)作前兆的敏感度和準(zhǔn)確率。

回歸預(yù)測，在多個模擬系統(tǒng)中進(jìn)行回歸與分類任務(wù)，均方誤差MSE 降低 23.4%，分類準(zhǔn)確率顯著提高。

理論與意義

FGL 借鑒了預(yù)測編碼（predictive coding），大腦不斷生成未來預(yù)期，并用真實(shí)結(jié)果修正預(yù)測，減少“surprise 驚訝”。

FGL 是這一認(rèn)知機(jī)制在深度學(xué)習(xí)中的一次落地，實(shí)現(xiàn)了“未來信息到當(dāng)前預(yù)測”的動態(tài)閉環(huán)。

與現(xiàn)有方法差異：

不同于多步預(yù)測，F(xiàn)GL 不直接預(yù)測遠(yuǎn)未來，而是用未來窗口引導(dǎo)訓(xùn)練；

不同于知識蒸餾，F(xiàn)GL 的“蒸餾”是動態(tài)的、時間差異驅(qū)動的。

不同于自監(jiān)督學(xué)習(xí)，對比學(xué)習(xí)，F(xiàn)GL 的監(jiān)督信號更直接、可解釋。

背后機(jī)理分析

FGL通過“未來檢測器”與“當(dāng)前預(yù)測器”的差異反饋，實(shí)現(xiàn)了動態(tài)、有針對性的監(jiān)督。

檢測器利用未來窗口信息，將長期依賴和關(guān)鍵事件的信號壓縮傳遞給預(yù)測器，從而放大重要樣本的學(xué)習(xí)效果，提高信噪比，并快速適應(yīng)分布漂移。

FGL 增強(qiáng)了歷史表征與未來結(jié)果的互信息，改善了長期依賴建模、稀有事件的信用分配以及模型的表征對齊，使預(yù)測更準(zhǔn)確、更穩(wěn)健。

對未來數(shù)據(jù)依賴、可能的信息泄漏、檢測器偏差和額外計算成本有可能會是FGL潛在局限的方面。

數(shù)據(jù)可用性 

研究中使用的所有數(shù)據(jù)集都是公開可用的：

CHB-MIT 頭皮腦電波數(shù)據(jù)庫：可在?? https://physionet.org/content/chbmit/1.0.0/ ??獲取。

Kaggle Seizure Prediction Challenge：可在?? https://www.kaggle.com/competitions/seizure-prediction ??獲取。

Kaggle UPenn & Mayo Clinic Seizure Detection Challenge：可在?? https://www.kaggle.com/competitions/seizure-detection ??獲取。

合成的 Mackey-Glass 時間序列使用了標(biāo)準(zhǔn)的 Mackey-Glass 延遲微分方程，參數(shù)設(shè)置和生成腳本在隨附的代碼庫中提供。

代碼可用性 

代碼在GitHub 存儲庫中公開可用：??https://github.com/SkyeGunasekaran/FutureGuidedLearning??。

文獻(xiàn)1，A predictive approach to enhance time-series forecasting，???https://www.nature.com/articles/s41467-025-63786-4??

本文轉(zhuǎn)載自??清熙??，作者：王慶法