對(duì)抗「概念飄逸」難題！谷歌發(fā)布全新時(shí)間感知框架：圖像識(shí)別準(zhǔn)確率提升15%

作者：新智元 2024-03-01 13:31:21

告別數(shù)據(jù)健忘癥！機(jī)器學(xué)習(xí)新方法實(shí)現(xiàn)「時(shí)空穿越」，助力模型適應(yīng)易變世界。

在機(jī)器學(xué)習(xí)領(lǐng)域，概念漂移（concept drift）問題長期困擾著研究者，即數(shù)據(jù)分布隨時(shí)間發(fā)生變化，使得模型難以持續(xù)有效。

一個(gè)顯著的例子是CLEAR非穩(wěn)態(tài)學(xué)習(xí)基準(zhǔn)的圖像展示，它揭示了物體視覺特征在十年間發(fā)生的顯著變化。

這種現(xiàn)象被稱為「緩慢的概念漂移」，它對(duì)物體分類模型提出了嚴(yán)峻的挑戰(zhàn)。當(dāng)物體的外觀或?qū)傩噪S著時(shí)間的推移而改變時(shí)，如何確保模型能夠適應(yīng)這種變化并持續(xù)準(zhǔn)確地進(jìn)行分類，成為了研究者關(guān)注的焦點(diǎn)。

近日，針對(duì)這一挑戰(zhàn)，Google AI的研究人員提出了一種優(yōu)化驅(qū)動(dòng)的方法MUSCATEL（Multi-Scale Temporal Learning），顯著提升了模型在大型、動(dòng)態(tài)數(shù)據(jù)集中的表現(xiàn)。該工作發(fā)表于AAAI2024。

論文地址：https://arxiv.org/abs/2212.05908

目前，針對(duì)概率漂移的主流方法是在線學(xué)習(xí)和持續(xù)學(xué)習(xí)（online and continue learning）。

這些方法的核心思想是，通過不斷更新模型以適應(yīng)最新數(shù)據(jù)，保持模型的時(shí)效性。然而，這種做法存在兩個(gè)核心難題。

首先，它們往往只關(guān)注最新數(shù)據(jù)，導(dǎo)致過去數(shù)據(jù)中蘊(yùn)含的有價(jià)值信息被忽略。其次，這些方法假設(shè)所有數(shù)據(jù)實(shí)例的貢獻(xiàn)隨時(shí)間均勻衰減，這與現(xiàn)實(shí)世界的實(shí)際情況不符。

MUSCATEL方法能有效解決這些問題，它訓(xùn)練實(shí)例的重要性分配分?jǐn)?shù)，優(yōu)化模型在未來實(shí)例中的表現(xiàn)。

為此，研究人員引入了一個(gè)輔助模型，結(jié)合實(shí)例及其年齡生成分?jǐn)?shù)。輔助模型與主模型協(xié)同學(xué)習(xí)，解決了兩個(gè)核心難題。

該方法在實(shí)際應(yīng)用中表現(xiàn)優(yōu)異，在一項(xiàng)涵蓋3900萬張照片、持續(xù)9年的大型真實(shí)數(shù)據(jù)集實(shí)驗(yàn)中，相較于其他穩(wěn)態(tài)學(xué)習(xí)的基線方法，準(zhǔn)確率提升了15%。

同時(shí)在兩個(gè)非穩(wěn)態(tài)學(xué)習(xí)數(shù)據(jù)集及持續(xù)學(xué)習(xí)環(huán)境中，也展現(xiàn)出優(yōu)于SOTA方法的效果。

概念漂移對(duì)有監(jiān)督學(xué)習(xí)的挑戰(zhàn)

為了研究概念漂移對(duì)有監(jiān)督學(xué)習(xí)的挑戰(zhàn)，研究人員在照片分類任務(wù)中比較了離線訓(xùn)練（offline training）和持續(xù)訓(xùn)練（continue training）兩種方法，使用約3,900萬張10年間的社交媒體照片。

如下圖所示，離線訓(xùn)練模型雖然初始性能高，但隨時(shí)間推移準(zhǔn)確性下降，因?yàn)?zāi)難遺忘（catastrophic forgetting）導(dǎo)致對(duì)早期數(shù)據(jù)理解減少。

相反，持續(xù)訓(xùn)練模型雖初始性能較低，但對(duì)舊數(shù)據(jù)依賴較低，測試期間退化更快。

這表明數(shù)據(jù)隨時(shí)間演變，兩模型的適用性降低。概念漂移對(duì)有監(jiān)督學(xué)習(xí)構(gòu)成挑戰(zhàn)，需持續(xù)更新模型以適應(yīng)數(shù)據(jù)變化。

MUSCATEL

MUSCATEL是一種創(chuàng)新的方法，旨在解決緩慢概念漂移這一難題。它通過巧妙結(jié)合離線學(xué)習(xí)與持續(xù)學(xué)習(xí)的優(yōu)勢，旨在減少模型在未來的性能衰減。

在龐大的訓(xùn)練數(shù)據(jù)面前，MUSCATEL展現(xiàn)了其獨(dú)特的魅力。它不僅僅依賴傳統(tǒng)的離線學(xué)習(xí)，更在此基礎(chǔ)上審慎地調(diào)控和優(yōu)化過去數(shù)據(jù)的影響，為模型未來的表現(xiàn)打下堅(jiān)實(shí)基礎(chǔ)。

為了進(jìn)一步提升主模型在新數(shù)據(jù)上的性能，MUSCATEL引入了一個(gè)輔助模型。

根據(jù)下圖中的優(yōu)化目標(biāo)，訓(xùn)練輔助模型根據(jù)每個(gè)數(shù)據(jù)點(diǎn)的內(nèi)容和年齡為其分配權(quán)重。這一設(shè)計(jì)使得模型能夠更好地適應(yīng)未來數(shù)據(jù)的變化，保持持續(xù)的學(xué)習(xí)能力。

為了使輔助模型與主模型協(xié)同進(jìn)化，MUSCATEL還采用了元學(xué)習(xí)（meta-learning）的策略。

這一策略的關(guān)鍵在于將樣本實(shí)例與年齡的貢獻(xiàn)進(jìn)行有效分離，并通過結(jié)合多種固定衰變時(shí)間尺度來設(shè)定權(quán)重，如下圖所示。

此外，MUSCATEL還學(xué)習(xí)將每個(gè)實(shí)例“分配”到最適合的時(shí)間尺度上，以實(shí)現(xiàn)更精確的學(xué)習(xí)。

實(shí)例權(quán)重評(píng)分

如下圖所示，在CLEAR物體識(shí)別挑戰(zhàn)中，學(xué)習(xí)的輔助模型成功調(diào)整了物體的權(quán)重：新外觀的物體權(quán)重增加，舊外觀的物體權(quán)重減少。

通過基于梯度的特征重要性評(píng)估，可以發(fā)現(xiàn)輔助模型聚焦于圖像中的主體，而非背景或與實(shí)例年齡無關(guān)的特征，從而證明了其有效性。

大規(guī)模照片分類任務(wù)取得顯著突破

在YFCC100M數(shù)據(jù)集上研究了大規(guī)模照片分類任務(wù)（PCAT），利用前五年的數(shù)據(jù)作為訓(xùn)練集，后五年的數(shù)據(jù)作為測試集。

相較于無加權(quán)基線以及其他魯棒學(xué)習(xí)技術(shù)，MUSCATEL方法展現(xiàn)出了明顯的優(yōu)勢。

值得注意的是，MUSCATEL方法有意識(shí)地調(diào)整了對(duì)遙遠(yuǎn)過去數(shù)據(jù)的準(zhǔn)確性，以換取測試期間性能的顯著提升。這一策略不僅優(yōu)化了模型對(duì)于未來數(shù)據(jù)的適應(yīng)能力，同時(shí)還在測試期間表現(xiàn)出較低的退化程度。

跨數(shù)據(jù)集驗(yàn)證廣泛使用性

非穩(wěn)態(tài)學(xué)習(xí)挑戰(zhàn)的數(shù)據(jù)集涵蓋了多種數(shù)據(jù)來源和模式，包括照片、衛(wèi)星圖像、社交媒體文本、醫(yī)療記錄、傳感器讀數(shù)和表格數(shù)據(jù)，數(shù)據(jù)規(guī)模也從10k到3900萬實(shí)例不等。值得注意的是，每個(gè)數(shù)據(jù)集之前的最優(yōu)方法可能各有千秋。然而，如下圖所示，在數(shù)據(jù)與方法均存在多樣性的背景下，MUSCATEL方法均展現(xiàn)出了顯著的增益效果。這一結(jié)果充分證明了MUSCATEL的廣泛適用性。