作者：álvaro Martínez-Sánchez, Gonzalo Arranz & Adrián Lozano-Durán

編譯：王慶法

麻省理工學(xué)院航空航天系學(xué)者11月1日在Nature上發(fā)表了一篇因果關(guān)系的研究文章【文獻(xiàn)1】，很有啟發(fā)性，特此編譯介紹。

摘要

因果性是科學(xué)探究的核心，作為理解物理系統(tǒng)中變量相互作用的基本依據(jù)，即對(duì)原因的操控會(huì)導(dǎo)致結(jié)果的變化。

當(dāng)前的因果推斷方法面臨著顯著的挑戰(zhàn)：包括非線性依賴性、隨機(jī)交互、自因果作用、匯聚效應(yīng)以及外部因素的影響等。

本文提出SURD（協(xié)同-獨(dú)特-冗余的因果分解），通過冗余、獨(dú)特和協(xié)同信息的增量來量化因果性，基于過去的觀察獲得對(duì)未來事件的理解。

該方法具有非侵入性，適用于計(jì)算和實(shí)驗(yàn)研究，即使樣本稀缺時(shí)也可用。

在因果推斷具有顯著挑戰(zhàn)的場(chǎng)景中，SURD展示出在因果性量化方面比以往方法更高的可靠性。

綜述

因果推斷有潛力推動(dòng)多個(gè)科學(xué)和工程領(lǐng)域的進(jìn)步，如氣候研究、神經(jīng)科學(xué)、經(jīng)濟(jì)學(xué)、流行病學(xué)、社會(huì)科學(xué)以及流體動(dòng)力學(xué)等。

因果關(guān)系必須與關(guān)聯(lián)和相關(guān)性這兩個(gè)概念區(qū)分開：關(guān)聯(lián)表示兩個(gè)變量之間的統(tǒng)計(jì)關(guān)系，即比隨機(jī)情況下更頻繁地共同出現(xiàn)。

關(guān)聯(lián)并不一定意味著因果，可能源于共同的原因、統(tǒng)計(jì)上的巧合或混雜因素的影響。相關(guān)性是特殊的關(guān)聯(lián)，度量變量的單調(diào)強(qiáng)度和方向。

相關(guān)性意味著關(guān)聯(lián)，但不意味著因果；因果關(guān)系意味著關(guān)聯(lián)，但不意味著相關(guān)性。區(qū)分因果性、關(guān)聯(lián)和相關(guān)性是一個(gè)重大挑戰(zhàn)。

因果關(guān)系的三個(gè)基本構(gòu)建塊是：中介變量、混雜變量和匯聚變量。這些相互作用可以相互交織并存，形成更復(fù)雜的因果網(wǎng)絡(luò)。

考慮三個(gè)事件，記為A、B和C：

中介變量（A → B → C）出現(xiàn)在變量A到變量C的因果鏈中，變量B充當(dāng)橋梁或中介。中介變量幫助解釋獨(dú)立變量如何影響因變量的潛在機(jī)制。

混雜變量（A ← B → C）充當(dāng)兩個(gè)變量的共同原因：B → A和B → C。A和C可能通過混雜變量產(chǎn)生統(tǒng)計(jì)關(guān)聯(lián)。

匯聚變量（A → B ← C）表示多個(gè)因素共同作用于同一個(gè)變量：A → B和C → B。大多數(shù)變量由于耦合而受到多個(gè)原因的影響。

尋找能準(zhǔn)確識(shí)別中介、混雜和匯聚效應(yīng)的因果性數(shù)學(xué)定義仍然是一個(gè)活躍的研究領(lǐng)域。

傳統(tǒng)方法

因果性的最直觀的定義之一依賴于干預(yù)的概念：將A修改后觀察B中干預(yù)后的結(jié)果。具有侵入性（修改系統(tǒng)）且成本高昂（重復(fù)實(shí)驗(yàn)或模擬）。

數(shù)據(jù)驅(qū)動(dòng)的觀察法，如格蘭杰因果關(guān)系（GC）通過評(píng)估自回歸模型中引入B變量如何減少A的預(yù)測(cè)誤差來測(cè)度從B到A的因果關(guān)系。

無模型的因果發(fā)現(xiàn)方法，如收斂交叉映射（CCM）及其變體，運(yùn)用Takens嵌入定理來建立變量與系統(tǒng)吸引子之間的聯(lián)系。

執(zhí)行條件獨(dú)立性檢驗(yàn)，如Peter-Clark算法推廣，包括瞬時(shí)條件獨(dú)立性檢驗(yàn)（PCMCI）最優(yōu)識(shí)別目標(biāo)變量父節(jié)點(diǎn)的簡(jiǎn)化條件集。

信息論方法

信息論將信息視為物理系統(tǒng)的基本屬性，與物理定律的約束和可能性密切相關(guān)，也為無?模型的因果量化提供了框架。

因果性基于信息與時(shí)間箭頭之間的緊密聯(lián)系。系統(tǒng)在宏觀層面上存在的時(shí)間不對(duì)稱性可以通過基于香農(nóng)熵的信息論指標(biāo)來衡量事件的因果關(guān)系。

轉(zhuǎn)移熵（TE）通過了解另一個(gè)變量的過去狀態(tài)來衡量對(duì)一個(gè)變量未來狀態(tài)的熵減。條件轉(zhuǎn)移熵（CTE），則是條件GC的非線性、非參數(shù)擴(kuò)展。

其他基于信息論的方法來源于動(dòng)力系統(tǒng)理論，將因果性量化為由控制方程決定的信息從一個(gè)過程流向另一個(gè)過程的量。

SURD

當(dāng)前方法在存在非線性依賴、隨機(jī)交互（即噪聲）、自因果作用、中介、混雜和匯聚效應(yīng)等情況下仍面臨局限。

也無法將因果相互作用分類為冗余、獨(dú)特和協(xié)同，而這對(duì)于識(shí)別系統(tǒng)中的基本關(guān)系至關(guān)重要。

SURD：協(xié)同-獨(dú)特-冗余的因果分解，通過冗余、獨(dú)特和協(xié)同貢獻(xiàn)來量化因果性，并提供一個(gè)衡量隱藏變量因果性的指標(biāo)。

理論

向量表示N個(gè)時(shí)間相關(guān)變量的集合，Q的各個(gè)分量為可觀測(cè)隨機(jī)變量。

目標(biāo)是量化Q的分量對(duì)目標(biāo)變量Q_j未來值的因果性，用Q_j⁺=Q_j(t+ΔT)表示，其中ΔT>0表示任意時(shí)間增量。向量Q可以包含不超過t+ΔT時(shí)刻的變量，能夠識(shí)別滯后和瞬時(shí)依賴關(guān)系。

SURD 將因果性量化為通過觀察Q的個(gè)別分量或分量組對(duì)Q_j⁺所獲得的信息增量（ΔI），Q_j⁺中的信息通過其香農(nóng)熵H(Q_j⁺)測(cè)量。

香農(nóng)熵可度量不確定性，高熵在其狀態(tài)被確定時(shí)可提供最多的信息。相反，當(dāng)過程完全確定時(shí)，不確定性為零，結(jié)果不含額外信息。

利用信息向未來傳播的原則（信息僅向未來流動(dòng)），H(Q_j⁺)可以分解為來自過去和現(xiàn)在的所有因果貢獻(xiàn)之和：

 （方程1）

其中分別表示來自觀測(cè)變量到Q_j⁺的冗余、獨(dú)特和協(xié)同因果性，而則表示來自未觀測(cè)變量的因果性，稱為因果泄漏。

 （圖1）

獨(dú)特因果性與Q的個(gè)別分量相關(guān)，而冗余和協(xié)同因果性則來自Q中多個(gè)變量的組合。集合C包含涉及多個(gè)變量的所有組合。

分量

從到 Q_j⁺的冗余因果性（記為）是所有Q_i組件所共享的共同因果性，其中 Q_i是 Q的一個(gè)子集。

Q_i中的所有變量對(duì)Q_j⁺包含相同量的信息時(shí)，會(huì)發(fā)生冗余因果性。Q_i的任何一個(gè)組分都能對(duì) Q_j⁺的結(jié)果提供相同的見解。

從Q_i到Q_j⁺的獨(dú)特因果性（記為）是僅由Q_i提供的因果性，無法通過任何其他獨(dú)立變量Qk≠Q(mào)_i獲得。

觀察Q_i，相較于觀察任何其他變量，可以獲得關(guān)于Q_j⁺的某些結(jié)果的更多信息，會(huì)發(fā)生此類因果性。

從到Q_j⁺的協(xié)同因果性（記為）是由Q_i中各變量的聯(lián)合效應(yīng)產(chǎn)生的因果性。

當(dāng)同時(shí)觀察一組變量比單獨(dú)觀察每單個(gè)變量能獲得更多關(guān)于Q_j⁺的信息時(shí)，即產(chǎn)生該因果性。

因果泄漏表示來自未觀測(cè)變量的影響，這些變量會(huì)影響Q_j⁺但沒有包含在Q中。

用來表示在綜合考慮所有可觀測(cè)變量后，為明確確定Q_j的未來所需的但缺失的信息量。

結(jié)果

SURD 展現(xiàn)了若干關(guān)鍵特性，有助于通過避免因果性的重復(fù)來準(zhǔn)確識(shí)別相互作用。

方程(1)中的各項(xiàng)均為非負(fù)值，并且冗余、獨(dú)特和協(xié)同因果性的總和等于Q_j⁺與Q之間共享的信息，即互信息I(Q_j⁺;Q)。

單個(gè)變量Q_i與Q_j⁺之間的互信息（記為I(Q_j⁺;Q_i)）由涉及Q_i的獨(dú)特和冗余因果性之和表示。

此條件符合因果性來自單一變量至Q_j⁺時(shí)僅包含獨(dú)特和冗余因果性的概念，而協(xié)同因果性則源于兩個(gè)或多個(gè)變量的聯(lián)合效應(yīng)。

SURD 的信息論公式也非常適合捕捉非線性依賴關(guān)系、確定性和隨機(jī)交互作用，以及自因果性。

方程(1)中的信息正向傳播為 SURD 內(nèi)因果性的歸一化奠定了基礎(chǔ)。對(duì)Q_j⁺的獨(dú)特、冗余和協(xié)同因果性通過I(Q_j⁺;Q)進(jìn)行歸一化，使它們的和等于1。

同樣，因果泄漏通過H(Q_j⁺)進(jìn)行歸一化，其值在0到1之間：0 表示Q_j⁺的所有因果性均由Q解釋，1 表示Q未解釋任何因果性。

驗(yàn)證

我們?cè)诙鄠€(gè)因果推斷面臨重大挑戰(zhàn)的場(chǎng)景中驗(yàn)證了 SURD。

場(chǎng)景包括具有中介、混雜和協(xié)同匯聚效應(yīng)的系統(tǒng)、Lotka-Volterra 捕食-獵物模型、三種相互作用物種系統(tǒng)、莫蘭效應(yīng)模型、湍流能量級(jí)聯(lián)、湍流邊界層的實(shí)驗(yàn)數(shù)據(jù)、由 Sugihara 等人提出的具有時(shí)間滯后依賴關(guān)系的確定性和隨機(jī)系統(tǒng)、邏輯門、邏輯映射的同步以及耦合的 R?ssler-Lorenz 系統(tǒng)。

中介變量

系統(tǒng)Q3→Q2→Q1，其中Q3通過中介變量Q2對(duì)Q1產(chǎn)生影響。下圖顯示了變量之間關(guān)系的示意圖，以及通過 SURD 和其他因果分析方法得出的結(jié)果。

混雜變量

系統(tǒng)中Q3作為Q1 和Q2 的混雜變量，即Q1←Q3→Q2。下圖混雜效應(yīng)的存在在 SURD 中通過協(xié)同因果關(guān)系來體現(xiàn)，同時(shí)發(fā)現(xiàn)Q3 的自引因果性。

這突顯了 SURD 的另一個(gè)優(yōu)勢(shì)：因果關(guān)系的相對(duì)重要性更容易理解，因?yàn)樗鼈兊臍w一化值之和總是等于1。

匯聚-協(xié)同變量

系統(tǒng)→Q1，其中 和 Q3 共同作用以影響Q1。下圖中展示SURD 能夠通過協(xié)同因果關(guān)系檢測(cè)出Q2和Q3對(duì)Q1的主導(dǎo)協(xié)同效應(yīng)，同時(shí)還檢測(cè)到了自引因果性。

匯聚-冗余變量

基本的交互關(guān)系Q2≡Q3→Q1，其中Q3與Q2相同。Q2和Q3對(duì)Q1的未來結(jié)果有相等的影響。

SURD 識(shí)別出與Q2和Q3相關(guān)的主要因果關(guān)系。Q2 和Q3擁有相同的因果關(guān)系（和因果泄漏）表明它們表示相同的變量。

湍流中能量級(jí)聯(lián)的應(yīng)用

SURD 還可用來研究湍流中能量級(jí)聯(lián)的因果關(guān)系：這是一個(gè)混沌、多尺度、高維系統(tǒng)的典型例子。

能量級(jí)聯(lián)指的是動(dòng)能在流動(dòng)中從大尺度向小尺度（正向級(jí)聯(lián)）或從小尺度向大尺度（逆向級(jí)聯(lián)）的傳遞。

理解跨尺度的能量傳遞動(dòng)力學(xué)仍然是一個(gè)尚未解決的難題。

SURD識(shí)別了能量傳遞之間的因果關(guān)系。主要貢獻(xiàn)來自冗余和獨(dú)特因果關(guān)系，而協(xié)同因果關(guān)系的作用較小。

獨(dú)特因果關(guān)系（用紅色表示）清晰地捕捉到了從大尺度向小尺度的因果能量級(jí)聯(lián)，推導(dǎo)自非零項(xiàng)。

有趣的是，未觀察到從小尺度向大尺度的獨(dú)特因果關(guān)系，逆向級(jí)聯(lián)的任何因果關(guān)系僅通過冗余關(guān)系產(chǎn)生。

討論

SURD的特性可以歸納為：

適合分析涉及中介、混雜和協(xié)同效應(yīng)的因果網(wǎng)絡(luò)，這些是變量之間因果交互的基本構(gòu)建塊。

捕捉這些基本交互方面的成功源于區(qū)分冗余、獨(dú)特和協(xié)同因果關(guān)系的能力，而這一點(diǎn)在以前的方法中缺乏。

確保了所有項(xiàng)的非負(fù)性，從而顯著增強(qiáng)了可解釋性，使得能夠清晰地區(qū)分變量之間的冗余、獨(dú)特和協(xié)同因果關(guān)系。

引入因果泄漏的概念，量化了由于未觀察變量而未被考慮的因果關(guān)系的程度。

基于轉(zhuǎn)移概率分布，這確保了對(duì)變量的平移、縮放和其他一般可逆變換的變換不變性。

總而言之，SURD在因果推斷領(lǐng)域中是一種有效工具，有潛力在氣候研究、神經(jīng)科學(xué)、經(jīng)濟(jì)學(xué)、流行病學(xué)、社會(huì)科學(xué)和流體動(dòng)力學(xué)等多個(gè)科學(xué)和工程領(lǐng)域推動(dòng)進(jìn)展。

文獻(xiàn)1：Decomposing causality into its synergistic, unique, and redundant components https://www.nature.com/articles/s41467-024-53373-4

本文轉(zhuǎn)載自?????清熙??，作者：ALvaro