?譯者 | 李睿

審校 | 孫淑娟

最佳運輸源于經濟學，如今被開發為如何最佳分配資源的工具。最優運輸理論的起源可以追溯到1781年，當時的法國科學家加斯帕德·蒙格研究了一種據稱“移動地球”的方法，并為拿破侖的軍隊建造防御工事。總體而言，最優運輸是一個問題，即如何將所有資源（例如鐵礦）從一組起點（礦場）移動到一組終點（鋼鐵廠），同時最小化資源必須移動的總距離。從數學上來說，研究人員希望找到一個函數，該函數將每個起點映射到一個目的地，同時最小化起點與其對應目的地之間的總距離。盡管其描述無傷大雅，但這一問題的原始構想（即蒙格構想)的進展仍停滯了將近200年。

在上世紀40年代，蘇聯數學家Leonid Kantorovich將該問題的構想調整為現代版本，即現在所稱的Monge Kantorov理論，這是朝著解決方案邁出的第一步。這里的新奇之處在于允許來自同一礦山的一些鐵礦提供給不同的鋼鐵廠。例如，一個礦山60%的鐵礦可以提供給一家鋼鐵廠，而該礦山剩余40%的鐵礦則可以提供給另一家鋼鐵廠。從數學上來說，這不再是一個函數，因為同一個原點現在映射到潛在的多個目的地。與其相反，這被稱為起點分布和目的地分布之間的耦合，如下圖所示；從藍色分布（原點）中選擇一個礦山，并沿著該圖垂直移動，顯示了鐵礦被發送的鋼鐵廠（目的地）的分布。

作為這一新發展的一部分，Kantorivich引入了一個重要的概念，稱之為Wasserstein距離。與地圖上兩點之間的距離類似，Wasserstein距離（受其原始場景啟發也稱為推土機距離）測量兩個分布之間的距離，例如本例中的藍色和品紅色分布。如果所有的鐵礦都距離所有的鐵廠都很遠，那么礦山分布（位置）和鋼鐵廠分布之間的Wasserstein距離就會很大。即使有了這些新的改進，仍然不清楚是否真的存在運輸鐵礦資源的最佳方式，更不用說采用哪種方式了。最后在上世紀90年代，由于數學分析和優化的改進這一問題獲得部分解決方案，該理論開始迅速發展。而進入21世紀，最優運輸開始蔓延到其他領域，如粒子物理學、流體動力學，甚至統計和機器學習。  

現代的最優運輸  

隨著新理論的爆炸式發展，在過去二十年中，最優運輸已成為許多新的統計和人工智能算法的中心。在幾乎每個統計算法中，數據都被顯式或隱式地建模為具有某種潛在的概率分布。例如，如果收集不同國家的個人收入數據，則該人口收入在每個國家都存在概率分布。如果希望根據人口的收入分布對兩個國家進行比較，那么需要一種方法來衡量這兩個分布之間的差距。這正是優化運輸（尤其是Wasserstein距離）在數據科學中變得如此有用的原因。然而，Wasserstein距離并不是衡量兩個概率分布相距距離的唯一指標。事實上，由于它們與物理學和信息論的聯系，L-2距離和Kullback-Leibler(KL)散度這兩種選擇在歷史上更為常見。Wasserstein距離相對于這些替代方案的主要優勢在于，它在計算距離時同時考慮了值及其概率，而L-2距離和KL散度僅考慮概率。下圖顯示了一個關于三個虛構的國家收入的人工數據集的示例。  

在這種情況下，由于分布不重疊，藍色和品紅色分布之間的L-2距離（或KL散度）將與藍色和綠色分布之間的L-2距離大致相同。另一方面，藍色和品紅色分布之間的Wasserstein距離將遠小于藍色和綠色分布之間的Wasserstein距離，因為值之間存在顯著差異（水平分離）。Wasserstein距離的這一特性使其非常適合量化分布之間的差異，特別是數據集之間的差異。  

以最優運輸實現公平  

隨著每天收集大量數據，機器學習在許多行業中變得越來越普遍，數據科學家必須越來越小心謹慎，不要讓他們的分析和算法延續數據中現有的偏差和偏差永久化。例如，如果住房抵押貸款批準數據集包含關于申請者種族的信息，但由于使用的方法或無意識偏差，少數族裔在收集過程中受到歧視，則基于該數據訓練的模型將在一定程度上反映潛在的偏差。

優化運輸可以從兩個方面幫助緩解這種偏差和提高公平性。第一種也是最簡單的方法是使用Wasserstein距離來確定數據集中是否存在潛在偏差。例如，可以估計批準給女性的貸款金額分布和批準給男性的貸款金額分配之間的Wasserstein距離，如果Wasserstein距離非常大，即具有統計顯著性，那么可能懷疑存在潛在偏差。這種測試兩組之間是否存在差異的想法在統計學中被稱為雙樣本假設檢驗。

或者，當底層數據集本身存在偏差時，甚至可以使用最優運輸來強制模型中的公平性。從實際的角度來看，這非常有用，因為許多真實的數據集會表現出一定程度的偏差，并且收集無偏差的數據可能非常昂貴、耗時或不可行。因此，使用現有的數據更為實際，無論數據有多不完善，并嘗試確保模型減輕這種偏差。這是通過在模型中強制實施稱為強人口統計奇偶性的約束來實現的，該約束迫使模型預測在統計上獨立于任何敏感屬性。一種方法是將模型預測的分布映射到不依賴于敏感屬性的調整預測的分布。然而，調整預測也會改變模型的性能和準確性，因此在模型性能和模型對敏感屬性的依賴程度（即公平性）之間存在權衡。  

通過盡可能少地更改預測以確保最佳模型性能，同時仍保證新預測獨立于敏感屬性，從而實現最佳運輸。這種調整之后的模型預測的新分布被稱為Wasserstein重心，在過去十年中一直是許多研究的主題。Wasserstein重心類似于概率分布的平均值，因為它最小化了從自身到所有其他分布的總距離。下圖顯示了三個分布（綠色、藍色和品紅色）以及它們的Wasserstein重心（紅色）。  

在上面的示例中，假設基于包含一個敏感屬性（例如婚姻狀況）的數據集構建了一個模型來預測某人的年齡和收入，該屬性可以取三個可能的值：單身（藍色）、已婚（綠色）和喪偶/離婚（品紅色）。散點圖顯示了每個不同值的模型預測分布。但是希望調整這些值，以便新模型的預測對一個人的婚姻狀況視而不見，可以使用最佳運輸將這些分布中的每一個映射到紅色的重心。因為所有值都映射到相同的分布，不能再根據收入和年齡來判斷一個人的婚姻狀況，反之亦然。重心盡可能地保留了模型的保真度。  

企業和政府決策中使用的數據和機器學習模型越來越普遍，這導致了新的社會和道德問題的出現，即如何確保這些模型的公平應用。由于收集方式的性質，許多數據集包含某種偏差，因此在它們上訓練的模型不會加劇這種偏差或任何歷史歧視，這一點很重要。最優運輸只是解決這一問題的一種方法，近年來這一問題一直在加劇。如今，有快速有效的方法來計算最佳運輸地圖和距離，使這種方法適用于現代大型數據集。隨著人們越來越依賴基于數據的模型和洞察力，公平性已經并將繼續成為數據科學的核心問題，而最佳運輸將在實現這一目標方面發揮關鍵作用。

原文標題：??Optimal Transport and its Applications to Fairness???，作者：Terrence Alsup?