麻省理工人工智能實驗室的研究人員發表了一篇新論文，旨在譴責在某些場景下使用選擇性回歸，因為這種技術會降低數據集中代表性不足的群體模型的整體性能。

這些代表性不足的群體往往是女性和有色人種，這種對他們的忽視導致了一些關于人工智能種族主義和性別歧視的報道。在一個賬戶中，用于風險評估的人工智能錯誤地將黑人囚犯標記為白人囚犯的兩倍。在另一項案例中，沒有任何背景的男性照片被認定為醫生和家庭主婦的比例高于女性。

通過選擇性回歸，人工智能模型可以對每個輸入做出兩個選擇：預測或棄權。只有在對決策有信心的情況下，該模型才會做出預測，在幾次測試中，通過排除無法正確評估的輸入來提高模型的性能。

然而，當輸入被刪除時，它會放大數據集中已經存在的偏見。一旦AI模型被部署到現實生活中，這將導致代表性不足的群體進一步不準確，因為它無法像在開發過程中那樣刪除或拒絕代表性不足的群體。最終希望確保以明智的方式考慮跨組的錯誤率，而不是僅僅最小化模型的一些廣泛的錯誤率。

麻省理工學院的研究人員還引入了一種新技術，旨在提高模型在每個子組中的模型性能。這種技術被稱為單調選擇性風險，一種模型沒有棄權，而是包含種族和性別等敏感屬性，而另一種則不包含。同時，兩個模型都做出決策，沒有敏感數據的模型被用作數據集中偏差的校準。

為這個特定問題提出正確的公平概念是一項挑戰。但是通過執行這個標準，單調的選擇風險，我們可以確保當減少覆蓋范圍時，模型性能實際上在所有子組中都變得更好。

當使用醫療保險數據集和犯罪數據集進行測試時，新技術能夠降低代表不足的群體的錯誤率，同時不顯著影響模型的整體性能。研究人員打算將這項技術應用到新的應用中，比如房價、學生平均學分績點和貸款利率，看看它是否可以用于其他任務。?