歐盟已采取行動規范機器學習。這項新法律對數據科學家意味著什么？

歐盟人工智能法案在歐洲議會獲得通過。您可能會想，“無論如何，我不在歐盟”，但相信我，這對于世界各地的數據科學家和個人來說實際上比您想象的更重要。歐盟人工智能法案是規范和管理某些機器學習模型在歐盟的使用或影響歐盟公民的重大舉措，其中包含一些嚴格的規則和對違規行為的嚴厲處罰。

該法律對風險進行了大量討論，這意味著歐盟公民的健康、安全和基本權利面臨風險。這不僅僅是某種理論上的人工智能災難的風險，還涉及日常風險，即您正在構建的模型或您正在銷售的產品在某種程度上使現實生活變得更糟。如果您熟悉當今有關人工智能倫理的許多爭論，那么這聽起來應該很熟悉。嵌入的歧視和對人民權利的侵犯，以及對人民健康和安全的損害，是當前人工智能產品和公司面臨的嚴重問題，而這項法律是歐盟保護人民的首次努力。

一 定義人工智能

普通讀者都知道，我們一直希望“人工智能”得到明確的定義。在這種情況下，該法案對“人工智能”的定義如下：

一種基于機器的系統，旨在以不同程度的自主性運行，在部署后可能表現出適應性，并且對于顯式或隱式目標，從其接收到的輸入推斷如何生成輸出，例如預測、內容、建議或決策，這些輸出可以影響物理或虛擬環境。

那么，這到底意味著什么呢？我的解釋是，產生用于影響世界（特別是人們的身體或數字條件）的輸出的機器學習模型屬于這個定義。它不必自動適應實時或重新訓練，盡管如果這樣做的話也包括在內。

但如果您正在構建用于執行以下操作的 ML 模型：

• 決定人們的風險水平，例如信用風險、規則或違法風險等
• 確定在線用戶在提要或廣告中顯示哪些內容
• 區分同一產品向不同人顯示的價格
• 為人們推薦最好的治療、護理或服務
• 建議人們是否采取某些行動

如果你的模型影響到任何歐盟公民，那么這些都將受到這項法律的保護——這只是舉幾個例子。

二 人工智能應用分類

所有人工智能并不相同，法律也承認這一點。人工智能的某些應用將被完全禁止，而其他應用則受到更嚴格的審查和透明度要求。

1.不可接受的風險人工智能系統

這類系統現在被稱為“不可接受的風險人工智能系統”，是根本不允許的。這部分法律將首先生效，即六個月后。

• 通過行為操縱或欺騙手段讓人們做他們本來不會做的事情
• 由于年齡或殘疾等原因而針對人們，以改變他們的行為和/或利用他們
• 生物識別分類系統，嘗試根據高度敏感的特征對人進行分類
• 導致社會評分或差別待遇的人格特征評估
• 在選定的一組用例之外，為執法部門提供“實時”生物特征識別（有針對性地搜尋失蹤或被綁架人員、對生命或安全/恐怖主義構成迫在眉睫的威脅，或起訴特定犯罪）
• 預測性警務（預測人們將來會犯罪）
• 廣泛的面部識別/生物識別掃描或數據抓取
• 沒有醫療或安全目的的教育或工作中的情緒推斷系統

例如，這意味著您無法建立（或被迫提交）旨在確定您是否“高興”足以獲得零售工作的篩選。面部識別僅限于選擇的、有針對性的、特定的情況。預測警務現在非常遺憾，它已經退出了。

“生物識別分類”點是指利用政治、宗教、哲學信仰、性取向、種族等危險或敏感特征對人們進行分組的模型。法律禁止使用人工智能嘗試根據這些類別給人們貼上標簽，這是可以理解的。

2.高風險人工智能系統

該列表涵蓋了未被禁止但受到嚴格審查的系統。有涵蓋所有這些系統的具體規則和規定，如下所述。

• 醫療設備中的人工智能
• 車輛中的人工智能
• 情緒識別系統中的人工智能
• 人工智能在警務領域的應用

這不包括上述那些特定用例。因此，情緒識別系統可能是被允許的，但不能用于工作場所或教育領域。醫療設備和車輛中的人工智能被認為對健康和安全具有嚴重風險或潛在風險，這是正確的，并且需要非常小心地開展。

3.其他

剩下的另外兩個類別是“低風險人工智能系統”和“通用人工智能模型”。通用模型包括 GPT-4、Claude 或 Gemini 等系統，它們具有非常廣泛的用例，通常用于其他下游產品。因此，GPT-4 本身并不屬于高風險或禁止類別，但嵌入它們以供使用的方式受到此處描述的其他規則的限制。您不能使用 GPT-4 進行預測性警務，但 GPT-4 可用于低風險案件。

三 透明度和審查

假設您正在開發一個高風險的人工智能應用程序，并且您希望遵守所有規則并獲得批準。如何開始？

對于高風險人工智能系統，您將負責以下事項：

• 維護并確保數據質量：您在模型中使用的數據是您的責任，因此您需要仔細管理它。
• 提供文檔和可追溯性：您從哪里獲得數據，您能證明嗎？您能展示您所做的任何更改或編輯嗎？
• 提供透明度：如果公眾正在使用您的模型（想想聊天機器人）或者模型是您產品的一部分，您必須告訴用戶情況確實如此。不要假裝模特只是客戶服務熱線或聊天系統中的真人。這實際上適用于所有模型，甚至是低風險模型。
• 使用人類監督：僅僅說“模型說……”并不能解決問題。人類將對模型的結果負責，最重要的是，對結果的使用方式負責。
• 保護網絡安全和穩健性：您需要注意確保您的模型免受網絡攻擊、破壞和無意的隱私侵犯。如果你的模型因代碼錯誤而搞砸，或者由于你未修復的漏洞而被黑客攻擊，那么后果將由你承擔。
• 遵守影響評估：如果您正在構建高風險模型，您需要對用戶或用戶的健康、安全和權利可能產生的影響（即使您無意）進行嚴格的評估。民眾。
• 對于公共實體，在歐盟公共數據庫中注冊：該注冊表是作為新法律的一部分而創建的，備案要求將適用于“公共當局、機構或團體”——因此主要是政府機構，而不是私營企業。

四 測試

法律指出的另一件事是，如果你正在構建一個高風險的人工智能解決方案，你需要有一種方法來測試它，以確保你遵循指導原則，因此一旦對普通人進行測試就可以允許您獲得知情同意。我們這些從事社會科學的人會發現這很熟悉——這很像獲得機構審查委員會批準進行一項研究。

五 效力

該法分階段實施：

• 6個月后，對不可接受風險AI的禁令生效
• 12個月后，通用AI治理生效
• 24 個月后，法律中所有剩余規則生效

注意：法律不涵蓋純粹的個人、非專業活動，除非它們屬于前面列出的禁止類型，因此您的小型開源項目不太可能構成風險。

六 處罰

那么，如果您的公司不遵守法律并且歐盟公民受到影響，會發生什么情況？法律中有明確的處罰措施。

如果您執行上述禁止的人工智能形式之一：

• 處以最高3500 萬歐元的罰款，或者如果您是企業，則處以去年全球收入的 7% （以較高者為準）

禁止的其他違法行為：

• 最高1500 萬歐元的罰款，或者，如果您是企業，則為去年全球收入的 3% （以較高者為準）

就以下任何事情向當局撒謊：

• 最高750 萬歐元的罰款，或者，如果您是企業，則為去年全球收入的 1% （以較高者為準）

注意：對于中小型企業，包括初創企業，罰款以較低數字為準，而不是較高數字。

七 數據科學家應該做什么

如果您要根據該法案的定義使用人工智能構建模型和產品，您首先應該熟悉法律及其要求。即使您今天沒有影響歐盟公民，這也可能對該領域產生重大影響，您應該意識到這一點。

然后，留意您自己的企業或組織中潛在的違規行為。你有一些時間來發現和解決問題，但被禁止的人工智能形式首先生效。在大型企業中，您可能會有一個法律團隊，但不要以為他們會為您處理所有這些事情。您是機器學習方面的專家，因此您是企業檢測和避免違規行為的重要組成部分。您可以使用歐盟人工智能法案網站上的合規檢查工具來幫助您。

目前，企業和組織正在使用多種形式的人工智能，而這些形式是新法律所不允許的，比如 Clearview AI，以及預測性警務。情緒測試也是人們在工作面試過程中遭受的一個非常真實的事情，以及大量的面部或其他生物識別收集。一旦法律全面生效，對我們所有人來說，關注這一點并了解執法情況將是非常重要的。