可信AI人工智能四大支柱和評測要素 原創
一、可信AI為什么重要
當前，可信人工智能（Trustworthy AI）的重要性遠超技術本身，它直接關系到人工智能能否安全、健康、可持續地融入人類社會，并真正為人類造福。其重要性可以從以下幾個核心維度來深入理解：
1. 建立社會信任：AI被廣泛接受的基石
- 核心問題：如果公眾不信任AI，他們就會抵制它，無論其技術多么先進。不信任會扼殺創新和市場應用。
- 為什么重要：
a.用戶接納度： 人們不會愿意使用一個他們認為是“黑箱”、有偏見或不安全的系統。例如，患者不會接受一個無法解釋診斷依據的AI醫療建議；消費者不會購買一輛他們認為不安全的自動駕駛汽車。
b.社會許可： AI的大規模應用（如人臉識別、社會評分系統）需要獲得社會的“許可”。缺乏信任會導致公眾強烈反對、輿論批評和監管叫停，使有益的技術無法推行。
2. 管理風險與規避災難：防范“灰犀牛”與“黑天鵝”事件
- 核心問題：不可信的AI會帶來巨大的、甚至不可逆的現實世界危害。
- 為什么重要：
a.安全風險： 一個不穩健的AI系統可能出錯，導致物理傷害。例如，自動駕駛汽車的誤判可能導致嚴重車禍；醫療AI的誤診可能延誤治療。
b.公平與正義風險： 帶有偏見的AI會放大和固化社會不公。例如，在招聘、貸款審批、司法量刑中，如果AI對特定性別、種族群體有歧視，會嚴重損害社會公平，侵犯基本權利。
c.金融與聲譽風險： 對于企業而言，一次因AI偏見或錯誤引發的公關危機（例如，算法被曝光歧視特定用戶）會帶來巨大的經濟損失和難以修復的品牌聲譽損害。
3. 滿足合規要求：應對全球日益收緊的監管環境
- 核心問題：全球范圍內，AI正在從“野蠻生長”進入“強監管”時代。不可信就意味著不合法。
- 為什么重要：
a.法律合規： 歐盟的《人工智能法案》（AI Act）、中國的《生成式人工智能服務管理暫行辦法》等法律法規都已將“可信”原則（如人類監督、透明度、公平性）寫入法律條文。不符合這些要求的企業將面臨巨額罰款、產品下架甚至市場禁入的風險。
b.前瞻性布局： 提前構建可信AI體系，是企業為未來更嚴格全球監管標準所做的必要準備，可以避免日后昂貴的合規改造成本。
4. 驅動商業成功與創造長期價值
- 核心問題：可信不是成本，而是投資，它能直接創造商業價值。
- 為什么重要：
a.品牌差異化： 在AI產品同質化競爭中，“負責任”和“可信賴”可以成為一個強大的品牌優勢，吸引更多注重倫理的客戶和合作伙伴。
b.降低長期成本： “從一開始就做對”比“事后修補”成本低得多。在開發初期就嵌入可信原則，可以避免因算法故障、偏見訴訟、數據泄露等問題導致的巨額善后成本和重構費用。
c.吸引投資與人才： 投資者越來越關注ESG（環境、社會和治理），可信AI是良好公司治理的體現。頂尖人才也更愿意為有社會責任感、愛惜羽毛的公司工作。
5. 確保技術可控與人類主體性
- 核心問題： 確保AI始終服務于人類，而不是相反。
- 為什么重要：
a.人類自主權： 可信AI強調“人類監督”，確保最終決策權牢牢掌握在人類手中，防止人類過度依賴或被迫服從機器決策，維護了人類的主體性和尊嚴。
b.技術可控性： 通過可解釋性、穩健性和安全性研究，我們才能更好地理解和控制越來越強大的AI系統，防止其出現不可預測的、有害的行為，這是邁向超級智能時代必須打好的基礎。
可信人工智能的重要性可以用一個簡單的比喻來理解：AI技術是“引擎”，而“可信”則是方向盤、剎車和安全帶。 一臺只有強大引擎卻沒有安全裝置的跑車是極度危險的，它無法上路，更無法抵達目的地。因此，推動可信人工智能的發展，是為了確保AI這輛“快車”能夠安全、平穩、正確地行駛在為人類造福的軌道上。它不僅是技術專家的責任，也是企業家、政策制定者和整個社會共同的責任。
美國國家標準與技術研究院（NIST）于2023年發布AI風險管理框架1.0(AI RMF 1.0)，作為指導組織識別和管理AI風險的自愿性框架。AI RMF提出了“地圖-測評-管理-治理”四大職能支柱，用于構建可信AI。框架強調一系列信任特征，包括有效性、可靠性、安全性、抗干擾性、可問責與透明性、可解釋性、隱私增強、公平性等，以幫助企業平衡創新與風險，歸納為AI系統的生命周期、四大支柱和評測要素。
二、AI系統的生命周期
AI系統的生命周期包括系統規劃設計、數據采集與處理、模型訓練與構建、模型驗證與確認、系統部署與使用、系統運行與監控、系統使用與影響這七個階段，在整個生命周期需要關注應用場景、數據&輸入、AI模型、任務&輸出、人類社群這五大關鍵維度。
每個階段的主要工作內容、相關參與方以及測試評估維度（TEVV）如下表所示：
階段一：系統規劃與設計(Plan and Design) |
階段二：數據采集與處理(Collect and Process Data) |
階段三：模型訓練與構建 (Build and Use Models) |
階段四：驗證與確認 (Validate and Verify) |
階段五：部署與使用 (Deploy and Use) |
階段六：運行與監控 (Operate and Monitor) |
階段七：使用與影響 (Use or Be Affected) |
tips：
- TEVV：Testing（測試）、Evaluation（評估）、Verification（驗證）、Validation（確認）的縮寫，代表AI生命周期各階段的質量與安全保障環節。
三、可信AI四大支柱
AI RMF Core 是NIST提出的AI風險管理核心框架，由治理（GOVERN）、地圖（MAP）、測評（MEASURE）和管理（MANAGE）四大功能構成，每個功能細分為類別、子類別，再落到具體的行動與成果，旨在為組織提供共同語言和實踐指南，支持在 AI 全生命周期內持續、及時地識別、評估與應對風險。
下表是對框架四大功能的解讀，方便大家理解四個功能的含義：
1. 治理（GOVERN）：定規則、立規矩
?? 示例： |
2. 地圖（MAP）：看全局、找風險
?? 示例： |
3. 測評（MEASURE）：做檢測、量指標
?? 示例： |
4. 管理（MANAGE）：持續管、能修復
?? 示例： |
四、可信AI評測要素
“可信人工智能”作為人工智能系統的設計、開發、部署和使用的整個生命周期都應符合倫理、法律和技術標準，從而贏得用戶、患者、消費者、監管機構和社會公眾的信任。它不是單一的功能，而是一個涵蓋多個維度的系統性工程，包含以下七個關鍵要素：
- 人類自主性和監督
- 核心思想：AI不應削弱人類的自主權，而應增強之。人類應始終對AI系統保持最終控制權和決策權。
- 實踐：設計“人在回路”的交互機制，確保人類可以干預、否決AI的決定，尤其是在關鍵領域（如醫療診斷、司法判決）。
- 技術穩健性和安全性
- 核心思想：AI系統必須足夠安全、可靠和穩健，能夠抵御錯誤、故障和攻擊。
- 實踐：確保系統具有彈性（能處理意外輸入）、準確性、可重復性，并具備網絡安全和故障恢復機制。
- 隱私和數據治理
- 核心思想：在整個AI生命周期中，必須充分尊重用戶隱私，并對數據的管理和使用負責。
- 實踐：遵循數據最小化原則（只收集必要數據）、實施嚴格的數據安全措施、確保數據質量，并遵守如GDPR等數據保護法規。
- 透明性
- 可解釋性：能夠向用戶解釋AI是如何得出某個特定結論或決策的（即“黑箱”問題）。
- 可追溯性：系統的設計、開發和部署過程都有詳細記錄，可供審計。
- 核心思想：AI系統的決策過程和其本身應該是可理解和透明的。
- 實踐：包括兩個方面：
- 多樣性、非歧視性和公平性
- 核心思想：AI系統應避免偏見和歧視，服務于所有用戶， regardless of their background.
- 實踐：識別和緩解數據集中和算法中存在的偏見；確保系統對不同的性別、種族、年齡、殘疾等群體都是公平的；促進多樣性參與AI的開發過程。
- 社會和環境福祉
- 核心思想：AI技術應為社會帶來積極影響，并考慮其對環境的可持續性。
- 實踐：評估AI對社會、民主和環境的廣泛影響；促進AI在可持續發展目標（如應對氣候變化）中的應用；避免對社會結構產生負面影響。
- 問責制
- 核心思想：必須建立明確的機制，確保對AI系統及其成果負責。
- 實踐：明確開發者、部署者和使用者的責任；建立審計和問責流程；為AI可能造成的損害提供補救措施（如賠償機制）。
國家新一代人工智能治理專業委員會發布了《新一代人工智能倫理規范》，強調“發展負責任的人工智能”。中國的法規，如《生成式人工智能服務管理暫行辦法》，也明確要求提供者承擔內容責任、進行數據訓練合規、并采取有效措施提升透明度、公平性和安全性。總而言之，可信人工智能是確保人工智能技術健康、可持續發展的基石。它不是一個可選項，而是開發和應用AI系統的必要前提。它將倫理、法律和社會考量融入技術發展的全過程，目標是構建一個“以人為本”、值得信賴的AI未來。
本文轉載自??數智飛輪?? 作者：藍田
