當前，人工智能應用的廣度和深度不斷拓展，正在成為信息基礎設施的重要組成。但在此過程中，人工智能也不斷暴露出一些風險隱患，諸如算法安全、數據歧視、數據濫用等，如何確保人工智能的安全、可信和公平成為業內關注的重點問題。

[[410938]]

“當前全世界各國都高度重視可信人工智能的發展，發展可信人工智能是我們真正最終能夠釋放出人工智能的前景，能夠造福于全球我們人民的發展，這是一個關鍵的基礎。”中國信通院院長余曉暉在“2021世界人工智能大會”期間的“可信AI論壇”上提到。

在論壇期間，眾多院士、可信AI領域專家學者，政府及行業協會、AI企業代表等就這一關乎人工智能長遠發展的重要議題展開探討。

可信AI技術是幫助AI實現可信的基礎

“可信人工智能技術是幫助人工智能實現可信的基礎。”京東探索研究院院長、澳大利亞科學院院士陶大程博士發表了自己對于可信AI的看法。

“從技術角度來說，可信人工智能的研究可以歸結為穩定性、可解釋性、隱私保護及公平性四個方面，從以上四點出發研究可信人工智能，首要任務是找到合適的方法來定量分析、量化人工智能算法、模型和系統在穩定性、可解釋性、隱私保護及公平性方面的能力。”陶大程講到。

目前，穩定性可以通過各類攻擊算法的攻擊成功率或攻擊性能來衡量;可解釋性中的泛化能力，可以通過泛化誤差上界來描述;隱私保護能力常通過差分隱私法來刻畫，也能通過各類隱私攻擊算法的攻擊成功率或攻擊性能來評估;公平性則使用一系列公平決策指標來進行衡量，這些指標主要分為個體公平性及群體公平性兩大類。

同時他強調，這四個方面內部存在著深層次聯系，彼此之間并不孤立。因此，在開展可信人工智能研究時，不能僅從單一維度出發，而需要從整體綜合考慮不同因素之間的影響。這樣，才能更好地進行相關研究，從而推動可信人工智能的進一步發展。

陶大程進一步表示，不管歐盟的GDPR也好，還是中國的隱私保護條例也好，都說明用戶對數據使用要更謹慎，說明了用戶對個人信息的保護，是有相當的權利的。“只有將上述四個能力綜合后，做到明確的責任，才能找到合適的方式度量可信人工智能。”

未來可信AI一體化研究將是重要趨勢

中國信通院云計算和大數據研究所所長何寶宏表示：“我們已經針對可信賴的人工智能形成了一些共識，但是整體來看還處于一個初期的探索階段，很多還是碎片化的，理論還不夠，還需要學術界、產業界、政府主管部門等共同努力。”

在可信AI論壇上，中國信通院聯合京東探索研究院發布了《可信人工智能白皮書》，白皮書認為，可信人工智能已經不再僅僅局限于對人工智能技術、產品和服務本身狀態的界定，而是逐步擴展至一套體系化的方法論，涉及到如何構造“可信”人工智能的方方面面。

在陶大程看來，未來可信AI一體化研究將是重要趨勢，而可信能力評測也將成為人工智能產業落地過程中的重要一環。從理論與實踐層面持續開展可信AI研究，將推動人工智能產業新浪潮，幫助人工智能實現可信，將充分釋放人工智能的潛力，并更好地造福人類社會。

促進可信人工智能發展的四點倡議

值得一提的是，在論壇上，中國信通院、中國科學院自動化研究所中英人工智能倫理與治理研究中心、京東探索研究院、螞蟻集團等聯合發布了《促進可信人工智能發展倡議》(以下簡稱“倡議”)。

“倡議”基于當前人工智能技術的高速發展現狀，對人工智能伴隨的風險和挑戰，以及可信人工智能合規化發展的深度思考，旨在倡導政產學研各界加快形成國際協同治理共識，促進社會對可信AI的理解和重視，充分挖掘人工智能的產業和社會價值。

倡議號召人工智能行業同仁積極響應以下四點倡議：

一是堅持技術向善，確保可信AI造福人類。加快可信人工智能技術研究，前瞻布局可信通用人工智能，打造可控可靠、透明可釋、隱私安全、責任明確、多元包容的人工智能系統;聚焦技術設計、研發測試、運營使用全流程，堅持以人為本、技術向善，構建技術、社會、文化、價值融合共生的良性發展環境。

二是堅持權責共擔，推廣可信AI價值理念。廣泛宣傳可信人工智能價值，推動人工智能監管者、研發者、制造者和受用者參與不斷完善和踐行可信理念;明確個人、企業、行業各主體責任、權益，在可信人工智能的總體框架和基本原則指導下，構建相互協調、共建共享的敏捷可信機制。

三是堅持健康有序，推動可信AI行業實踐。持續推動可信人工智能安全/倫理研究，構建可信人工智能標準體系，完善人工智能可信體系建設;培育人工智能可信評估和管控能力，探索人工智能產品應用保險機制，推動建立相互影響、相互支持、相互依賴的健康有序發展生態。

四是堅持多元包容，凝聚可信AI國際共識。支持多元主體共鑄合力、協調互動，共同構建企業自治、行業自律、社會監督、政府監管的人工智能治理體系;推動全球化溝通交流、開展協同化合作研究，在深度對話、尋求共識的基礎上，構建可信人工智能全球治理合作框架，和衷共濟應對人類共同挑戰。