作為引領第四次科技革命的戰(zhàn)略性技術，人工智能給社會建設和經(jīng)濟發(fā)展帶來了重大而深遠的影響，但數(shù)據(jù)隱私、算法偏見、技術濫用等安全問題也正給社會公共治理與產(chǎn)業(yè)智能化轉型帶來嚴峻挑戰(zhàn)。未來人工智能如何兼顧創(chuàng)新發(fā)展與安全可控？6月3日，北京智源大會期間，由北京瑞萊智慧科技有限公司與阿里安全聯(lián)合舉辦的“AI安全與產(chǎn)業(yè)治理”論壇正式召開。

　　中國科學院院士、清華大學人工智能研究院院長張鈸，北京市經(jīng)濟和信息化局郭家義、中國信息通信研究院安全所信息安全研究部主任魏薇、中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟辦公室主任、信通院云大所人工智能部副主任石霖、瑞萊智慧RealAI田天、阿里巴巴安全部技術總監(jiān)薛暉、百度安全主任架構師包沉浮等在內的數(shù)十位專家出席本次會議，圍繞人工智能安全可控發(fā)展這一關鍵性話題展開深入探討。

　　一、人工智能亟待發(fā)展“安全可控”新能力

　　在學術論道環(huán)節(jié)，中國科學院院士、清華大學人工智能研究院院長張鈸在致辭中表示，未來人工智能產(chǎn)業(yè)發(fā)展在擴大應用場景的同時，必須實現(xiàn)數(shù)據(jù)、算法與應用層的安全可控。同時，他表示人工智能的安全可控問題要同步從技術層面來解決。在具體的實現(xiàn)路徑上，張鈸院士提出發(fā)展“第三代人工智能”，即融合了第一代的知識驅動和第二代的數(shù)據(jù)驅動的人工智能，利用知識、數(shù)據(jù)、算法和算力四個要素，建立新的可解釋和魯棒的AI理論與方法，發(fā)展安全、可信、可靠和可擴展的AI技術。

　　北京市經(jīng)濟和信息化局郭家義對論壇的召開表示祝賀，對發(fā)展第三代人工智能表達了充分的期待。他認為，當今世界正處于新一輪科技與產(chǎn)業(yè)大變革的偉大時代，人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅動力量，正在深刻改變世界，但隨著人工智能的快速發(fā)展，各種安全問題也接踵而至。第三代人工智能的提出恰逢其時，將助力我國實現(xiàn)人工智能在安全可信領域的突破,也必將對北京進一步落實國際科技創(chuàng)新中心定位、構建首都高精尖經(jīng)濟結構產(chǎn)生積極的影響。

　　作為第三代人工智能的踐行者與引領者，瑞萊智慧CEO田天表示，現(xiàn)階段人工智能產(chǎn)業(yè)正經(jīng)歷從高速增長向高質量發(fā)展的轉變，產(chǎn)業(yè)期待的提升讓金融、醫(yī)療等更復雜的高價值場景的應用需求不斷增加，安全性的重視程度也不斷提升，但由于傳統(tǒng)技術范式存在天然的算法漏洞和缺陷，難以支撐人工智能的長久高質量發(fā)展，為此田天提出，需加快發(fā)展第三代人工智能，發(fā)展“安全、可控”核心能力。

　　如何定義人工智能的“安全可控”？田天闡述道，“安全”是指打造數(shù)據(jù)安全與算法安全兩大核心能力，解決數(shù)據(jù)強依賴帶來的隱私泄漏與數(shù)據(jù)投毒等隱患，同時提升算法的魯棒性與可靠性，“可控”既指應用層面的合規(guī)可控，更指核心技術的自主可控，以自主可控為根基，通過理論創(chuàng)新、技術突破形成核心競爭力。安全可控是發(fā)展第三代人工智能的核心基準，也是加快人工智能高質量發(fā)展的有力支撐，田天強調。

　　數(shù)據(jù)的不安全和算法的不安全是制約當前人工智能產(chǎn)業(yè)發(fā)展的主要因素，也是發(fā)展安全可控人工智能需要解決的核心問題。伴隨人工智能產(chǎn)業(yè)應用的不斷深化，人工智能安全問題將迎來大規(guī)模爆發(fā)。中國信息通信研究院安全所信息安全研究部主任魏薇表示，人工智能與數(shù)據(jù)產(chǎn)業(yè)互促發(fā)展的同時安全問題也交織影響，一方面人工智能對數(shù)據(jù)強依賴的發(fā)展特性導致其面臨的自身數(shù)據(jù)安全風險、應用導致的數(shù)據(jù)安全風險以及應用加劇的數(shù)據(jù)治理挑戰(zhàn)日益凸顯，另一方面，人工智能也為數(shù)據(jù)治理工作提供自動化、智能化、高效化、精準化的智慧支撐。圍繞發(fā)展與安全并舉的治理思路，魏薇從倫理規(guī)范、法律法規(guī)、標準體系、技術手段、人才培養(yǎng)等角度出發(fā)提出多項數(shù)據(jù)安全治理建議，為實現(xiàn)人工智能行業(yè)數(shù)據(jù)安全合規(guī)實踐提供支撐。

　　相較數(shù)據(jù)安全，算法安全問題仍處于剛“興起”階段，但其安全危害仍然不容小覷。阿里安全資深算法專家何源介紹道，雖然人工智能技術已經(jīng)在凈化網(wǎng)絡環(huán)境、知識產(chǎn)權保護、生物識別、線下安防等安全工作中發(fā)揮著越來越大的助力作用，讓安全更智能，但其本身也面臨著魯棒性不夠、可解釋性差、技術濫用等安全風險，比如算法漏洞的存在可以針對圖像檢索系統(tǒng)開展攻擊，導致非原創(chuàng)圖片逃逸檢測等，對網(wǎng)站安全與商家權益造成威脅等。

　　百度安全主任架構師包沉浮也表示，算法安全風險的實際危害正逐步體現(xiàn)，自動駕駛場景下，模型魯棒性的欠缺將導致自動駕駛系統(tǒng)在對抗環(huán)境或光線、天氣條件多變的復雜環(huán)境中發(fā)生錯誤識別而引發(fā)嚴重后果。除了算法安全外，他認為人工智能安全還包含“實現(xiàn)安全”。他強調，代碼安全與場景安全的“實現(xiàn)安全”也直接影響著AI系統(tǒng)最終決策的完整性與安全性。

　　二、實現(xiàn)人工智能安全可控需配套“基礎設施”

　　發(fā)展安全可控的人工智能是一項系統(tǒng)性的工作，需要行業(yè)標準、法律規(guī)范等治理工作與技術發(fā)展等多個維度共同推進，打造與之配套的“基礎設施”。

　　針對算法治理路徑的探索，清華大學人工智能治理研究院副院長梁正從社會治理的角度提出，算法模型存在難以解釋、難以控制、難以問責的特征，可能導致歧視、脆弱不穩(wěn)定、操縱剝削、信息繭房等安全風險。與國際算法治理經(jīng)驗相比，國內的治理依據(jù)雖然初步形成，雖然政策引導、標準指南、法律規(guī)章等相繼發(fā)布，但尚未形成完善的治理體系。如何開展算法治理工作？他提出，首先需進行分領域、分級治理，并確定治理優(yōu)先級，目前聚焦于利用個人信息進行的自動化決策系統(tǒng)，未來聚焦于涉及人身安全的高風險領域，同時在算法治理中識別和區(qū)分規(guī)則問題和技術問題，采取針對性的措施，以及堅持安全、公平、透明和隱私等基本原則，實現(xiàn)負責任的人工智能。

　　針對人工智能發(fā)展中隱私和數(shù)據(jù)保護的解決路徑，中倫律師事務所合伙人陳際紅表示，《網(wǎng)絡安全法》與不久后將出臺的《個人信息保護法》、《數(shù)據(jù)安全法》將構成我國數(shù)據(jù)保護與監(jiān)管的“三駕馬車”，為數(shù)據(jù)保護提供嚴格的法律環(huán)境，但人工智能產(chǎn)業(yè)發(fā)展對于大數(shù)據(jù)、實時數(shù)據(jù)、數(shù)據(jù)融合的需求將與這些數(shù)據(jù)保護原則產(chǎn)生沖突。為此他建議，一方面企業(yè)應主動做合規(guī)，在產(chǎn)品開發(fā)、產(chǎn)品技術架構預先主動防范風險，將隱私的概念引入到產(chǎn)品生命周期之內，另一方面他也呼吁立法機構要兼顧隱私保護和產(chǎn)業(yè)發(fā)展的平衡，社會普遍接受的良好隱私保護理念加上嚴格的法律環(huán)境是助推技術長久發(fā)展的兩翼。

　　除了從政策、法規(guī)方面，技術基礎設施的打造仍將發(fā)揮起基礎性的作用。作為第三代人工智能領域的踐行者與領導者，RealAI推出了一系列更加安全可控的人工智能基礎設施，基于安全多方計算、聯(lián)邦學習、匿蹤查詢等技術打造的數(shù)據(jù)安全共享基礎設施RealSecure，用于解決數(shù)據(jù)隱私難題；針對AI系統(tǒng)推出的防火墻與殺毒軟件平臺RealSafe，能夠為人臉識別、目標檢測、圖像分類等應用提供有效的安全檢測與防御加固服務。田天表示，這一系列基礎設施將打開AI能力的全新維度，為人工智能產(chǎn)業(yè)治理工作提供有效工具支撐。

　　尤其人工智能算法安全性的提升本質上是對抗攻防不斷升級的過程，但是如何全面、客觀、科學地衡量算法模型的安全性，是目前工業(yè)界和學術界都面臨的難題。針對這一難題，清華大學聯(lián)合阿里安全和RealAI聯(lián)合發(fā)布業(yè)內首個基于深度學習模型的對抗攻防基準平臺（Adversarial Robustness Benchmark），此基準可以更加公平、全面地衡量不同算法的效果，提供方便使用的魯棒性測試工具，全面衡量AI模型的安全性，用戶通過提交模型的方式可以獲取安全性的得分。

　　不同于之前只包含零散攻防模型的對抗攻防基準，此次推出AI對抗安全基準基本上包括了目前主流的人工智能對抗攻防模型，涵蓋了數(shù)十種典型的攻防算法。不同算法比測的過程中盡量采用了相同的實驗設定和一致的度量標準，從而在最大限度上保證了比較的公平性。除此之外，本次發(fā)布的AI安全排行榜也包括了剛剛結束的CVPR2021人工智能攻防競賽中誕生的排名前5代表隊的攻擊算法。此次競賽吸引到了全球2000多支代表隊提交的最新算法，進一步提升了該安全基準的科學性和可信性。“通過對AI算法的攻擊結果和防御結果進行排名、比較不同算法的性能，建立AI安全基準具有重要學術意義，可以更加公平、全面地衡量不同算法的效果。”朱軍介紹道。

　　三、安全可控人工智能將重塑產(chǎn)業(yè)智能

　　在“新基建”浪潮的驅動下，人工智能產(chǎn)業(yè)即將迎來與傳統(tǒng)產(chǎn)業(yè)深度融合的機遇期。田天表示，在安全可控的核心支撐下，可以高效的貢獻人工智能的技術優(yōu)勢，重塑產(chǎn)業(yè)智能，實現(xiàn)從“單點自動化”到“深度智能化”的價值提升。他提到，在金融領域，人工智能的創(chuàng)新融合正為金融場景打造出一個兼具決策分析與感官感知的“智慧大腦”。在安全可控的支撐下，“智慧大腦”能夠拓展全新能力邊界，實現(xiàn)更好的決策左腦與更加安全可靠的感知右腦。同時，他介紹到，RealAI基于多方安全計算、聯(lián)邦學習、人工智能安全攻防等技術打造了一套結合“數(shù)據(jù)保障、算法檢測、應用管控”的可信人臉完整解決方案，在保障人臉隱私安全、數(shù)據(jù)泄漏溯源、算法安全評估、信息合規(guī)等做前提下，推動人臉識別在關鍵的社會公共服務場景下的深度應用。

　　中國工商銀行軟件開發(fā)中心大數(shù)據(jù)與人工智能實驗室副主任黃炳在其演講中介紹道，工行在現(xiàn)有人工智能技術體系基礎上，圍繞“軟硬件運營環(huán)境可信、數(shù)據(jù)隱私保護、算法模型安全”三大核心能力建設出金融領域的人工智能技術安全可信能力，保障人工智能大規(guī)模應用的合法合規(guī)、安全可信。他強調，AI安全是AI大規(guī)模應用的前提和必備條件，同時AI可信能力必須是全棧且覆蓋模型全生命周期，通過安全可信技術的研究和突破，提升規(guī)模化AI生產(chǎn)部署的安全可信支撐能力，可以增強多方數(shù)據(jù)生產(chǎn)要素的融合能力，為數(shù)字經(jīng)濟社會提供更高效率、更低成本、更低門檻的普惠金融服務。

　　金融行業(yè)作為高度數(shù)據(jù)化的行業(yè)，數(shù)據(jù)隱私保護是必然趨勢。建信金融科技有限公司創(chuàng)新實驗室總經(jīng)理王雪表示，隱私保護計算作為前瞻性的安全可信技術，能夠在隱私保護基礎上實現(xiàn)數(shù)據(jù)價值最大化，通過多方數(shù)據(jù)融合分析，最大程度挖掘數(shù)據(jù)價值，在滿足監(jiān)管要求的前提下實現(xiàn)數(shù)據(jù)互聯(lián)互通，通過新的業(yè)務模式擴展外部數(shù)據(jù)連接，解決數(shù)據(jù)供給側和需求側匹配的問題，深入金融數(shù)字化轉型。

　　除此，針對應用場景豐富且產(chǎn)業(yè)潛力巨大的智能制造領域，同樣需要構建魯棒安全的AI系統(tǒng)。三一集團無人駕駛科學家、三一機器人科技有限公司副所長賈全介紹道，智慧物流是無人駕駛技術在智慧工廠中的典型應用。在實際作業(yè)過程中，需要在高干擾的生產(chǎn)環(huán)境場景下高效高精度的完成工作，同時系統(tǒng)還面臨著硬件平臺與軟件平臺的安全挑戰(zhàn)，為此三一機器人正通過產(chǎn)學研的緊密合作共筑產(chǎn)業(yè)安全，推動智能制造健康可控發(fā)展。

　　安全可控人工智能在各行業(yè)領域的應用將進入專業(yè)化的深層次融合階段，面向垂直領域需求挖掘深層次應用潛力。廣電運通信息科技有限公司總經(jīng)理田豐表示，基于人工智能技術底座打造智能引擎，圍繞智慧金融、智慧安全、智慧交通、智慧便民等業(yè)務領域賦能城市智能產(chǎn)業(yè)發(fā)展，在安全可控的基礎上，將能夠推動全要素高質量發(fā)展，深化城市智能戰(zhàn)略布局。

　　最后圓桌環(huán)節(jié)，中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟辦公室主任、信通院云大所人工智能部副主任石霖與浦發(fā)銀行創(chuàng)新實驗室業(yè)務專家李鋒、光大銀行多方安全數(shù)據(jù)智能實驗室主任李成、滴滴安全安全產(chǎn)品專家孫以強、瑞萊智慧RealAI聯(lián)合創(chuàng)始人劉荔園圍繞安全可控人工智能的產(chǎn)業(yè)應用展開研討。

　　在安全可控的助力下，“深度智能”時代正將加速到來，人工智能在各行業(yè)領域的應用廣度和深度將不斷得到拓展。人工智能的未來圖景充滿想象，但要實現(xiàn)真正的人工智能仍面臨諸多深層挑戰(zhàn)，田天表示，第三代人工智能通過釋放“數(shù)據(jù)、知識、算法、算力”的全新維度，為實現(xiàn)安全可控的新一代人工智能提供可能，讓人工智能走出“淺層智能”的舒適區(qū)，重塑全新的產(chǎn)業(yè)價值。