[[419993]]

文/陳杰

人工智能技術一直是當前科技領域的熱點，不論是從圖像分析到自然語言理解，再到科學領域。得益于神經網絡的“深度”變革，以大量數據和算法加持的算力去處理復雜的數據已成為日常，而這在過去是無法想象的，背后則是人工智能技術突飛猛進發展的必然結果。

在刷臉、自動駕駛、智慧家庭等各種人工智能應用場景紛紛落地日常生活的當下，從消費者的視角來看，人工智能已經讓生活變得更美好了，但這一技術是否已經足夠強大了呢？學術界的答案卻恰恰相反——當前的人工智能技術在安全可靠方面其實完全不夠看！

人工智能并沒有那么可靠

在日前召開的首屆“青年科學家50²論壇”上，清華大學教授朱軍對正在高速發展的人工智能產界潑出一盆冷水：今天的人工智能遠遠算不上完美。首先是深度學習仍然面臨著魯棒性差的問題，比如很多手機都會配備人臉識別方案，但通過一副打印了特殊紋理圖案的眼鏡，就能輕松解鎖很多手機；再說到安全需求更高的自動駕駛系統，黑客們只需要在標識牌上加上特定圖案，就能讓系統將限速標識識別為停止標識，導致致命事故的發生……

這些看似非常符合人們直覺或者是常見的問題，放到很智能的系統面前，卻會出現錯誤的結果，背后的原因是什么？

“這里面一個關鍵的問題，是現在的人工智能技術‘不知道自己不知道’。”朱軍表示，人類都能夠遵循“知之為知之，不知為不知，是知

也”的道理，但當前的人工智能主流技術，絕大部分都欠缺這種能力。比如在一個很多貓和狗照片的比對系統中放一張人工智能還不知道的蘋果照片，讓人工智能來分析這是什么，結果答案要么是貓，要么是狗，而這只取決于這張蘋果照片和貓、狗哪個更相似一些。

不用懷疑人工智能的學習能力，但確實缺乏“知道自己不知道”的能力。學術界認為，一個人工智能系統如果知道自己“不知道”，其實代表著其有更高的智能水平。“具體來說，在現實世界里存在兩種不確定性會影響到人工智能對此的認知，一種是比較直觀的環境和數據的不確定性導致的信息采集不完全；另一種則是更抽象的、更難以被感知的信息，這種模型的不確定性，讓大數據的模型存在歧義，讓人工智能在訓練時也許表現得非常好，但是測試上就會發現性能距離很大。”朱軍表示，目前的解決思路是更深入地研究貝葉斯智能理論，解決如何定量、客觀地計算這種不確定性，得到最優的結果。推動貝葉斯智能理論研究的深化，則需要產學研界的共同努力。

安全是必須跨越的鴻溝

人工智能的概念產生最早可追溯到1956年的達特茅斯會議，但直到近十年來這一領域才真正地深刻改變了大眾生活，甚至攻克了多種人類世界的頂級挑戰，比如戰勝圍棋頂級選手、預測蛋白質結構、擊敗人類飛行員等等。但目前來看，當前的人工智能技術不僅在可靠性方面存在很大問題，安全和可信方面也開始進入瓶頸期。

8月3日，在首屆全球數字經濟大會的人工智能產業治理主題論壇上，中國科學院院士張鈸拋出了一個觀點：當前人工智能的安全治理是迫在眉睫的，隨著技術潛入到“深水區”，研究發現，人工智能的算法存在一些根本性的問題，本身就帶有不安全性，容易受到攻擊。“人工智能技術所面臨的安全問題是非常特殊的，其問題不在于設計，而是源自算法本身的不安全性。這種算法的不安全性，是由第二代人工智能所引起的。”

“學術界已經開始思考技術下一步的發展方向，新一代人工智能的發展路徑是融合第一代的知識驅動和第二代的數據驅動的人工智能，同時利用知識、數據、算法和算力等4個要素，建立新的可解釋和魯棒的人工智能理論與方法，發展安全、可信、可靠和可擴展的人工智能技術。”朱軍表示，“安全可靠”作為第三代人工智能的核心發展目標逐漸成為共識，數據與算法安全也成為學界和業界人士重點關注的研究主題之一。