在汽車電動化、網聯化、智能化發展趨勢下，由于汽車自動駕駛技術的快速發展，汽車產業正日益逼近一場根本性的變革。然而，近年來自動駕駛汽車的安全挑戰日益凸顯，相關事故在一定程度上削弱了社會公眾對自動駕駛汽車的信心和信任。為有效應對自動駕駛算法帶來的安全挑戰，需要構建一個統一的自動駕駛算法安全框架，推動自動駕駛汽車從研發測試階段加快轉向商業化應用階段。

自動駕駛算法安全問題的主要表現

我國當前的自動駕駛汽車立法主要側重在道路測試、示范應用、汽車數據安全這幾個方面，尚未針對以人工智能算法為核心的自動駕駛系統形成一個完整統一的安全監管框架。未來立法需要重點回應三個方面的問題。

第一，一般性技術安全是最主要、最相關的變量。與受制于一套既定監管框架（涵蓋安全標準、檢測認證、產品審批等事項）的傳統汽車和受到駕照與責任機制約束的人類駕駛員相比，自動駕駛系統的安全標準尚待建立，所以自動駕駛汽車還不能像傳統汽車那樣證明其安全性與合規性。因此在現階段，最核心的問題乃是確立自動駕駛系統的安全門檻、安全標準、檢測認證方法、審批機制等要求。

一個關鍵問題是，自動駕駛系統的安全性需要達到何種程度，政策制定者和監管者才可以允許自動駕駛汽車的商業化部署。社會大眾對技術的偏見可能導致可接受的安全門檻被不恰當地抬高。例如，認為自動駕駛汽車需要達到足以實現零事故的絕對安全水平。在筆者看來，自動駕駛算法的安全門檻不應是基于絕對目標（例如零事故、零傷亡）的自動駕駛水平，而應以一般人類駕駛水平為衡量之基準，來確定科學合理的安全門檻。例如，2022年8月英國發布的自動駕駛政策文件《互聯和自動出行2025：在英國釋放自動駕駛汽車的效益》明確提出了自動駕駛汽車的安全門檻，即自動駕駛汽車應當達到與“勝任且謹慎的人類司機”（Competent and Careful Human driver）同等水平的安全性，這一標準高于一般人類司機。

第二，網絡安全挑戰。網絡安全作為影響自動駕駛汽車發展應用的關鍵性因素，與之相關的風險與威脅將成為自動駕駛汽車最復雜、最難解決的威脅。整體而言，自動駕駛汽車的網絡安全挑戰主要呈現以下特征：

一是自動駕駛汽車比傳統汽車更容易遭受網絡安全風險。自動駕駛汽車是“車輪上的機器人”，除了需要面對傳統意義上的網絡安全風險，還將面對自動駕駛算法所帶來的全新的網絡安全挑戰、風險和威脅。

二是自動駕駛汽車的網絡安全風險來源主體更加多元化，在生產制造、運營、維修、智能基礎設施、保險、監管等多個環節，不同主體對自動駕駛汽車的訪問或控制，都可能帶來網絡風險。

三是自動駕駛汽車面臨的網絡入侵方式更加多樣化。例如，黑客可以針對軟件漏洞發起攻擊，可以通過連接惡意設備對自動駕駛汽車發起物理攻擊，也可以攻擊智能道路基礎設施等自動駕駛汽車生態系統的組成部分。

此外，就攻擊效果而言，黑客可以采取多種類型的攻擊，包括失效攻擊、操作攻擊、數據操縱攻擊、數據竊取等，這些攻擊的影響可大可小，不容小覷。四是自動駕駛汽車的網絡安全風險同時呈現廣度和深度特征，帶來全方位、多層次的危害后果。在廣度上，自動駕駛汽車的軟件和硬件漏洞可能是廣泛的，這意味著網絡攻擊會被放大；在深度上，自動駕駛汽車被入侵、控制后可能造成不同層次的不利后果，包括人員傷亡、財產損害、數據竊取等。

第三，倫理安全挑戰。自動駕駛算法的最首要的倫理安全問題是，在面對不可避免的事故（Unavoidable Accident）時，算法該如何抉擇并行動？尤其是在面對兩難處境（即道德困境）時該如何抉擇？是選擇最小化人員傷亡，還是不惜代價地保護車乘人員，即使這可能意味著選擇犧牲行人等其他道路參與者？自動駕駛汽車道德困境的可能性，讓技術與倫理之間的互動成為不可回避的問題，即如何將復雜的人類道德編程到自動駕駛算法的設計當中去。對于這個問題，社會各界尚未形成共識。

構建自動駕駛汽車的算法安全框架

為了確保實現《智能汽車創新發展戰略》提出的“到2025年，中國標準智能汽車的技術創新、產業生態、基礎設施、法規標準、產品監管和網絡安全體系基本形成。實現有條件自動駕駛的智能汽車達到規模化生產，實現高度自動駕駛的智能汽車在特定環境下市場化應用”的目標，需要加快修訂、革新針對傳統汽車和人類司機的立法和監管框架，為自動駕駛汽車融入現行道路交通體系建立新的法律制度和監管框架。其中的一個核心層面是，構建以自動駕駛算法為核心的安全監管框架，需要涵蓋技術安全標準與審批認證、網絡安全認證、倫理風險管理三大維度。

第一，建立新的自動駕駛系統安全標準和認證機制。國家亟須為自動駕駛汽車建立新的、統一的安全標準，從傳統上以汽車硬件和人類司機為核心的安全標準，轉向以自動駕駛算法為核心的安全標準，這意味著允許創新性的汽車設計——無需駕駛艙、方向盤、腳踏板、后視鏡的自動駕駛汽車。此外，為了更加準確可靠地評估、驗證自動駕駛系統的安全性，將來立法和政策需要為自動駕駛系統設定科學合理的安全門檻與基準，可以考慮要求自動駕駛汽車至少達到與“勝任且謹慎的人類司機”同等水平的安全性，并確立一套基于道路駕駛技術水平的科學合理的檢測方法。

第二，需要為自動駕駛汽車建立新的網絡安全框架。政策制定者需要考慮融入傳統的網絡安全原則，從整體上保障自動駕駛汽車的網絡安全。一是建立自動駕駛汽車的網絡安全認證機制，只有通過網絡安全認證的自動駕駛汽車才允許銷售、使用。而且該機制需要延伸到軟硬件供應鏈。二是需要明確自動駕駛汽車的網絡安全防護能力和要求，包括技術措施和非技術措施。三是需要在行業與政府之間實現B2B、B2G、G2B等形式的數據共享，尤其是安全事故、網絡安全、自動駕駛系統脫離等安全事件相關的數據。建立事故數據報告與分享機制，對于提升整個自動駕駛行業的發展水平意義重大。

第三，建立自動駕駛算法等倫理風險管理機制。一方面，需要明確的政府監管給自動駕駛算法設計中的倫理選擇設定標準，以確保自動駕駛算法在倫理上符合一般的社會公共利益，并在公眾的接受度和道德要求之間實現某種平衡。另一方面，自動駕駛汽車企業需要加強汽車自動駕駛技術的科技倫理治理，積極履行科技倫理管理主體責任，堅守科技倫理底線，針對汽車自動駕駛技術開展科技倫理風險評估審查、建立科技倫理風險監測預警機制、強化科技人員的倫理培訓等。例如，英國的監管者提出建立“自動駕駛汽車倫理與安全委員會”（Committee on AV Ethics and Safety），以更好支持自動駕駛汽車的治理。

總結而言，自動駕駛汽車的廣泛部署和使用，是實現其諸多正向效益的必要條件。而其廣泛部署和使用的必要條件則是建立合適的安全框架，加快實現自動駕駛汽車從測試到商用的飛躍。但任何合理的法律政策都不能對公眾的接受度視而不見。換句話說，自動駕駛汽車要想成為最優選的交通方式，就必須考慮其使用者和社會整體的預期，這些預期包括使用者的滿意和安全以及信任、責任、透明等設計價值。

對自動駕駛汽車的安全規制也必須考慮這些預期，甚至去調和其中的過高預期。基于這些考慮，本文創新性地提出了一個全新的自動駕駛算法安全監管框架，來應對自動駕駛汽車邁向商業化應用之前必須直面的算法安全挑戰。從長遠來看，自動駕駛汽車的商用只是未來交通法治的起點，而非終點，汽車設計、交通法規、責任承擔、保險賠償、駕駛習慣等一系列變革將紛至沓來。