在汽車電動化、網(wǎng)聯(lián)化、智能化發(fā)展趨勢下，由于汽車自動駕駛技術(shù)的快速發(fā)展，汽車產(chǎn)業(yè)正日益逼近一場根本性的變革。然而，近年來自動駕駛汽車的安全挑戰(zhàn)日益凸顯，相關(guān)事故在一定程度上削弱了社會公眾對自動駕駛汽車的信心和信任。為有效應(yīng)對自動駕駛算法帶來的安全挑戰(zhàn)，需要構(gòu)建一個(gè)統(tǒng)一的自動駕駛算法安全框架，推動自動駕駛汽車從研發(fā)測試階段加快轉(zhuǎn)向商業(yè)化應(yīng)用階段。

自動駕駛算法安全問題的主要表現(xiàn)

我國當(dāng)前的自動駕駛汽車立法主要側(cè)重在道路測試、示范應(yīng)用、汽車數(shù)據(jù)安全這幾個(gè)方面，尚未針對以人工智能算法為核心的自動駕駛系統(tǒng)形成一個(gè)完整統(tǒng)一的安全監(jiān)管框架。未來立法需要重點(diǎn)回應(yīng)三個(gè)方面的問題。

第一，一般性技術(shù)安全是最主要、最相關(guān)的變量。與受制于一套既定監(jiān)管框架（涵蓋安全標(biāo)準(zhǔn)、檢測認(rèn)證、產(chǎn)品審批等事項(xiàng)）的傳統(tǒng)汽車和受到駕照與責(zé)任機(jī)制約束的人類駕駛員相比，自動駕駛系統(tǒng)的安全標(biāo)準(zhǔn)尚待建立，所以自動駕駛汽車還不能像傳統(tǒng)汽車那樣證明其安全性與合規(guī)性。因此在現(xiàn)階段，最核心的問題乃是確立自動駕駛系統(tǒng)的安全門檻、安全標(biāo)準(zhǔn)、檢測認(rèn)證方法、審批機(jī)制等要求。

一個(gè)關(guān)鍵問題是，自動駕駛系統(tǒng)的安全性需要達(dá)到何種程度，政策制定者和監(jiān)管者才可以允許自動駕駛汽車的商業(yè)化部署。社會大眾對技術(shù)的偏見可能導(dǎo)致可接受的安全門檻被不恰當(dāng)?shù)靥Ц?。例如，認(rèn)為自動駕駛汽車需要達(dá)到足以實(shí)現(xiàn)零事故的絕對安全水平。在筆者看來，自動駕駛算法的安全門檻不應(yīng)是基于絕對目標(biāo)（例如零事故、零傷亡）的自動駕駛水平，而應(yīng)以一般人類駕駛水平為衡量之基準(zhǔn)，來確定科學(xué)合理的安全門檻。例如，2022年8月英國發(fā)布的自動駕駛政策文件《互聯(lián)和自動出行2025：在英國釋放自動駕駛汽車的效益》明確提出了自動駕駛汽車的安全門檻，即自動駕駛汽車應(yīng)當(dāng)達(dá)到與“勝任且謹(jǐn)慎的人類司機(jī)”（Competent and Careful Human driver）同等水平的安全性，這一標(biāo)準(zhǔn)高于一般人類司機(jī)。

第二，網(wǎng)絡(luò)安全挑戰(zhàn)。網(wǎng)絡(luò)安全作為影響自動駕駛汽車發(fā)展應(yīng)用的關(guān)鍵性因素，與之相關(guān)的風(fēng)險(xiǎn)與威脅將成為自動駕駛汽車最復(fù)雜、最難解決的威脅。整體而言，自動駕駛汽車的網(wǎng)絡(luò)安全挑戰(zhàn)主要呈現(xiàn)以下特征：

一是自動駕駛汽車比傳統(tǒng)汽車更容易遭受網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。自動駕駛汽車是“車輪上的機(jī)器人”，除了需要面對傳統(tǒng)意義上的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，還將面對自動駕駛算法所帶來的全新的網(wǎng)絡(luò)安全挑戰(zhàn)、風(fēng)險(xiǎn)和威脅。

二是自動駕駛汽車的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)來源主體更加多元化，在生產(chǎn)制造、運(yùn)營、維修、智能基礎(chǔ)設(shè)施、保險(xiǎn)、監(jiān)管等多個(gè)環(huán)節(jié)，不同主體對自動駕駛汽車的訪問或控制，都可能帶來網(wǎng)絡(luò)風(fēng)險(xiǎn)。

三是自動駕駛汽車面臨的網(wǎng)絡(luò)入侵方式更加多樣化。例如，黑客可以針對軟件漏洞發(fā)起攻擊，可以通過連接惡意設(shè)備對自動駕駛汽車發(fā)起物理攻擊，也可以攻擊智能道路基礎(chǔ)設(shè)施等自動駕駛汽車生態(tài)系統(tǒng)的組成部分。

此外，就攻擊效果而言，黑客可以采取多種類型的攻擊，包括失效攻擊、操作攻擊、數(shù)據(jù)操縱攻擊、數(shù)據(jù)竊取等，這些攻擊的影響可大可小，不容小覷。四是自動駕駛汽車的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)同時(shí)呈現(xiàn)廣度和深度特征，帶來全方位、多層次的危害后果。在廣度上，自動駕駛汽車的軟件和硬件漏洞可能是廣泛的，這意味著網(wǎng)絡(luò)攻擊會被放大；在深度上，自動駕駛汽車被入侵、控制后可能造成不同層次的不利后果，包括人員傷亡、財(cái)產(chǎn)損害、數(shù)據(jù)竊取等。

第三，倫理安全挑戰(zhàn)。自動駕駛算法的最首要的倫理安全問題是，在面對不可避免的事故（Unavoidable Accident）時(shí)，算法該如何抉擇并行動？尤其是在面對兩難處境（即道德困境）時(shí)該如何抉擇？是選擇最小化人員傷亡，還是不惜代價(jià)地保護(hù)車乘人員，即使這可能意味著選擇犧牲行人等其他道路參與者？自動駕駛汽車道德困境的可能性，讓技術(shù)與倫理之間的互動成為不可回避的問題，即如何將復(fù)雜的人類道德編程到自動駕駛算法的設(shè)計(jì)當(dāng)中去。對于這個(gè)問題，社會各界尚未形成共識。

構(gòu)建自動駕駛汽車的算法安全框架

為了確保實(shí)現(xiàn)《智能汽車創(chuàng)新發(fā)展戰(zhàn)略》提出的“到2025年，中國標(biāo)準(zhǔn)智能汽車的技術(shù)創(chuàng)新、產(chǎn)業(yè)生態(tài)、基礎(chǔ)設(shè)施、法規(guī)標(biāo)準(zhǔn)、產(chǎn)品監(jiān)管和網(wǎng)絡(luò)安全體系基本形成。實(shí)現(xiàn)有條件自動駕駛的智能汽車達(dá)到規(guī)?；a(chǎn)，實(shí)現(xiàn)高度自動駕駛的智能汽車在特定環(huán)境下市場化應(yīng)用”的目標(biāo)，需要加快修訂、革新針對傳統(tǒng)汽車和人類司機(jī)的立法和監(jiān)管框架，為自動駕駛汽車融入現(xiàn)行道路交通體系建立新的法律制度和監(jiān)管框架。其中的一個(gè)核心層面是，構(gòu)建以自動駕駛算法為核心的安全監(jiān)管框架，需要涵蓋技術(shù)安全標(biāo)準(zhǔn)與審批認(rèn)證、網(wǎng)絡(luò)安全認(rèn)證、倫理風(fēng)險(xiǎn)管理三大維度。

第一，建立新的自動駕駛系統(tǒng)安全標(biāo)準(zhǔn)和認(rèn)證機(jī)制。國家亟須為自動駕駛汽車建立新的、統(tǒng)一的安全標(biāo)準(zhǔn)，從傳統(tǒng)上以汽車硬件和人類司機(jī)為核心的安全標(biāo)準(zhǔn)，轉(zhuǎn)向以自動駕駛算法為核心的安全標(biāo)準(zhǔn)，這意味著允許創(chuàng)新性的汽車設(shè)計(jì)——無需駕駛艙、方向盤、腳踏板、后視鏡的自動駕駛汽車。此外，為了更加準(zhǔn)確可靠地評估、驗(yàn)證自動駕駛系統(tǒng)的安全性，將來立法和政策需要為自動駕駛系統(tǒng)設(shè)定科學(xué)合理的安全門檻與基準(zhǔn)，可以考慮要求自動駕駛汽車至少達(dá)到與“勝任且謹(jǐn)慎的人類司機(jī)”同等水平的安全性，并確立一套基于道路駕駛技術(shù)水平的科學(xué)合理的檢測方法。

第二，需要為自動駕駛汽車建立新的網(wǎng)絡(luò)安全框架。政策制定者需要考慮融入傳統(tǒng)的網(wǎng)絡(luò)安全原則，從整體上保障自動駕駛汽車的網(wǎng)絡(luò)安全。一是建立自動駕駛汽車的網(wǎng)絡(luò)安全認(rèn)證機(jī)制，只有通過網(wǎng)絡(luò)安全認(rèn)證的自動駕駛汽車才允許銷售、使用。而且該機(jī)制需要延伸到軟硬件供應(yīng)鏈。二是需要明確自動駕駛汽車的網(wǎng)絡(luò)安全防護(hù)能力和要求，包括技術(shù)措施和非技術(shù)措施。三是需要在行業(yè)與政府之間實(shí)現(xiàn)B2B、B2G、G2B等形式的數(shù)據(jù)共享，尤其是安全事故、網(wǎng)絡(luò)安全、自動駕駛系統(tǒng)脫離等安全事件相關(guān)的數(shù)據(jù)。建立事故數(shù)據(jù)報(bào)告與分享機(jī)制，對于提升整個(gè)自動駕駛行業(yè)的發(fā)展水平意義重大。

第三，建立自動駕駛算法等倫理風(fēng)險(xiǎn)管理機(jī)制。一方面，需要明確的政府監(jiān)管給自動駕駛算法設(shè)計(jì)中的倫理選擇設(shè)定標(biāo)準(zhǔn)，以確保自動駕駛算法在倫理上符合一般的社會公共利益，并在公眾的接受度和道德要求之間實(shí)現(xiàn)某種平衡。另一方面，自動駕駛汽車企業(yè)需要加強(qiáng)汽車自動駕駛技術(shù)的科技倫理治理，積極履行科技倫理管理主體責(zé)任，堅(jiān)守科技倫理底線，針對汽車自動駕駛技術(shù)開展科技倫理風(fēng)險(xiǎn)評估審查、建立科技倫理風(fēng)險(xiǎn)監(jiān)測預(yù)警機(jī)制、強(qiáng)化科技人員的倫理培訓(xùn)等。例如，英國的監(jiān)管者提出建立“自動駕駛汽車倫理與安全委員會”（Committee on AV Ethics and Safety），以更好支持自動駕駛汽車的治理。

總結(jié)而言，自動駕駛汽車的廣泛部署和使用，是實(shí)現(xiàn)其諸多正向效益的必要條件。而其廣泛部署和使用的必要條件則是建立合適的安全框架，加快實(shí)現(xiàn)自動駕駛汽車從測試到商用的飛躍。但任何合理的法律政策都不能對公眾的接受度視而不見。換句話說，自動駕駛汽車要想成為最優(yōu)選的交通方式，就必須考慮其使用者和社會整體的預(yù)期，這些預(yù)期包括使用者的滿意和安全以及信任、責(zé)任、透明等設(shè)計(jì)價(jià)值。

對自動駕駛汽車的安全規(guī)制也必須考慮這些預(yù)期，甚至去調(diào)和其中的過高預(yù)期?；谶@些考慮，本文創(chuàng)新性地提出了一個(gè)全新的自動駕駛算法安全監(jiān)管框架，來應(yīng)對自動駕駛汽車邁向商業(yè)化應(yīng)用之前必須直面的算法安全挑戰(zhàn)。從長遠(yuǎn)來看，自動駕駛汽車的商用只是未來交通法治的起點(diǎn)，而非終點(diǎn)，汽車設(shè)計(jì)、交通法規(guī)、責(zé)任承擔(dān)、保險(xiǎn)賠償、駕駛習(xí)慣等一系列變革將紛至沓來。