安全問(wèn)題是特斯拉Robotaxi前進(jìn)的絆腳石

在表面風(fēng)光的背后，關(guān)于特斯拉自動(dòng)駕駛系統(tǒng)的可行性和安全性的擔(dān)憂(yōu)，讓馬斯克雄心勃勃的計(jì)劃蒙上陰影。

特斯拉在自動(dòng)駕駛技術(shù)路線上另辟蹊徑，選擇了"視覺(jué)識(shí)別+端到端機(jī)器學(xué)習(xí)"的模式，區(qū)別于Waymo、Cruise 和 Zoox 等其他主流公司利用"多傳感器融合+高精地圖"組合來(lái)增強(qiáng)其安全特性。盡管前者雖然更具成本效益，但因缺乏透明度和“黑箱”特性而受到批評(píng)，導(dǎo)致在發(fā)生錯(cuò)誤時(shí)難以分析和糾正。

英偉達(dá)首席執(zhí)行官黃仁勛直言完全依賴(lài)這種技術(shù)的風(fēng)險(xiǎn)，“直接跳入完全自動(dòng)駕駛的車(chē)輛太不安全，必須逐步推進(jìn)”。他補(bǔ)充說(shuō)，這也是為什么英偉達(dá)要將人工智能與傳統(tǒng)計(jì)算系統(tǒng)和額外傳感器結(jié)合，以采取更保守謹(jǐn)慎的自動(dòng)駕駛方法。

值得一提的是，此時(shí)正值特斯拉的半自動(dòng)駕駛系統(tǒng)正受到美國(guó)國(guó)家公路交通安全管理局（NHTSA）的調(diào)查，原因是多起事故的發(fā)生，包括涉及其自動(dòng)駕駛和全自動(dòng)駕駛功能的致命事件。

與此同時(shí)，特斯拉在自動(dòng)駕駛合規(guī)性方面也屢屢受挫。

隨著智能網(wǎng)聯(lián)汽車(chē)的發(fā)展，相關(guān)網(wǎng)絡(luò)安全法規(guī)也在不斷更新。例如，UNECE WP.29 R155和ISO/SAE 21434標(biāo)準(zhǔn)的實(shí)施，以及歐盟的網(wǎng)絡(luò)安全彈性法案和美國(guó)NHTSA更新的網(wǎng)絡(luò)安全最佳實(shí)踐，都為推動(dòng)汽車(chē)網(wǎng)絡(luò)安全的發(fā)展做出了規(guī)范。

2022年，德國(guó)聯(lián)邦機(jī)動(dòng)車(chē)交通管理局調(diào)研認(rèn)為特斯拉的輔助駕駛系統(tǒng)Autopilot存在“異常”，并責(zé)令該公司進(jìn)行整改，同時(shí)要求限制部分輔助駕駛功能。

2023年12月，NHTSA迫使特斯拉召回近36.3萬(wàn)輛搭載FSD Beta軟件的汽車(chē)，理由這些車(chē)輛在使用FSD Beta軟件時(shí)存在安全隱患，可能導(dǎo)致車(chē)輛在交叉路口等特定環(huán)境下行為不可預(yù)測(cè)，增加碰撞風(fēng)險(xiǎn)。

作為一款高度聯(lián)網(wǎng)的智能終端，Robotaxi的網(wǎng)絡(luò)安全防護(hù)能力直接關(guān)乎車(chē)輛和乘客的生命安全。而當(dāng)前汽車(chē)網(wǎng)絡(luò)安全事件呈現(xiàn)高發(fā)態(tài)勢(shì)。汽車(chē)電動(dòng)化、網(wǎng)聯(lián)化、智能化和共享化"新四化"和網(wǎng)絡(luò)安全已成為你中有我、我中有你的命運(yùn)共同體，特斯拉Robotaxi要獲得市場(chǎng)和公眾認(rèn)可，必須拿出切實(shí)可行的網(wǎng)絡(luò)安全方案。

技術(shù)突破與安全挑戰(zhàn)并存

特斯拉在Robotaxi上展示的技術(shù)突破有目共睹。Cybercab搭載了全新的AI芯片，算力和能效均實(shí)現(xiàn)數(shù)倍提升；整車(chē)成本有望降至3萬(wàn)美元以下，公里成本更是可低至0.2美元，大大拓展了其商業(yè)化前景。

然而安全專(zhuān)家指出，Robotaxi的安全風(fēng)險(xiǎn)同樣不容忽視。一方面，自動(dòng)駕駛系統(tǒng)容易受到數(shù)據(jù)投毒、模型竊取等新型攻擊。

另一方面，Robotaxi可視為一個(gè)移動(dòng)數(shù)據(jù)中心，其網(wǎng)絡(luò)架構(gòu)、通信協(xié)議等方面都可能存在漏洞。根據(jù)Upstream的2022年全球汽車(chē)網(wǎng)絡(luò)安全報(bào)告，超過(guò)80%的網(wǎng)絡(luò)攻擊都是通過(guò)遠(yuǎn)程方式進(jìn)行的。這表明，Robotaxi的網(wǎng)絡(luò)架構(gòu)可能面臨嚴(yán)重的網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)。

比如，自動(dòng)駕駛出租車(chē)?yán)?V2V（車(chē)輛對(duì)車(chē)輛）和 V2I（車(chē)輛對(duì)基礎(chǔ)設(shè)施）通信來(lái)增強(qiáng)安全性和協(xié)調(diào)性，這些通信渠道可能容易受到攔截或欺騙攻擊，惡意實(shí)體可能會(huì)向車(chē)輛或基礎(chǔ)設(shè)施發(fā)送虛假信息。

更令人擔(dān)憂(yōu)的是，特斯拉在軟件開(kāi)發(fā)流程和供應(yīng)鏈管理等方面也暴露了諸多問(wèn)題。特斯拉自推出以來(lái)，研究人員陸續(xù)在其固件中發(fā)現(xiàn)多個(gè)安全漏洞，這些漏洞涉及不同車(chē)型和系統(tǒng)組件，包括藍(lán)牙連接固件、GPS系統(tǒng)、雨刷等。盡管特斯拉為這些漏洞打了補(bǔ)丁，都是由此帶來(lái)安全風(fēng)險(xiǎn)仍然不容忽視，成為制約Robotaxi發(fā)展的一大掣肘。

Robotaxi引發(fā)的安全思考已經(jīng)從單車(chē)防護(hù)擴(kuò)展到了城市級(jí)的韌性與安全。一旦Robotaxi大規(guī)模上路，其高度互聯(lián)、自組織的特性將使交通系統(tǒng)更容易受到網(wǎng)絡(luò)攻擊的影響。而且佐治亞理工學(xué)院早些年的一項(xiàng)研究表明，在交通高峰期，只要讓20%的汽車(chē)熄火就能讓交通完全癱瘓。

新一代智能終端面臨前所未有的安全挑戰(zhàn)

事實(shí)上，特斯拉是新一代智能終端的一個(gè)典型代表。

隨著特斯拉Robotaxi、Cruise Origin等無(wú)人車(chē)，以及各類(lèi)智能機(jī)器人的落地應(yīng)用，新一代智能終端正加速走進(jìn)大眾生活。這些終端早已經(jīng)超出了智能手機(jī)、AI PC的范疇，深入到出行、醫(yī)療、家居等各個(gè)場(chǎng)景，帶來(lái)了全新的安全挑戰(zhàn)。

1.更深更廣的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)

互聯(lián)汽車(chē)和機(jī)器人的激增為網(wǎng)絡(luò)犯罪分子創(chuàng)造了更廣泛的攻擊面。

每個(gè)設(shè)備都可能成為未經(jīng)授權(quán)訪問(wèn)的潛在入口點(diǎn)，從而導(dǎo)致數(shù)據(jù)泄露或操縱車(chē)輛系統(tǒng)。

與此同時(shí)，新一代智能設(shè)備收集了大量數(shù)據(jù)，比如互聯(lián)汽車(chē)會(huì)收集包括有關(guān)用戶(hù)及其駕駛習(xí)慣的個(gè)人信息。這些數(shù)據(jù)可能容易被盜或?yàn)E用，從而引發(fā)對(duì)隱私侵犯的擔(dān)憂(yōu)。

2.安全邊界不斷拓展

新一代智能終端的安全邊界不斷拓展，已從網(wǎng)絡(luò)空間延伸到物理世界，涉及人身安全、隱私保護(hù)、倫理道德等諸多領(lǐng)域。以Robotaxi為例，其安全不僅關(guān)乎信息泄露，更關(guān)乎乘客的生命安全。一旦發(fā)生碰撞或失控等事故，后果將不堪設(shè)想。

麻省理工學(xué)院教授Iyad Rahwan曾指出，當(dāng)智能體做出"錯(cuò)誤"決策時(shí)，究竟該由誰(shuí)來(lái)?yè)?dān)責(zé)，這在倫理和法律上都是一個(gè)巨大的灰色地帶。

3.AI安全問(wèn)題集中爆發(fā)

新一代智能終端高度依賴(lài)人工智能技術(shù)，這使其成為AI安全問(wèn)題的集中爆發(fā)點(diǎn)。一方面，AI系統(tǒng)本身存在偏差、脆弱性、不可解釋性等問(wèn)題，可能導(dǎo)致錯(cuò)誤決策和不可預(yù)測(cè)的行為。另一方面，AI系統(tǒng)也更容易受到對(duì)抗性攻擊、數(shù)據(jù)投毒等新型威脅的影響。

4.更廣泛的供應(yīng)鏈安全威脅

新一代智能終端通常采用開(kāi)放式架構(gòu)，涉及多方參與和復(fù)雜的產(chǎn)業(yè)鏈條。這不僅增加了安全管理的難度，也帶來(lái)了更多的攻擊面。

比如，2023年法國(guó)網(wǎng)絡(luò)安全公司Synacktiv的研究人員在Pwn2Own大會(huì)上展示了如何在2分鐘內(nèi)入侵特斯拉Model 3的信息娛樂(lè)子系統(tǒng)。盡管特斯拉不斷改進(jìn)其系統(tǒng)的安全性，但仍然存在被黑客攻擊的風(fēng)險(xiǎn)。

5.智慧基礎(chǔ)設(shè)施的安全挑戰(zhàn)

新一代智能終端所依賴(lài)的智慧基礎(chǔ)設(shè)施同樣面臨網(wǎng)絡(luò)安全挑戰(zhàn)。以自動(dòng)駕駛為例，其需要車(chē)路協(xié)同、高精度定位、邊緣計(jì)算等一系列支撐，而這些設(shè)施往往缺乏足夠的安全防護(hù)。

據(jù)統(tǒng)計(jì)，全球每天約有1.5億次針對(duì)物聯(lián)網(wǎng)設(shè)備的攻擊，其中不乏針對(duì)交通基礎(chǔ)設(shè)施的案例。2020年，RansomEXX勒索軟件對(duì)美國(guó)德克薩斯州交通部進(jìn)行了攻擊，影響了交通信號(hào)燈系統(tǒng)。

應(yīng)對(duì)新一代智能終端安全挑戰(zhàn)的對(duì)策建議

面對(duì)新一代智能終端帶來(lái)的諸多安全新挑戰(zhàn)，我們必須未雨綢繆，在產(chǎn)品、技術(shù)、標(biāo)準(zhǔn)、法規(guī)等層面多管齊下，構(gòu)筑起智能時(shí)代的安全防線。

1.在產(chǎn)品層面

廠商應(yīng)秉持安全、隱私和倫理的理念，將其融入產(chǎn)品設(shè)計(jì)和開(kāi)發(fā)的全生命周期。

諸如特斯拉這樣的產(chǎn)業(yè)鏈核心企業(yè)應(yīng)加強(qiáng)供應(yīng)鏈安全管理，嚴(yán)格審查軟硬件組件的安全性；在系統(tǒng)架構(gòu)上采用縱深防御、主動(dòng)免疫等理念，提升產(chǎn)品的本質(zhì)安全；建立完善的漏洞管理和事件響應(yīng)機(jī)制，及時(shí)發(fā)現(xiàn)和修復(fù)安全問(wèn)題。

2.在技術(shù)層面

加強(qiáng)人工智能安全基礎(chǔ)研究，突破可解釋性、魯棒性、隱私保護(hù)等關(guān)鍵技術(shù)瓶頸。與此同時(shí)，還要大力發(fā)展主動(dòng)防御技術(shù)，通過(guò)威脅情報(bào)、異常檢測(cè)、動(dòng)態(tài)防御等手段，對(duì)抗日益智能化的攻擊。針對(duì)新一代智能終端的應(yīng)用場(chǎng)景，強(qiáng)化技術(shù)協(xié)作，提升提供整體韌性。比如，針對(duì)自動(dòng)駕駛等場(chǎng)景，加強(qiáng)車(chē)路協(xié)同、車(chē)車(chē)通信等關(guān)鍵技術(shù)的安全防護(hù)。

3.在標(biāo)準(zhǔn)規(guī)范方面

加快構(gòu)建新一代智能終端安全標(biāo)準(zhǔn)體系。目前，ISO/SAE 21434、UN R155等汽車(chē)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)已經(jīng)發(fā)布，但在AI安全、機(jī)器人安全等方面仍有諸多空白。

我國(guó)應(yīng)積極參與相關(guān)國(guó)際標(biāo)準(zhǔn)制定，搶占技術(shù)制高點(diǎn)。同時(shí)，還要加強(qiáng)安全測(cè)試、評(píng)估和認(rèn)證機(jī)制建設(shè)，為智能終端的安全應(yīng)用提供客觀依據(jù)。

4.在法律法規(guī)方面

盡快明確智能時(shí)代的安全紅線和監(jiān)管原則。

歐盟出臺(tái)的《人工智能法案》對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)提出了嚴(yán)格要求，值得借鑒。

在我國(guó)，《中華人民共和國(guó)網(wǎng)絡(luò)安全法》、《中華人民共和國(guó)數(shù)據(jù)安全法》和《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律為人工智能的安全提供了基礎(chǔ)性保障，《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》和《生成式人工智能服務(wù)管理暫行辦法》針對(duì)生成式人工智能服務(wù)提出了具體的安全要求，《新一代人工智能發(fā)展規(guī)劃》提出了建立人工智能安全監(jiān)管和評(píng)估體系的目標(biāo)。

業(yè)內(nèi)人士認(rèn)為，接下來(lái)可在此基礎(chǔ)上，明確智能終端全生命周期的安全責(zé)任，規(guī)范數(shù)據(jù)采集、共享和使用行為，為公眾權(quán)益提供有力保障。

5.在公眾意識(shí)方面

注重全社會(huì)的安全意識(shí)培養(yǎng)和能力建設(shè)。一方面，要廣泛開(kāi)展智能安全素養(yǎng)教育，提升公眾識(shí)別和防范風(fēng)險(xiǎn)的意識(shí)；另一方面，要大力發(fā)展智能安全交叉學(xué)科，培養(yǎng)既懂AI又懂安全的復(fù)合型人才。只有安全意識(shí)、安全技術(shù)、安全人才等軟實(shí)力得到全面提升，我們才能在新一代智能終端帶來(lái)的機(jī)遇和挑戰(zhàn)中把握主動(dòng)。

新一代智能終端正以 Robotaxi 為代表，加速走進(jìn)我們的生活。它們不僅為出行、醫(yī)療、家居等領(lǐng)域帶來(lái)革命性變革，也為人類(lèi)社會(huì)的發(fā)展注入了新的活力。讓我們以開(kāi)放、審慎、負(fù)責(zé)任的態(tài)度擁抱智能新時(shí)代，用安全護(hù)航新一代智能終端的創(chuàng)新發(fā)展。