數(shù)據(jù)安全探索者任奎：數(shù)據(jù)是新時代的生產(chǎn)要素;保護數(shù)據(jù)原生價值，實現(xiàn)數(shù)據(jù)的所有權(quán)保護、交換與管理;完善數(shù)據(jù)在收集、使用、存儲等階段的全生命周期安全;研究分析復(fù)雜物理數(shù)據(jù)交互場景中的數(shù)據(jù)安全攻防機理;在保護數(shù)據(jù)所有權(quán)的前提下實現(xiàn)高價值數(shù)據(jù)的安全交易;安全技術(shù)標準的推廣與法律法規(guī)的完善。

01 數(shù)據(jù)安全防護是重大戰(zhàn)略需求

當前的行業(yè)共識認為數(shù)據(jù)是驅(qū)動數(shù)字經(jīng)濟發(fā)展的核心動力。以數(shù)據(jù)為基礎(chǔ)的云計算、物聯(lián)網(wǎng)、區(qū)塊鏈、人工智能等經(jīng)濟生態(tài)及相關(guān)產(chǎn)業(yè)鏈在智慧城市升級、國家重大基建產(chǎn)業(yè)發(fā)展等方面發(fā)揮著積極的作用?！吨袊鴶?shù)字經(jīng)濟發(fā)展白皮書》顯示，2020年我國數(shù)字經(jīng)濟規(guī)模已達39.2萬億元，較上年增加3.3萬億元，占GDP比重為38.6%。

顯而易見，數(shù)據(jù)正在加速驅(qū)動眾多國民經(jīng)濟產(chǎn)業(yè)強勢騰飛。考慮到數(shù)據(jù)作為核心生產(chǎn)要素的重要地位，數(shù)據(jù)的安全和隱私保護不容忽視。隨著數(shù)據(jù)科學與工業(yè)生產(chǎn)的深度融合，數(shù)據(jù)安全的影響正在逐步蔓延到軍事、金融、醫(yī)療、教育等各個領(lǐng)域，并關(guān)乎國家安全。

事實上，學界和工業(yè)界都已經(jīng)開始大力推動大數(shù)據(jù)安全戰(zhàn)略布局，各國政府也都相繼出臺各項法律法規(guī)以規(guī)范保障數(shù)據(jù)的安全使用和生產(chǎn)，如我國的《網(wǎng)絡(luò)安全法》、《密碼法》等。數(shù)據(jù)驅(qū)動的應(yīng)用場景正在不斷地推陳出新，因此對數(shù)據(jù)安全防護的要求也在不斷提高。從一個數(shù)據(jù)安全技術(shù)研究與探索者的角度，我認為只有從真實場景的實際安全需求出發(fā)，才能尋找到最具價值的前沿研究領(lǐng)域。

鑒于此，我們團隊也一直在為揭示數(shù)據(jù)安全防護面臨的安全與性能間的沖突與挑戰(zhàn)進行多方面的探索。力求達到能夠抵御來自多方面潛在攻擊威脅的數(shù)據(jù)縱深安防保護，尊重并保障數(shù)據(jù)所有者的權(quán)限和利益，并同時盡最大可能的保留數(shù)據(jù)作為生產(chǎn)要素的原生價值。這也是當今整個數(shù)據(jù)安全行業(yè)正在追逐的共同目標。

02 全生命周期安全防護志在必行

以剛剛過去的2020年為例，據(jù)IBM安全機構(gòu)發(fā)布，僅在這一年里，全球由于數(shù)據(jù)泄漏事件造成的平均經(jīng)濟損失高達386萬美元，遍及醫(yī)療、金融、交通運輸?shù)雀鱾€行業(yè)。

眾多實例表明，數(shù)據(jù)隱私泄露可能發(fā)生在存儲、傳輸、運行、處理等任何一個環(huán)節(jié)。因此，為了最大程度防止數(shù)據(jù)隱私泄漏，保障數(shù)據(jù)在整個生命周期內(nèi)的安全性成為迫切需要解決的問題。在過去的數(shù)十年里，國內(nèi)外的數(shù)據(jù)安全研究者與從業(yè)人員們已經(jīng)建立起了諸多技術(shù)安全標準與規(guī)范，諸如AES、國密及TLS等，在數(shù)據(jù)存儲和傳輸層面的安防保障提供了強有力的支撐。

但是在數(shù)據(jù)運行時的安防保護措施，仍然有相當大的局限性。具體而言，不論數(shù)據(jù)存儲和傳輸時的安防措施做得如何，一旦到了數(shù)據(jù)運行及處理環(huán)節(jié)，數(shù)據(jù)一般情況下都是以明文形式呈現(xiàn)出來的，這就給攻擊者們(它們既可以來自外部亦或者來自內(nèi)部)帶來可乘之機。

不同于其他自然界的生產(chǎn)資料，數(shù)據(jù)作為核心生產(chǎn)要素，一旦以明文呈現(xiàn)，是可以被攻擊者輕易拷貝、復(fù)制或竊取的，從而損害數(shù)據(jù)所有者的權(quán)限與利益。因此，如何保護數(shù)據(jù)運行時的安全，力求做到全生命周期的數(shù)據(jù)安全防護，是當下數(shù)據(jù)安全行業(yè)公認的一個痛點，也是我們正在著手研究的熱點問題之一。

數(shù)據(jù)運行時安全的技術(shù)方向和發(fā)展趨勢日新月異，包括諸如同態(tài)加密、安全多方計算、可搜索加密、可信硬件在內(nèi)的技術(shù)點，雖然側(cè)重點不同，但共同的目的都是要做到數(shù)據(jù)“可用”而“不可見”。即在數(shù)據(jù)全生命周期保護(尤其是運行時保護)的前提下，最大可能地保留數(shù)據(jù)作為生產(chǎn)要素的原生價值，從而為達到數(shù)據(jù)的縱深安防保護提供強有力的技術(shù)支撐。這些技術(shù)的難點攻關(guān)和標準規(guī)范推動進程，正在學界和工業(yè)界的共同推進下飛速發(fā)展。

[[409169]]

我們研究組也在這些領(lǐng)域深耕多年，有幸見證了業(yè)界對保護數(shù)據(jù)在整個生命周期內(nèi)的安全性所做出的共同努力。從我職業(yè)生涯伊始，我和我的合作者們便一直致力于云數(shù)據(jù)安全(包括數(shù)據(jù)運行時的安全)方面的技術(shù)研究工作。

回顧起初，數(shù)據(jù)上云的趨勢才剛剛興起。云平臺固然帶來了諸多優(yōu)勢，包括按需彈性服務(wù)、可擴展性和較低的入門成本等。但隨著數(shù)據(jù)和計算任務(wù)不斷遷移外包到云平臺，這個計算服務(wù)模式的轉(zhuǎn)變，也引發(fā)了許多新的數(shù)據(jù)安全和隱私問題，這些思考激發(fā)了我們的研究興趣。

在諸多我們開展過的研究課題里，一個比較代表性的主要挑戰(zhàn)就是如何維持密文數(shù)據(jù)的可搜索性，在不泄漏查詢或數(shù)據(jù)內(nèi)容的前提下，實現(xiàn)密文檢索技術(shù)。這項研究的出發(fā)點，來源于實際生活中，數(shù)據(jù)搜索功能是無處不在的，數(shù)據(jù)搜索可以方便的讓我們在大量的數(shù)據(jù)集中，快速索取到我們感興趣的數(shù)據(jù)。

當時，只有少數(shù)密碼原語可以滿足相關(guān)安全性設(shè)計的要求，并且其功能仍然十分有限。鑒于此，我們開始了對加密數(shù)據(jù)的通用搜索的系統(tǒng)研究，并正式確定了許多新的搜索概念和基于密文數(shù)據(jù)的安全搜索設(shè)計，例如安全排序搜索，加密模糊搜索，多關(guān)鍵字搜索，圖形搜索和相似性搜索。

令人欣慰的是，我們的許多早期成果都得到了學術(shù)界和行內(nèi)從業(yè)者的認可，這些認可也激勵了我們進一步探索更卓越的密文檢索相關(guān)密碼學原語設(shè)計。

與此同時，我們也關(guān)注到了這些密碼設(shè)計在實際部署時所遇到的安全與性能方面的挑戰(zhàn)，以及相關(guān)使用場景的局限性。尤其是從功能性角度和實際部署場景需求出發(fā)，僅僅實現(xiàn)上述密文數(shù)據(jù)的安全搜索設(shè)計是不夠的。

這也讓我們近期的研究焦點，逐步聚焦在如何構(gòu)建一套功能完備的加密數(shù)據(jù)庫管理系統(tǒng)這一前沿領(lǐng)域。數(shù)據(jù)庫管理系統(tǒng)是當今各類應(yīng)用場景的核心計算架構(gòu)支柱之一，為不同規(guī)模與類型的數(shù)據(jù)提供了組織管理、存儲、查詢、分析計算等豐富的功能。加密搜索的安全設(shè)計，只能為復(fù)雜的數(shù)據(jù)庫系統(tǒng)提供某些原始操作，卻難以滿足工業(yè)界日益增長的性能和功能多樣性方面的需求。

幸運的是，基于硬件實現(xiàn)可信執(zhí)行環(huán)境(TEE)技術(shù)的發(fā)展，例如ARM TrustZone和Intel SGX等，給數(shù)據(jù)運行時安全的相關(guān)設(shè)計帶來了新的契機。

相比于傳統(tǒng)復(fù)雜且功能受限的密碼學方案設(shè)計，TEE內(nèi)部數(shù)據(jù)天然地具有私密性和完整性的保護，能提供更豐富的功能和更好的性能。如何利用好TEE技術(shù)，并與加密數(shù)據(jù)庫系統(tǒng)的構(gòu)建，進行深度融合，仍然有相當多的重難點問題有待解決。

[[409170]]

我們同時也要認識到，TEE技術(shù)也不是無懈可擊的。首先，TEE本身存在安全性隱患。一方面是因為硬件上可能存在漏洞，另一方面是可信硬件在設(shè)計時沒有考慮側(cè)信道攻擊，比如Intel SGX明確表明不防御側(cè)信道攻擊。雖然這些攻擊需要的條件較為苛刻，但也一定程度的影響了TEE的安全性。

其次，如果運行在TEE內(nèi)的代碼本身存在漏洞，則仍可以被攻擊者利用，破壞相關(guān)系統(tǒng)設(shè)計的安全性(比如前述的加密數(shù)據(jù)庫系統(tǒng))。運行在TEE內(nèi)的代碼越多，其存在漏洞的可能性越大。

最后，可信硬件的使用不可避免會引入額外的開銷，例如程序進出Enclave以及數(shù)據(jù)的頁交換等。目前，我們已經(jīng)在嘗試解決這些問題，雖然有不少挑戰(zhàn)，但我相信我們從該領(lǐng)域過去的項目中積累的經(jīng)驗必定會為將來的研究提供諸多幫助。

我們不僅需要使用上述基于安全軟硬件的數(shù)據(jù)保護方案來保證數(shù)據(jù)運行中的安全隱私，在數(shù)據(jù)運行后的發(fā)布等階段，隱私泄露的風險依然存在。通過結(jié)合用戶在互聯(lián)網(wǎng)上的公開信息(如微博等社交平臺上發(fā)布的個人資料)，攻擊者依然可以通過推斷攻擊(Reference Attack)從經(jīng)過數(shù)據(jù)脫敏的匿名數(shù)據(jù)庫中準確定位大部分用戶的個人身份。

為解決這一問題，差分隱私(Differential Privacy)這一敏感數(shù)據(jù)保護技術(shù)被提出。其通過在原始數(shù)據(jù)中引入受控隨機性，提供了一個嚴格的數(shù)學工具來量化潛在的數(shù)據(jù)泄漏，并支持隱私保護數(shù)據(jù)的收集和發(fā)布。在真實場景中部署差分隱私機制的挑戰(zhàn)在于如何在實現(xiàn)差分隱私量化保護的同時保障各種實際場景中數(shù)據(jù)的效用。

現(xiàn)有的解決方案大多依賴于隨機值擾動，要求每個用戶按照差分隱私架構(gòu)下預(yù)定義的隱私參數(shù)擾動其擁有的數(shù)據(jù)。我們團隊近期的一項工作提出了一種新的機制，引入偽造數(shù)據(jù)并與經(jīng)過擾動后的原始數(shù)據(jù)相結(jié)合，在增強數(shù)據(jù)隱私可量化保護的同時，避免了數(shù)據(jù)可用性的大幅下降。

在常用業(yè)務(wù)場景的模擬環(huán)境中，實驗結(jié)果顯示這一方法在維持同等隱私保護強度的條件下，將數(shù)據(jù)效用提高了70%以上。目前，這一技術(shù)已經(jīng)被整合到阿里巴巴集團的數(shù)據(jù)安全產(chǎn)品Datatrust等應(yīng)用中，幫助保護數(shù)百萬用戶的隱私。

03 萬戶智聯(lián)下的數(shù)據(jù)安防新挑戰(zhàn)

在過去的二十年里，我們的社會見證了多種多樣的智能設(shè)備和系統(tǒng)的快速發(fā)展。異構(gòu)硬件與軟件平臺種類的多樣性不可避免地導致系統(tǒng)的可攻擊面變得巨大(包括硬件層、系統(tǒng)層、網(wǎng)絡(luò)層、應(yīng)用層、傳感器層等)。在物聯(lián)網(wǎng)技術(shù)快速發(fā)展并廣泛部署的今天，數(shù)據(jù)安防形勢也更為復(fù)雜，導致數(shù)據(jù)安全和隱私問題面臨更嚴峻的技術(shù)挑戰(zhàn)。

在復(fù)雜場景如自動駕駛、智能制造、智慧醫(yī)療中，用戶的數(shù)據(jù)安全和隱私保護面臨著更為嚴重與復(fù)雜的威脅與挑戰(zhàn)。在數(shù)月前發(fā)生的特斯拉車主維權(quán)事件中，特斯拉在公布了事故發(fā)生的行車數(shù)據(jù)后陷入了公布數(shù)據(jù)是否侵犯車主隱私的爭議之中。

在此前發(fā)生的多起特斯拉行車事故中，車輛運行數(shù)據(jù)均是確定事故責任劃分的重要依據(jù)，而數(shù)據(jù)不透明成為特斯拉被詬病最多的地方。根據(jù)我國法律法規(guī)，用戶有權(quán)查閱自己的行車數(shù)據(jù)，為此特斯拉開發(fā)了線上信息系統(tǒng)平臺，供車主查詢獲取車機交互數(shù)據(jù)。

然而，這也帶來了數(shù)據(jù)泄露等安全隱患問題：

第一，車主需要將身份認證信息傳輸給數(shù)據(jù)共享平臺，此通信過程存在身份信息泄露的安全隱患;

第二，為了讓車主能夠?qū)崟r訪問車機數(shù)據(jù)，車機與服務(wù)端的通信量和頻次可能會大幅提升，這在客觀上會增加通信鏈路被竊聽或遭受中間人攻擊的風險;

第三，數(shù)據(jù)共享平臺的公開性對行車數(shù)據(jù)的可訪問性提出了要求，這容易混淆車主在境外訪問數(shù)據(jù)與境外勢力竊取數(shù)據(jù)的行為，將會對違規(guī)跨國數(shù)據(jù)傳輸行為的監(jiān)測帶來更大挑戰(zhàn)。

再以隨身智能設(shè)備為例，我們團隊發(fā)現(xiàn)了多種新形態(tài)的用戶隱私攻擊技術(shù)，其中一項成果表明：智能手機上可以不用任何授權(quán)，僅利用加速度計就可以竊聽、還原用戶通話的聲音，且準確率高達90%。

我們中的許多人可能收到過與關(guān)鍵詞相關(guān)的未經(jīng)請求的廣告，這些廣告就是由設(shè)備上的麥克風或者嵌入式傳感器無意或秘密捕獲的。這顯然是不可接受的隱私侵犯。

無論是利用內(nèi)置傳感器對手機外部環(huán)境中的震動與聲音進行偵聽竊取，亦或是利用社交軟件中附近陌生用戶的搜索功能定位追蹤某個特定用戶，都利用了智能設(shè)備與用戶人機信息交互界面前所未有的豐富性與多樣性，從而繞過傳統(tǒng)的數(shù)據(jù)安全防護機制，獲取用戶隱私信息。

隨著智能傳感設(shè)備的日益普及，通過傳感器的數(shù)據(jù)、深度學習的模型等交互應(yīng)用，敵手可以實現(xiàn)各種各樣的攻擊，擺在我們面前的研究挑戰(zhàn)既有理論上的，也有實踐上的。我希望能與社會各界一道，為保護數(shù)據(jù)隱私、維護數(shù)據(jù)安全而努力。

04 打造保護所有權(quán)的數(shù)據(jù)交易平臺

在現(xiàn)有的技術(shù)方案下，數(shù)據(jù)的安全性與其可利用性往往存在矛盾，二者不可兼得。例如，機器學習在各種類型的任務(wù)中取得了巨大的成功，并被廣泛應(yīng)用于各行各業(yè)(如高頻交易市場、醫(yī)學診斷分析等)。然而，模型的訓練依賴于大量高質(zhì)量的訓練數(shù)據(jù)。這表明數(shù)據(jù)作為基礎(chǔ)性戰(zhàn)略資源的地位日益凸顯，數(shù)據(jù)安全與數(shù)據(jù)變現(xiàn)的問題亟待解決。

如何在安全和效用這兩者間尋找一個平衡，既能保障數(shù)據(jù)生產(chǎn)者的權(quán)益，同時盡可能挖掘數(shù)據(jù)蘊含著的巨大的價值，需要我們提出一種全新的處理和對待數(shù)據(jù)的方法。

我們認為，建立一個有效且可信的數(shù)據(jù)市場是解決數(shù)據(jù)安全和隱私問題的可行方案之一。這一方案可以充分激發(fā)數(shù)據(jù)價值并滿足市場多元化需求，促進建立模型數(shù)據(jù)市場，為機器學習模型交易提供渠道。我們研究團隊近期的一項工作致力于研究機器學習模型的生產(chǎn)與交易情境下數(shù)據(jù)價值的挖掘。其首次明確了數(shù)據(jù)市場中數(shù)據(jù)所有者、中間商及模型購買者三方各自的期望及能力與他們所受到的限制，開發(fā)了一個全新的名為“中間商”(Dealer)的數(shù)據(jù)市場框架。

在此框架下，數(shù)據(jù)所有者和模型購買者之間的補償問題與中間商的利潤問題都得到了有效解決。在數(shù)據(jù)市場中，合理的補償分配將極大地激發(fā)了數(shù)據(jù)所有者參與市場交易的積極性，這對于進一步完善和優(yōu)化數(shù)據(jù)市場治理具有重要意義。

同時，目前的“中間商”框架存在一個限制較強的假設(shè)，即中間商必須是絕對可信的，而這一點在現(xiàn)實世界中往往很難得到保證。為解決這個問題，我們一直與來自西蒙菲莎大學的裴健教授緊密合作，并嘗試利用多種安全技術(shù)，例如聯(lián)邦學習技術(shù)與差分隱私技術(shù)，來構(gòu)建一個安全可信的數(shù)據(jù)市場框架。

05 構(gòu)建數(shù)據(jù)安防技術(shù)標準與完善相關(guān)法律監(jiān)管

在數(shù)據(jù)安全與隱私保護中，不存在畢其功于一役的技術(shù)與手段。即使有不斷加強的研究和新技術(shù)手段，在技術(shù)層面上也很難根本解決數(shù)據(jù)泄露、侵犯隱私的問題。比如，智能汽車數(shù)據(jù)規(guī)范使用單純從技術(shù)上很難解決，需要國家從標準和相關(guān)法律法規(guī)的制定方面定義責任邊界，相關(guān)審計部門對事故各個環(huán)節(jié)進行責任認定。

[[409171]]

在這方面，浙大網(wǎng)安研究團隊領(lǐng)銜推動了ISO/IEC PWI 7748 “基于零知識證明的隱私保護指導與實踐” 國際標準的制定，并參與了國內(nèi)首個SDK國家標準《移動互聯(lián)網(wǎng)應(yīng)用程序(APP)SDK安全指南》、IEEE標準P2866.1《Standard for Device Trusted Extension: Software Architecture》、國內(nèi)首個數(shù)字消費券團體標準《數(shù)字消費券服務(wù)規(guī)范》等國際國內(nèi)相關(guān)安全標準的制定。通過構(gòu)建數(shù)據(jù)安全和隱私保護的評估體系，制定安全技術(shù)標準和測評標準，建立數(shù)據(jù)平臺及服務(wù)安全評估體系，將成為保障數(shù)據(jù)安全和隱私的有效舉措，切實促進數(shù)據(jù)安全和隱私保護保障能力的全面提升。

更重要的是，通過行之有效的監(jiān)管手段，為互聯(lián)網(wǎng)企業(yè)在追逐經(jīng)濟效益的訴求時套上法律與監(jiān)管的韁繩，在尋求經(jīng)濟效益與社會效益間、在為公眾提供便利與保護公眾隱私間找到微妙的平衡。

目前，我國《數(shù)據(jù)安全法》《個人信息保護法》正在加緊制定出臺，從而在法律層面為數(shù)據(jù)安全和個人隱私保護提供法律保障。”通過加緊構(gòu)建數(shù)據(jù)安防技術(shù)標準與相關(guān)法律法規(guī)的綜合治理體系，建立數(shù)據(jù)資源的確權(quán)、開放、流通以及交易的相關(guān)制度，從而在運行機制上進一步完善數(shù)據(jù)產(chǎn)權(quán)保護制度，為數(shù)據(jù)安全和個人隱私、個人信息保護提供制度保障。