人工智能顛覆性應(yīng)用的增加、危機(jī)時(shí)期網(wǎng)絡(luò)作用的擴(kuò)大、政策與技術(shù)之間依賴(lài)關(guān)系的增長(zhǎng)，是網(wǎng)絡(luò)領(lǐng)域出現(xiàn)混合威脅的三大趨勢(shì)。報(bào)告從相關(guān)技術(shù)發(fā)展的角度和可能產(chǎn)生的級(jí)聯(lián)效應(yīng)評(píng)估了這些趨勢(shì)，指出這些趨勢(shì)反映出人工智能為顛覆性應(yīng)用創(chuàng)造了新的工具。未來(lái)，當(dāng)人工智能以顛覆性的方式被使用時(shí)，可能會(huì)出現(xiàn)更多意想不到的事件和級(jí)聯(lián)效應(yīng)。報(bào)告指出，無(wú)人機(jī)、大數(shù)據(jù)、深度造假等也在改變?nèi)藗儗?duì)戰(zhàn)爭(zhēng)、隱私和影響力的理解。

[[394810]]

趨勢(shì)一：人工智能顛覆性使用的增加

當(dāng)前，人工智能是影響網(wǎng)絡(luò)領(lǐng)域的主要技術(shù)趨勢(shì)之一。人工智能和機(jī)器學(xué)習(xí)正在以驚人的速度發(fā)展，越來(lái)越多的應(yīng)用程序?qū)⑷斯ぶ悄茏鳛槠浣鉀Q方案的一部分。人工智能賦能的攻擊性網(wǎng)絡(luò)行動(dòng)將具有高效、精確、難以歸類(lèi)等特征。

①網(wǎng)絡(luò)物理領(lǐng)域的級(jí)聯(lián)效應(yīng)。

物理領(lǐng)域中的大部分操作都依賴(lài)網(wǎng)絡(luò)，在后勤和運(yùn)輸領(lǐng)域，陸地(公路和鐵路)、海洋和空中交通控制在許多方面依賴(lài)于數(shù)字系統(tǒng)。關(guān)鍵基礎(chǔ)設(shè)施(系統(tǒng)、工廠、流程、網(wǎng)絡(luò)和設(shè)備)的中斷或破壞將對(duì)民眾健康、安全、經(jīng)濟(jì)和社會(huì)福利以及治理結(jié)構(gòu)產(chǎn)生嚴(yán)重影響。網(wǎng)絡(luò)信息在提高效率和效力的同時(shí)，也為攻擊者提供了新的漏洞。惡意行為體可對(duì)關(guān)鍵基礎(chǔ)設(shè)施發(fā)動(dòng)具有連鎖效應(yīng)的攻擊。人工智能解決方案可以探測(cè)目標(biāo)并運(yùn)送爆炸物以消除恐怖主義目標(biāo)。無(wú)人機(jī)為惡意攻擊者提供了部署或重新利用這些系統(tǒng)的條件，以達(dá)到有害目的，如撞毀自動(dòng)駕駛汽車(chē)車(chē)隊(duì)，將商用無(wú)人機(jī)變成面向目標(biāo)的導(dǎo)彈等。

②人工智能在國(guó)家支持的信息行動(dòng)中具有重要作用。

人工智能在政治領(lǐng)域的作用主要表現(xiàn)為，虛假信息對(duì)公眾輿論的導(dǎo)向功能。利用人工智能大規(guī)模收集、分析公民信息并對(duì)其采取行動(dòng)的能力，可以使監(jiān)控和侵犯隱私的行為達(dá)到新的水平。日益增長(zhǎng)的視覺(jué)信息文化以及人工智能技術(shù)的進(jìn)步，將為欺騙和造假行動(dòng)提供便利。預(yù)計(jì)，用于信息行動(dòng)的人工智能支持技術(shù)將最易被沖突閾值以下的惡意行為體所采用。

需關(guān)注的問(wèn)題：

1. 人工智能支持的首次網(wǎng)絡(luò)攻擊發(fā)生的時(shí)間、原因。

2. 在信息物理系統(tǒng)中，關(guān)鍵基礎(chǔ)設(shè)施之間的聯(lián)系。

3. 如何預(yù)測(cè)可能產(chǎn)生的級(jí)聯(lián)效應(yīng)，以及有能力、動(dòng)機(jī)和意愿使用級(jí)聯(lián)效應(yīng)的行動(dòng)體。

4. 非西方政府將如何利用人工智能，人工智能將對(duì)西方國(guó)家構(gòu)成怎樣的威脅，這些技術(shù)是否會(huì)出口到其他民主程度較弱的國(guó)家，從而促進(jìn)進(jìn)一步的反民主化。

5. 西方國(guó)家將如何在利用技術(shù)保障國(guó)家安全與保護(hù)公民隱私之間取得平衡。

趨勢(shì)二：危機(jī)時(shí)期網(wǎng)絡(luò)作用的擴(kuò)大

危機(jī)來(lái)臨時(shí)，社會(huì)通常會(huì)忽略打擊外部惡意活動(dòng)，因此網(wǎng)絡(luò)和信息行動(dòng)的數(shù)量都會(huì)增加。世衛(wèi)組織報(bào)告稱(chēng)，新冠疫情期間的網(wǎng)絡(luò)攻擊數(shù)量增加了5倍。

①新冠疫情期間網(wǎng)絡(luò)的使用。

惡意行為體通過(guò)攻擊連網(wǎng)設(shè)備、滲透網(wǎng)絡(luò)、傳播惡意軟件或發(fā)動(dòng)拒止服務(wù)攻擊來(lái)實(shí)現(xiàn)其目標(biāo)。通過(guò)這些行動(dòng)，行為體能夠進(jìn)行間諜活動(dòng)、在戰(zhàn)場(chǎng)上為可能發(fā)生的沖突或戰(zhàn)爭(zhēng)做準(zhǔn)備，并破壞社會(huì)的重要功能以影響政治決策。新冠疫情期間的部分襲擊針對(duì)醫(yī)院和醫(yī)療研究中心，試圖收集有關(guān)治療、測(cè)試和疫苗的情報(bào);另一部分襲擊則針對(duì)終端用戶。

關(guān)于網(wǎng)絡(luò)威脅活動(dòng)是否堪比戰(zhàn)略武器，以及其在常規(guī)戰(zhàn)爭(zhēng)中具備的潛在破壞性一直沒(méi)有定論。目前為止，網(wǎng)絡(luò)威脅活動(dòng)在法律和政策領(lǐng)域中都被視為在實(shí)際戰(zhàn)爭(zhēng)閾值下進(jìn)行的行為。但這一問(wèn)題在新冠疫情期間再次浮出水面，一些針對(duì)醫(yī)院等關(guān)鍵衛(wèi)生基礎(chǔ)設(shè)施的攻擊已經(jīng)引發(fā)了對(duì)網(wǎng)絡(luò)行動(dòng)法律閾值的質(zhì)疑。

②新冠疫情期間的操縱性信息干擾

操縱性信息干擾指行為體利用社交媒體等網(wǎng)絡(luò)服務(wù)傳播虛假信息等方式，增加民眾對(duì)政府、醫(yī)療保健系統(tǒng)和其他公民的不信任。流入內(nèi)部信息系統(tǒng)的虛假信息也容易受到尋求政治或經(jīng)濟(jì)利益的國(guó)內(nèi)行為體的推動(dòng)。虛假信息在危機(jī)期間也可用于煽動(dòng)對(duì)基礎(chǔ)設(shè)施的物理攻擊，如5G基站。

混合威脅中的任何犯罪活動(dòng)都是相關(guān)的。首先，犯罪活動(dòng)大規(guī)模發(fā)生時(shí)會(huì)模糊態(tài)勢(shì)感知，參與者和動(dòng)機(jī)越多，就越難區(qū)分相關(guān)的混合威脅活動(dòng)和具有升級(jí)潛力的戰(zhàn)略行為。其次，假借世衛(wèi)組織等知名機(jī)構(gòu)的名義實(shí)施的騙局會(huì)制造可能被混合威脅行為體利用的漏洞。對(duì)抗混合威脅的一種方法是提高民眾對(duì)官方機(jī)構(gòu)的信任，從而提高整體社會(huì)彈性。

需要注意的問(wèn)題

1. 從新冠疫情期間網(wǎng)絡(luò)空間惡意行為中吸取的教訓(xùn)。

2. 操縱性信息干擾是否會(huì)影響民眾對(duì)官方機(jī)構(gòu)的信任。

3. 各國(guó)如何改變其對(duì)惡意網(wǎng)絡(luò)和信息活動(dòng)的歸因和反應(yīng)方式，特別是在危機(jī)時(shí)期中。

4. 網(wǎng)絡(luò)領(lǐng)域中國(guó)際合作方面的缺口。

5. 對(duì)基礎(chǔ)設(shè)施的物理攻擊是否會(huì)被其他國(guó)家利用，甚至被復(fù)制。

趨勢(shì)三：政策與技術(shù)之間依賴(lài)關(guān)系的增長(zhǎng)

當(dāng)前，政策制定者和技術(shù)開(kāi)發(fā)商正在越來(lái)越多地影響網(wǎng)絡(luò)領(lǐng)域的發(fā)展，兩者之間的依賴(lài)關(guān)系也在增長(zhǎng)。為實(shí)現(xiàn)經(jīng)濟(jì)增長(zhǎng)、社會(huì)發(fā)展和國(guó)家安全，政策制定者和技術(shù)開(kāi)發(fā)商之間需要進(jìn)行建設(shè)性的對(duì)話。

①5G技術(shù)

隨著5G技術(shù)的擴(kuò)散，技術(shù)人員和政策制定者應(yīng)該思考，能否相信從另一個(gè)國(guó)家制造商獲得的技術(shù)不會(huì)對(duì)國(guó)家安全構(gòu)成風(fēng)險(xiǎn)。一方面，部署5G技術(shù)在經(jīng)濟(jì)和功能方面非常重要;另一方面，部署可能不可靠的技術(shù)會(huì)對(duì)國(guó)家安全構(gòu)成風(fēng)險(xiǎn)。

②操縱性信息干擾活動(dòng)

2018年，為響應(yīng)歐盟委員會(huì)處理虛假信息的目標(biāo)，網(wǎng)絡(luò)平臺(tái)、領(lǐng)先社交網(wǎng)絡(luò)、廣告商和廣告行業(yè)代表自發(fā)達(dá)成行為守則，以應(yīng)對(duì)在線虛假信息和虛假新聞的傳播;2020年，歐盟提出《數(shù)字服務(wù)法》和《數(shù)字市場(chǎng)法》兩項(xiàng)立法以保護(hù)網(wǎng)絡(luò)平臺(tái)用戶。

③人工智能技術(shù)

歐盟發(fā)布的人工智能白皮書(shū)呼吁平衡政策和技術(shù)發(fā)展。一份關(guān)于人工智能軍民兩用的報(bào)告也呼吁決策者和技術(shù)專(zhuān)家合作，為人工智能的惡意使用做好準(zhǔn)備，并積極擴(kuò)大參與預(yù)防和減輕人工智能惡意使用風(fēng)險(xiǎn)的利益相關(guān)者的范圍。各國(guó)和國(guó)際組織應(yīng)努力建立更有組織的對(duì)話形式，以便在技術(shù)變革由私營(yíng)公司領(lǐng)導(dǎo)的環(huán)境下，在政策和技術(shù)之間取得平衡。

需要注意的問(wèn)題

1. 決策者和技術(shù)公司之間對(duì)話的主要驅(qū)動(dòng)因素。

2. 如何遵循歐盟委員會(huì)的虛假信息實(shí)踐守則，以及如何將新平臺(tái)納入其中。

3. 圍繞5G的討論還可能出現(xiàn)在什么領(lǐng)域。

4. 有哪些結(jié)構(gòu)性形式可用于討論政策和技術(shù)之間的平衡。