近日，美國(guó)國(guó)防部承認(rèn)今年在伊拉克和敘利亞的85次空襲行動(dòng)中使用了機(jī)器學(xué)習(xí)算法來(lái)識(shí)別目標(biāo)，這是美國(guó)軍方首次承認(rèn)人工智能技術(shù)被用于實(shí)戰(zhàn)。

人工智能首次用于實(shí)戰(zhàn)

據(jù)彭博社報(bào)道，負(fù)責(zé)中東、中亞和部分南亞地區(qū)的美國(guó)中央司令部在今年2月2日的7次空襲行動(dòng)中使用了軍用人工智能項(xiàng)目Maven中的目標(biāo)識(shí)別算法，覆蓋了伊拉克和敘利亞的多個(gè)地點(diǎn)。

美國(guó)中央司令部首席技術(shù)官舒勒·摩爾(Schuyler Moore)表示，軍方是在去年哈馬斯出其不意襲擊以色列后開始在實(shí)戰(zhàn)行動(dòng)中部署“Maven項(xiàng)目”的計(jì)算機(jī)視覺系統(tǒng)。

“10月7日一切都發(fā)生了變化，”摩爾告訴彭博社，“我們立即開始高速運(yùn)轉(zhuǎn)，比以往的行動(dòng)節(jié)奏要快得多。”

這些對(duì)象識(shí)別算法用于識(shí)別潛在目標(biāo)，最后由人工操作武器系統(tǒng)。據(jù)報(bào)道，美國(guó)使用該軟件識(shí)別敵人的火箭、導(dǎo)彈、無(wú)人機(jī)和民兵設(shè)施。

事實(shí)上，早在2017年五角大樓就開始著手開發(fā)代號(hào)為“Maven“的軍用人工智能項(xiàng)目，并尋找能夠?yàn)闊o(wú)人機(jī)拍攝的畫面開發(fā)對(duì)象識(shí)別軟件的供應(yīng)商。2017年，美國(guó)海軍陸戰(zhàn)隊(duì)上校德魯·庫(kù)克爾(Drew Cukor)曾表示，五角大樓希望將Maven軟件與政府平臺(tái)集成，以便收集情報(bào)。

雖然谷歌因員工抗議將人工智能用于戰(zhàn)爭(zhēng)而退出該項(xiàng)目，但其他硅谷科技公司卻樂(lè)于提供幫助推動(dòng)Maven項(xiàng)目開發(fā)。

用大語(yǔ)言模型改變戰(zhàn)場(chǎng)態(tài)勢(shì)

美軍并不滿足用目標(biāo)識(shí)別機(jī)器學(xué)習(xí)算法提高空襲的精度和效率，基于大語(yǔ)言模型的“戰(zhàn)場(chǎng)大腦”才是真正能夠改變戰(zhàn)場(chǎng)態(tài)勢(shì)的關(guān)鍵技術(shù)。大語(yǔ)言模型分析和生成文本的能力可以提高五角大樓收集情報(bào)、規(guī)劃行動(dòng)的能力，從而指導(dǎo)戰(zhàn)場(chǎng)決策。

2023年，隨著大語(yǔ)言模型的橫空出世，美國(guó)軍方加快了人工智能技術(shù)的軍事化速度。

2023年8月，美國(guó)國(guó)防部成立了利馬特遣部隊(duì)，負(fù)責(zé)研究生成人工智能可以為軍隊(duì)做什么，其既定目標(biāo)是保護(hù)國(guó)家安全。該工作組由國(guó)防部副部長(zhǎng)凱瑟琳·?？怂菇M建，由首席人工智能辦公室領(lǐng)導(dǎo)。它將分析大型語(yǔ)言模型等不同的工具，并找出如何將它們集成到軍隊(duì)的軟件系統(tǒng)中。

2023年10月，美國(guó)國(guó)家安全局設(shè)立人工智能安全中心來(lái)監(jiān)督人工智能開發(fā)并將其整合到國(guó)防和國(guó)家安全系統(tǒng)中。據(jù)美國(guó)國(guó)防部稱，人工智能安全中心將集中管理關(guān)鍵系統(tǒng)人工智能應(yīng)用最佳實(shí)踐以及評(píng)估和風(fēng)險(xiǎn)框架。

美國(guó)國(guó)防部首席人工智能官克雷格·馬特爾(Craig Martell)上周在“2024年國(guó)防部?jī)?yōu)勢(shì)：國(guó)防數(shù)據(jù)和人工智能研討會(huì)”上描繪了大語(yǔ)言模型指導(dǎo)作戰(zhàn)決策的場(chǎng)景：“想象一個(gè)世界，戰(zhàn)斗指揮官可以看到他們做出戰(zhàn)略決策所需的一切，（戰(zhàn)場(chǎng)）態(tài)勢(shì)感知的周轉(zhuǎn)時(shí)間從一兩天縮短到10分鐘?！?

雖然馬特爾的構(gòu)想足夠誘人，但美國(guó)軍方的“大模型作戰(zhàn)”計(jì)劃似乎并不順利?！霸谶^(guò)去的60到90天里，我們的目標(biāo)識(shí)別機(jī)會(huì)更多了，”摩爾透露：美國(guó)中央司令部還嘗試運(yùn)行一個(gè)人工智能推薦引擎，看看它是否可以建議在軍事行動(dòng)中使用最佳武器組合并制定攻擊計(jì)劃。然而，這項(xiàng)技術(shù)“經(jīng)常達(dá)不到要求”。

軍用大語(yǔ)言模型的挑戰(zhàn)

軍用大語(yǔ)言模型的最大障礙是：目前的大語(yǔ)言模型的準(zhǔn)確性還遠(yuǎn)遠(yuǎn)達(dá)不到可獨(dú)立可靠運(yùn)行的“軍用級(jí)別”。“沒有任何算法可以完全自主運(yùn)行，得出結(jié)論然后推進(jìn)到下一步，”摩爾指出：“每個(gè)涉及人工智能的步驟最終都有人工檢查?！?/p>

數(shù)據(jù)安全也是美國(guó)軍方重點(diǎn)關(guān)注的人工智能安全問(wèn)題。雖然ChatGPT是目前最強(qiáng)大的大語(yǔ)言模型應(yīng)用（且OpenAI一個(gè)月已經(jīng)修改使用政策，默許軍方使用），但美國(guó)國(guó)防部顯然無(wú)法接受ChatGPT這種通用大語(yǔ)言模型普遍存在的數(shù)據(jù)安全問(wèn)題。據(jù)報(bào)道，美軍已經(jīng)禁止在內(nèi)部使用ChatGPT之類的工具。例如，美國(guó)太空軍告訴工作人員不要使用ChatGPT，因?yàn)閾?dān)心軍事機(jī)密可能被泄露或提取。

由于軍事數(shù)據(jù)通常高度敏感，美軍官員們擔(dān)心，如果數(shù)據(jù)進(jìn)入大語(yǔ)言模型，即時(shí)注入攻擊或API濫用可能會(huì)導(dǎo)致數(shù)據(jù)泄露。

為了尋找ChatGPT的理想替代品，美國(guó)國(guó)防部正在加大努力整合和測(cè)試人工智能的作戰(zhàn)能力。例如，美國(guó)國(guó)防部正在與初創(chuàng)公司Scale AI合作，測(cè)試軍用生成式人工智能模型。

軍用大語(yǔ)言模型進(jìn)入實(shí)戰(zhàn)的最大安全問(wèn)題是容易產(chǎn)生不準(zhǔn)確或虛假的信息，即所謂的機(jī)器幻覺。五角大樓認(rèn)為，通過(guò)引入Scale AI，可以測(cè)試不同模型的性能，以識(shí)別潛在風(fēng)險(xiǎn)，然后再考慮使用它們來(lái)支持作戰(zhàn)或情報(bào)。

ScaleAI負(fù)責(zé)為五角大樓開發(fā)一個(gè)工具和數(shù)據(jù)集框架，用于評(píng)估軍用大語(yǔ)言模型。該框架的功能包括“測(cè)量大模型性能，為作戰(zhàn)人員提供實(shí)時(shí)反饋，以及創(chuàng)建專門的公共部門評(píng)估集來(lái)測(cè)試軍事應(yīng)用領(lǐng)域的人工智能模型。

“美國(guó)國(guó)防部有責(zé)任在追求生成式人工智能模型的同時(shí)，采取適當(dāng)?shù)谋Ｗo(hù)措施，并減輕因訓(xùn)練數(shù)據(jù)管理不善等問(wèn)題可能帶來(lái)的國(guó)家安全風(fēng)險(xiǎn)，”美國(guó)國(guó)防部首席人工智能官馬特爾表示，“我們還必須評(píng)估對(duì)手將在多大程度上使用人工智能技術(shù)，以及破壞美軍人工智能技術(shù)的能力?！?/p>