本文轉(zhuǎn)自雷鋒網(wǎng)，如需轉(zhuǎn)載請(qǐng)至雷鋒網(wǎng)官網(wǎng)申請(qǐng)授權(quán)。

取法乎上，僅得其中。機(jī)器像人，路漫漫。

軍備競(jìng)賽，只要有一個(gè)國家邁出第一步，緊接著就會(huì)出現(xiàn)第二個(gè)國家，第三個(gè)國家......最終結(jié)成一張緊張又隱晦的霸權(quán)關(guān)系大網(wǎng)。

裹挾在人類歷史上最大的內(nèi)卷之中，各國軍隊(duì)開發(fā)作戰(zhàn)機(jī)器人的意圖是什么？站在軍事變革的時(shí)代長(zhǎng)河中，作戰(zhàn)機(jī)器人的技術(shù)實(shí)際進(jìn)展到了哪一步？人工智能會(huì)不會(huì)成為軍備競(jìng)賽中的重要一環(huán)？我們惴惴不安的是軍備競(jìng)賽的恐怖，還是前沿領(lǐng)域激發(fā)機(jī)器人的意識(shí)潛力？

從技術(shù)發(fā)展的角度看，許多高科技都是借助軍事契機(jī)向前發(fā)展。1968年，阿帕網(wǎng)（ARPA網(wǎng)）誕生，有一個(gè)流傳甚廣的說法是，阿帕網(wǎng)是美國國防部為抵御前蘇聯(lián)的核打擊而建造的通訊網(wǎng)絡(luò)，即使部分指揮點(diǎn)被摧毀后，其它點(diǎn)仍能正常通訊工作。這個(gè)最初由美國國防部高級(jí)研究計(jì)劃局用于軍事研究目的局域網(wǎng)，被認(rèn)為是現(xiàn)今互聯(lián)網(wǎng)(Internet)的前身。從此之后，互聯(lián)科技便開始了從局部互聯(lián)到廣域互聯(lián)，從軍用到民用的發(fā)展過程。

但著眼國際上成效顯著的AI落地項(xiàng)目，人工智能技術(shù)在醫(yī)療健康領(lǐng)域大顯身手。其因不僅是醫(yī)療領(lǐng)域有大量的數(shù)據(jù)可供機(jī)器學(xué)習(xí)，更為重要的是醫(yī)療問題多有明確的邊界，AI運(yùn)行極其隱秘且規(guī)整。在這種數(shù)據(jù)密集、知識(shí)密集、腦力勞動(dòng)密集為特征的領(lǐng)域中，機(jī)器學(xué)習(xí)更像是設(shè)定好收益以及減益目標(biāo)，通過無限窮舉，并且依托強(qiáng)大算力的超級(jí)電腦，但是距離人們認(rèn)知的“智能”，還有太大差距。

在現(xiàn)實(shí)世界中，少有存在明確邊界的問題。

軍事作戰(zhàn)地形復(fù)雜，作戰(zhàn)環(huán)境依附作戰(zhàn)雙方的機(jī)動(dòng)戰(zhàn)術(shù)，在這種軟規(guī)則和硬規(guī)則的約束條件下成長(zhǎng)起來的機(jī)器人，能否依據(jù)軍事作戰(zhàn)的特殊約束條件，提高機(jī)器人的自主決策能力，成長(zhǎng)為配合士兵作戰(zhàn)的鋼鐵智能？ 

1、世界軍事強(qiáng)國對(duì)機(jī)器人部隊(duì)的構(gòu)想

英國正計(jì)劃在2030年建機(jī)器人大軍，部署12萬個(gè)"終結(jié)者"機(jī)器人用于下一代戰(zhàn)爭(zhēng)。根據(jù)英軍國防參謀長(zhǎng)尼克·卡特將軍的說法，在未來十年或2030年代，約有四分之一的英國軍隊(duì)可能是機(jī)器人。

與此同時(shí)，美國正在研制機(jī)器人戰(zhàn)車，用來提升陸軍作戰(zhàn)能力。到21世紀(jì)30年代，這些快速、強(qiáng)力的車輛將在戰(zhàn)場(chǎng)上巡邏，配合陸軍進(jìn)行作戰(zhàn)。

發(fā)達(dá)國家率先將機(jī)器人作為軍備一部分，多數(shù)人并不驚訝，機(jī)器人可能會(huì)補(bǔ)充新兵的缺口，減少對(duì)人類士兵的依賴，并可能多元擴(kuò)充國家的軍事力量。在以美國為首的許多國家已經(jīng)增加了對(duì)機(jī)器人技術(shù)的軍事投資，機(jī)器人很可能成為未來任何國家軍事武器庫中的關(guān)鍵部分。

從歷史的長(zhǎng)河看，社會(huì)形態(tài)開始向智能化演變的時(shí)候，戰(zhàn)爭(zhēng)形態(tài)必將隨之向智能化演變。從冷兵器時(shí)代刀、槍、劍、戟，強(qiáng)調(diào)士兵近戰(zhàn)肉搏，到熱兵器時(shí)代槍林彈雨重視戰(zhàn)略戰(zhàn)術(shù)，我們是否要馬上迎來信息戰(zhàn)、信號(hào)戰(zhàn)、無人作戰(zhàn)時(shí)代？

目前，美國陸軍研究實(shí)驗(yàn)室(Army Research Lab，ARL)正訓(xùn)練機(jī)器人在崎嶇的地形(上、中)測(cè)試自主導(dǎo)航技術(shù)，目標(biāo)是能協(xié)同人類隊(duì)友。ARL還在開發(fā)具有操作能力的機(jī)器人，這種機(jī)器人可與物體交互，替代人類作戰(zhàn)冗余行為。

然而，機(jī)器人的底層技術(shù)到了望而生畏的地步了嗎，帶著這些問題，IEEE Spectrum的高級(jí)編輯，Even Ackerman（埃文·阿克曼），近期前往了馬里蘭州阿德爾菲實(shí)驗(yàn)室中心（ Adelphi Laboratory Center），以第一視角寫下了這篇文章。AI科技評(píng)論將其整理，與大家一同探索軍地作戰(zhàn)機(jī)器人的真實(shí)能力。

2、美國陸軍研究實(shí)驗(yàn)室的陸地作戰(zhàn)機(jī)器人

（1）在混亂環(huán)境中，機(jī)器人表現(xiàn)糟糕

“我可能不應(yīng)該站得這么近，”當(dāng)機(jī)器人慢慢靠近我面前地板上的一根大樹枝時(shí)，我對(duì)自己說。讓我緊張的不是樹枝的大小，而是這個(gè)自主操作的機(jī)器人。雖然我知道它應(yīng)該做什么，但我完全不確定它接下來會(huì)做什么。

如果一切都像ARL的機(jī)器人專家預(yù)料的那樣，機(jī)器人接下來會(huì)識(shí)別出樹枝的存在，抓住樹枝，并把樹枝拖到道路的一旁。這些機(jī)器人很清楚自己正在做什么，但我站在它們面前，還是心生恐懼，所以我往后退了一小步。

這款機(jī)器人的名字叫“RoMan”（Robotic Manipulation），意為“機(jī)器操作”，和一臺(tái)大型的割草機(jī)差不多大，有一個(gè)履帶底座，可以應(yīng)對(duì)大多數(shù)不同的路況。它的前部有一個(gè)矮小的軀干，配備了攝像頭和深度傳感器；還有一對(duì)手臂，手臂的原型來自災(zāi)難響應(yīng)機(jī)器人 RoboSimian，最初由NASA的噴氣推進(jìn)實(shí)驗(yàn)室（Jet Propulsion Laboratory，JPL）為美國 DARPA 的機(jī)器人競(jìng)賽開發(fā)，執(zhí)行與災(zāi)難相關(guān)的任務(wù)。

今天，羅曼的任務(wù)是清理道路。這是一項(xiàng)多步驟的任務(wù)，ARL希望機(jī)器人盡可能自主完成。操作員不會(huì)指示機(jī)器人以什么方式抓住目標(biāo)物體、或?qū)⒛繕?biāo)物移動(dòng)到某個(gè)特定的位置，而是告訴RoMan要“清理出一條干凈的道路"，然后由機(jī)器人自主決定如何完成這項(xiàng)任務(wù)。

“自主決策的能力”，本就是機(jī)器人之所以可以稱為機(jī)器“人”的原因所在。我們重視機(jī)器人，是因?yàn)樗鼈兡軌蚋兄車l(fā)生的事情，根據(jù)感知的信息做決定，然后在沒有人類干預(yù)的情況下采取有效的行動(dòng)。在過去，機(jī)器人的決策是遵循高度結(jié)構(gòu)化的規(guī)則。在像工廠一樣結(jié)構(gòu)化的環(huán)境中，機(jī)器人能很好地工作，但在混亂、陌生或定義不明確的環(huán)境中，比如戰(zhàn)場(chǎng)，那么，對(duì)規(guī)則的依賴則會(huì)使機(jī)器人“笨手笨腳”，因?yàn)闄C(jī)器人無法提前精確預(yù)測(cè)與作規(guī)劃。

（2）深度學(xué)習(xí)：一塊“絆腳石”

和許多機(jī)器人（包括家用吸塵器、無人機(jī)和自動(dòng)駕駛汽車等）一樣，RoMan是通過人工神經(jīng)網(wǎng)絡(luò)來應(yīng)對(duì)在半結(jié)構(gòu)環(huán)境中遇到的挑戰(zhàn)。大約在十年前，人工神經(jīng)網(wǎng)絡(luò)開始應(yīng)用于各種各樣的半結(jié)構(gòu)化數(shù)據(jù)。此前，這些半結(jié)構(gòu)化數(shù)據(jù)一直是基于規(guī)則編程（也就是所謂的“符號(hào)推理”）來運(yùn)行的計(jì)算機(jī)的難題。

人工神經(jīng)網(wǎng)絡(luò)不是識(shí)別特定的數(shù)據(jù)結(jié)構(gòu)，而是識(shí)別數(shù)據(jù)模式，找出與網(wǎng)絡(luò)先前遇到的數(shù)據(jù)相似但不完全相同的新數(shù)據(jù)。人工神經(jīng)網(wǎng)絡(luò)的部分吸引力，就在于它們是通過實(shí)例進(jìn)行訓(xùn)練，通過讓神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)標(biāo)記的數(shù)據(jù)，形成自己的識(shí)別模式。具有多層抽象的神經(jīng)網(wǎng)絡(luò)，則稱為“深度學(xué)習(xí)”。

盡管人類參與了訓(xùn)練的過程，人工神經(jīng)網(wǎng)絡(luò)也受到了人類大腦神經(jīng)網(wǎng)絡(luò)的啟發(fā)，但從根本上看，深度學(xué)習(xí)系統(tǒng)的識(shí)別模式與人類看待世界的方式是不同的。我們經(jīng)常無法理解深度學(xué)習(xí)系統(tǒng)的輸入數(shù)據(jù)與輸出數(shù)據(jù)之間的關(guān)系，所以深度學(xué)習(xí)系統(tǒng)也往往被稱為“黑盒子”模型。

深度學(xué)習(xí)的這種“黑盒子”不透明決策特性，給像 RoMan 這樣的機(jī)器人和 ARL 實(shí)驗(yàn)室造成了一些問題。這種不透明性也意味著，我們要必須謹(jǐn)慎使用依賴深度學(xué)習(xí)系統(tǒng)的機(jī)器人。

深度學(xué)習(xí)系統(tǒng)擅長(zhǎng)識(shí)別模式，但缺乏人類對(duì)世界的理解能力，也就無法像人類一樣做出合乎情理的決策。這就是為什么深度學(xué)習(xí)在一些定義良好且范圍小的應(yīng)用中能取得最出色的表現(xiàn)。

“當(dāng)你同時(shí)擁有構(gòu)造良好的輸入和輸出，并且可以在這些輸入與輸出中完整地表達(dá)你的問題，那么深度學(xué)習(xí)就很有用。”美國羅徹斯特大學(xué)機(jī)器人與人工智能實(shí)驗(yàn)室主任 Tom Howard 談道。此前，Tom Howard為RoMan和其他地面機(jī)器人開發(fā)了許多自然語言交互算法。“問題是，在為智能機(jī)器人編程時(shí)，這些依賴深度學(xué)習(xí)系統(tǒng)的機(jī)器人實(shí)際存在的大小是多少?"

Howard解釋說，當(dāng)你將深度學(xué)習(xí)應(yīng)用到更高層次的問題時(shí)，輸入的數(shù)據(jù)量可能非常大，處理大規(guī)模數(shù)據(jù)會(huì)十分困難。尤其當(dāng)研究的對(duì)象是一個(gè)170公斤重的雙臂軍用機(jī)器人時(shí)，它在執(zhí)行任務(wù)中可能出現(xiàn)的不可預(yù)測(cè)或無法解釋的行為就變得無比關(guān)鍵。

幾分鐘后，羅曼還沒有動(dòng)——它仍然坐在那里，對(duì)著樹枝沉思，手臂像螳螂一樣擺動(dòng)。在過去的10年里，ARL的機(jī)器人技術(shù)合作聯(lián)盟(Robotics Collaborative Technology Alliance ，RCTA)一直與來自卡內(nèi)基梅隆大學(xué)、佛羅里達(dá)州立大學(xué)、General Dynamics Land Systems公司、JPL、MIT、QinetiQ North America、中佛羅里達(dá)大學(xué)、賓夕法尼亞大學(xué)和其他頂級(jí)研究機(jī)構(gòu)共同開發(fā)用于未來地面作戰(zhàn)的機(jī)器人自主能力。RoMan就在這個(gè)大項(xiàng)目中的一個(gè)代表。

RoMan正在思考的“清出一條路”的任務(wù)對(duì)機(jī)器人來說是很困難的，因?yàn)檫@個(gè)任務(wù)太抽象了。在這個(gè)任務(wù)中，羅曼需要識(shí)別可能擋住去路的物體，推斷這些物體的物理性質(zhì)，弄清楚如何抓住它們，以及采用哪種最佳的操作技巧（推、拉、提等等），然后將這些行為完整地執(zhí)行出來。對(duì)于一個(gè)本就對(duì)世界了解有限的機(jī)器人來說，這個(gè)任務(wù)的步驟實(shí)在太多，且充滿未知。

（3）“模塊化”理解世界

ARL操縱和移動(dòng)項(xiàng)目的人工智能首席科學(xué)家Ethan Stump 談道：“讓機(jī)器人逐漸理解世界，正是ARL所開發(fā)的機(jī)器人與其他依賴于深度學(xué)習(xí)的機(jī)器人所不同的地方。”

“軍隊(duì)也許會(huì)在世界上的任何地方執(zhí)行任務(wù)，但我們不可能收集應(yīng)用到機(jī)器人的所有地域的詳細(xì)數(shù)據(jù)。我們也許會(huì)被派去地球另一側(cè)從未涉足的森林，但我們也要表現(xiàn)地就像在自家后院一樣出色。”他介紹，但大多數(shù)深度學(xué)習(xí)系統(tǒng)只能在它們受訓(xùn)的領(lǐng)域和環(huán)境中可靠地運(yùn)行。此外，如果軍隊(duì)作戰(zhàn)機(jī)器人的深度學(xué)習(xí)系統(tǒng)表現(xiàn)不好，他們并不能通過簡(jiǎn)單地收集更多的數(shù)據(jù)來解決問題，數(shù)據(jù)量有限。

ARL的機(jī)器人還需要意識(shí)到自己在做什么。Stump 解釋：“在一項(xiàng)任務(wù)的標(biāo)準(zhǔn)執(zhí)行順序中，你有目標(biāo)、約束條件、表達(dá)指揮官意圖的話術(shù)。”換句話說，RoMan 可能需要快速地清理一條道路，也可能需要安靜地清理一條道路，這取決于任務(wù)的具體要求。即使對(duì)目前最先進(jìn)的機(jī)器人來說，這也是一個(gè)很高的要求。

在我看著的時(shí)候，RoMan再次搬運(yùn)樹枝。ARL的自主方法是模塊化的，其中，深度學(xué)習(xí)與其他技術(shù)結(jié)合，讓 RoMan 幫助ARL確定什么任務(wù)適合什么技術(shù)。

目前，RoMan 正在測(cè)試兩種從3D傳感器數(shù)據(jù)中識(shí)別物體的不同方法：賓夕法尼亞大學(xué)的方法是基于深度學(xué)習(xí)，而卡耐基梅隆大學(xué)使用的是一種通過搜索來感知的方法，這種方法依賴于更傳統(tǒng)的3D模型數(shù)據(jù)庫。只有事先確定要尋找的對(duì)象，搜索感知方法才有效，但這種方法的訓(xùn)練要快得多，因?yàn)槊總€(gè)物體只需要一個(gè)模型。而且。即使物體很難被感知，比如物體的一部分被遮擋或被顛倒，搜索感知方法也能準(zhǔn)確地識(shí)別物體。ARL同時(shí)測(cè)試兩種方法，讓兩種方法同時(shí)運(yùn)行、相互競(jìng)爭(zhēng)，以選出最通用和最有效的方法。

感知是深度學(xué)習(xí)擅長(zhǎng)的事情之一。ARL的計(jì)算機(jī)科學(xué)家 Maggie Wigness 說：“得益于深度學(xué)習(xí)，計(jì)算機(jī)視覺領(lǐng)域已經(jīng)取得了極大進(jìn)展，我們已經(jīng)成功地將一些只在一個(gè)環(huán)境中訓(xùn)練的深度學(xué)習(xí)模型很好地泛化到新的環(huán)境中。"

ARL的模塊化方法是將幾種技術(shù)的優(yōu)勢(shì)結(jié)合起來。例如，基于深度學(xué)習(xí)視覺對(duì)地形進(jìn)行分類的感知系統(tǒng)，可與基于逆強(qiáng)化學(xué)習(xí)方法（inverse reinforcement learning）的自動(dòng)駕駛系統(tǒng)一起工作。在逆強(qiáng)化學(xué)習(xí)方法中，模型可以通過人類士兵的觀察迅速創(chuàng)建或優(yōu)化，而傳統(tǒng)的強(qiáng)化學(xué)習(xí)基于既定的獎(jiǎng)勵(lì)函數(shù)來優(yōu)化解決方案，通常只有在你不確定什么是最佳行為的時(shí)候使用。這和作戰(zhàn)思維不謀而合，這種思維通常認(rèn)為訓(xùn)練有素的人在一旁指導(dǎo)機(jī)器人才是正確的做事方式。

"所以我們想要一種技術(shù)，讓士兵干預(yù)，結(jié)合一些戰(zhàn)場(chǎng)實(shí)例。如果我們需要新的行為，就可以更新系統(tǒng)。深度學(xué)習(xí)技術(shù)需要更多的數(shù)據(jù)和時(shí)間。”Wigness說。

（4）如何安全運(yùn)行

深度學(xué)習(xí)要面臨的，不僅僅是數(shù)據(jù)稀疏和快速適應(yīng)的問題，還有魯棒性、可解釋性和安全性等問題。Stump說：“這些問題并不是只有在作戰(zhàn)機(jī)器人中才會(huì)出現(xiàn)，但在軍隊(duì)作戰(zhàn)時(shí)尤其重要，因?yàn)樗鸬暮蠊赡苁侵旅摹?rdquo; 需要明確的是，ARL目前并不是在研究致命的自主武器系統(tǒng)，而是在為美國軍方的自主系統(tǒng)奠定基礎(chǔ)。在未來，作戰(zhàn)機(jī)器人可能就如RoMan一樣行動(dòng)。

Stump還表示，安全永遠(yuǎn)是優(yōu)先考慮的問題，但目前還沒有一種明確的方法來確保深度學(xué)習(xí)系統(tǒng)的安全性。“在安全的約束下進(jìn)行深度學(xué)習(xí)是一項(xiàng)重要的研究工作，但將這些約束條件添加到系統(tǒng)中確實(shí)困難重重，因?yàn)槟悴恢老到y(tǒng)中已有的約束條件是從哪里來的。所以，當(dāng)任務(wù)變化，或環(huán)境變化時(shí)，約束條件就很難處理。

這甚至不是一個(gè)數(shù)據(jù)問題，而是一個(gè)架構(gòu)問題。"無論ARL的模塊化架構(gòu)是使用深度學(xué)習(xí)的感知模塊，還是使用逆強(qiáng)化學(xué)習(xí)的自動(dòng)駕駛模塊，它都可以構(gòu)成更廣的自動(dòng)系統(tǒng)的一部分，并滿足軍隊(duì)對(duì)安全性和適應(yīng)性的要求。

整合起來的深度學(xué)習(xí)系統(tǒng)就能作戰(zhàn)？

Nicholas Roy 是 MIT 機(jī)器人小組的負(fù)責(zé)人。他形容自己是一個(gè)“煽動(dòng)者”，因?yàn)樗X得深度學(xué)習(xí)不應(yīng)該被神化，所以他同意ARL機(jī)器人專家的觀點(diǎn)，即深度學(xué)習(xí)方法往往無法應(yīng)對(duì)軍隊(duì)所面臨的挑戰(zhàn)。

“陸軍時(shí)時(shí)深入新的環(huán)境，而且敵軍總是嘗試不斷改變環(huán)境，所以機(jī)器人所經(jīng)歷的訓(xùn)練過程根本無法與軍隊(duì)的需求相匹配。" Roy說，"因此，很大程度上，深度網(wǎng)絡(luò)的需求與陸軍作戰(zhàn)的任務(wù)是不匹配的，這是一個(gè)問題。"

在RCTA（Rear Cross Traffic Alert，后方橫向來車警示系統(tǒng)）任務(wù)中，Roy強(qiáng)調(diào)地面機(jī)器人的抽象推理。他認(rèn)為，當(dāng)深度學(xué)習(xí)被用于具有明確函數(shù)關(guān)系的問題時(shí)，它就是一項(xiàng)有用的技術(shù)，但當(dāng)你開始研究抽象概念時(shí)，就不清楚深度學(xué)習(xí)是否可行。"

Roy說：“我對(duì)神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)如何以一種支持更高級(jí)的推理方式進(jìn)行組裝非常感興趣，歸根到底，這是如何結(jié)合多個(gè)低級(jí)神經(jīng)網(wǎng)絡(luò)來表達(dá)更高層次概念的問題，但目前我們還不知道怎么做到這一點(diǎn)。"

Roy給出了使用兩個(gè)獨(dú)立神經(jīng)網(wǎng)絡(luò)的例子，一個(gè)用來檢測(cè)汽車，另一個(gè)用來檢測(cè)紅色的物體。與使用基于邏輯關(guān)系的、帶有結(jié)構(gòu)化規(guī)則的符號(hào)推理系統(tǒng)相比，將這兩個(gè)網(wǎng)絡(luò)合并成一個(gè)更大的網(wǎng)絡(luò)來檢測(cè)紅色汽車要困難得多。“很多人都在研究這個(gè)問題，但我還沒有看到成功推動(dòng)這種抽象推理形成的研究。”

在可預(yù)見的未來，ARL將通過讓人類參與高級(jí)推理和偶爾的低級(jí)建議，來確保自主系統(tǒng)的安全性和魯棒性。人類可能不會(huì)一直參與機(jī)器人系統(tǒng)的研究，但當(dāng)人類和機(jī)器人作為一個(gè)團(tuán)隊(duì)一起工作時(shí)，它們的效率會(huì)更高。當(dāng)機(jī)器人合作技術(shù)聯(lián)盟項(xiàng)目（Robotics Collaborative Technology Alliance）的最新階段在2009年開始時(shí)，ARL已經(jīng)在伊拉克和阿富汗呆了很多年，在那里，機(jī)器人經(jīng)常被當(dāng)作工具使用。我們一直在想，我們要怎么做才能讓機(jī)器人從工具變成球隊(duì)中的隊(duì)友。"

當(dāng)人類指出抓取哪個(gè)區(qū)域的樹枝最有效時(shí)，RoMan確實(shí)得到了一點(diǎn)幫助。機(jī)器人對(duì)樹枝并沒有認(rèn)知，這種世界知識(shí)（即人們常說的“常識(shí)”）的無知是所有自主決策系統(tǒng)的通病。但如果有一個(gè)人能利用我們?nèi)祟惖呢S富經(jīng)驗(yàn)，稍微點(diǎn)撥一下RoMan，那么它工作起來就會(huì)容易地多。這一次，RoMan成功地抓住了樹枝，并將樹枝拖走了。

把一個(gè)機(jī)器人變成一個(gè)好隊(duì)友很難，因?yàn)橐x予機(jī)器人何種程度的自主權(quán)是十分棘手的。機(jī)器人的自主權(quán)太少，就需要人投入大量的精力來管理，這適用于處理爆炸物等特殊情況，但在其他情況下則效率低下。但如果給予機(jī)器人太多的自主權(quán)，則會(huì)有信任、安全和可解釋性等方面的隱患。

Stump解釋：“我認(rèn)為我們要找的標(biāo)準(zhǔn)是，機(jī)器人的操作水平相當(dāng)于工作犬。它們清楚地知道在有限的環(huán)境下，我們需要它們做什么；如果它們?nèi)サ叫碌沫h(huán)境，還會(huì)有少量的靈活性和創(chuàng)造力，但我們不期望它們用創(chuàng)新的方法解決問題。如果它們需要幫助，它們可以向我們求助。”

（5）對(duì)自主系統(tǒng)的探索要延續(xù)下去

即使是作為人類團(tuán)隊(duì)的一員，RoMan也不太可能馬上在野外獨(dú)立執(zhí)行任務(wù)。RoMan更像是一個(gè)研究平臺(tái)，借由這個(gè)研究契機(jī)，可以探索深度學(xué)習(xí)的一系列復(fù)雜問題。但是，ARL正在為RoMan和其他機(jī)器人開一個(gè)軟件，名為“自適應(yīng)規(guī)劃參數(shù)學(xué)習(xí)”( Adaptive Planner Parameter Learning，APPL)，可能會(huì)首先用于自動(dòng)駕駛，然后是更復(fù)雜的機(jī)器人系統(tǒng)，包括像RoMan這樣的移動(dòng)操控員。

APPL將不同的機(jī)器學(xué)習(xí)技術(shù)（包括逆強(qiáng)化學(xué)習(xí)和深度學(xué)習(xí)）分層排列在經(jīng)典的自主導(dǎo)航系統(tǒng)之下，可以將高級(jí)的目標(biāo)和約束應(yīng)用在低級(jí)編程上。人類可以使用遠(yuǎn)程操作演示、矯正干預(yù)和評(píng)估反饋來幫助機(jī)器人適應(yīng)新環(huán)境，同時(shí)，機(jī)器人可以使用無監(jiān)督強(qiáng)化學(xué)習(xí)來調(diào)整自己的行為參數(shù)。

結(jié)果就是，一個(gè)自主系統(tǒng)可以兼具機(jī)器學(xué)習(xí)的多個(gè)優(yōu)勢(shì)，同時(shí)也提供了軍隊(duì)需要的安全性和可解釋性。有了APPL，像RoMan這樣的基于學(xué)習(xí)的系統(tǒng)，即使在不確定的情況下也可以采用可預(yù)測(cè)的方式運(yùn)行。如果它處于與訓(xùn)練環(huán)境十分不同的環(huán)境中，則需要依靠人類調(diào)優(yōu)或人類演示。

商業(yè)和工業(yè)自動(dòng)駕駛系統(tǒng)（比如自動(dòng)駕駛汽車）的快速發(fā)展，難免使人們好奇：為什么軍隊(duì)會(huì)在先進(jìn)技術(shù)的洪流中處于落后地位？Stump 的看法是，自主系統(tǒng)中有很多難題，軍隊(duì)的難題與工業(yè)難題不同。比如說，軍隊(duì)就沒有配備大量數(shù)據(jù)的結(jié)構(gòu)化環(huán)境來操作機(jī)器人。未來，人類很可能仍然是ARL正在開發(fā)的自主框架中的關(guān)鍵角色。

3、 結(jié)語：不要在發(fā)明棍子之前，困于對(duì)暴力的忌憚

從上述分析中可以看出，全球軍事機(jī)器人研究并沒有停滯不前而是在積極向前發(fā)展。人們更希望軍事機(jī)器人開發(fā)者能夠在戰(zhàn)斗和智能自動(dòng)化方面找到平衡。

我們的時(shí)代軌跡是真正實(shí)現(xiàn)人機(jī)共融，而從機(jī)器人一隅來看，人和機(jī)之間的關(guān)系，漸次為輔助、協(xié)同、替代、擴(kuò)展。輔助和協(xié)同已經(jīng)實(shí)現(xiàn)，人的主體地位就要擺在更顯眼的位置了。