[[286412]]

Facebook AI研究院的首席AI科學(xué)家Yann LeCun認(rèn)為，AR(增強(qiáng)現(xiàn)實(shí))眼鏡有望成為機(jī)器學(xué)習(xí)從業(yè)者的理想挑戰(zhàn)目標(biāo)——一個(gè)殺手級(jí)應(yīng)用，因?yàn)樗婕傲硕鄠€(gè)未解決的問(wèn)題。

完美的AR眼鏡需要把對(duì)話(huà)式AI、計(jì)算機(jī)視覺(jué)和其他復(fù)雜系統(tǒng)結(jié)合起來(lái)，這些系統(tǒng)必須能夠像眼鏡那樣小巧，便于操作。低功耗AI不可或缺，這將確保合理的電池壽命，從而使得用戶(hù)擁有較長(zhǎng)的可以佩戴和使用眼鏡的時(shí)間。

與蘋(píng)果，Niantic和高通這些公司一樣，今年秋天，F(xiàn)acebook確認(rèn)了到2025年制造增強(qiáng)現(xiàn)實(shí)眼鏡的計(jì)劃。

“對(duì)于硬件而言，這是一個(gè)巨大的挑戰(zhàn)，因?yàn)槟愕难坨R可能帶有可在可變延遲下實(shí)時(shí)跟蹤視覺(jué)的攝像頭，因此在移動(dòng)時(shí)……這需要大量的計(jì)算。你希望能夠通過(guò)語(yǔ)音與助手互動(dòng)，以便助手一直在聽(tīng)你的聲音，并且也會(huì)與你說(shuō)話(huà)。您想要手勢(shì)[識(shí)別]，以便助手[可以執(zhí)行]實(shí)時(shí)的手部追蹤，”他說(shuō)。

LeCun說(shuō)，實(shí)時(shí)手部跟蹤已經(jīng)可以工作，不過(guò)“我們只是不知道如何以小巧的外形來(lái)做到這一點(diǎn)，同時(shí)功耗與AR眼鏡適配。”

“就更大的型號(hào)來(lái)說(shuō)，功耗、性能和外觀，這些確實(shí)都超出了我們現(xiàn)在的能力范圍，因此必須使用人們從未想到過(guò)的技巧，神經(jīng)網(wǎng)絡(luò)就是其中之一。”他說(shuō)。

變得更有效率

LeCun這個(gè)月在全球最大的機(jī)器學(xué)習(xí)研究會(huì)議NeurIPS上的“EMC2節(jié)能機(jī)器學(xué)習(xí)”研討會(huì)上發(fā)表了講話(huà)。他談到了硬件局限性如何限制研究人員的想象，并表示好的想法有時(shí)候會(huì)在硬件太慢、軟件不易獲得或?qū)嶒?yàn)難以重現(xiàn)時(shí)被拋棄。

他還談到了特定的深度學(xué)習(xí)方法，例如差分聯(lián)想記憶和卷積神經(jīng)網(wǎng)絡(luò)，它們構(gòu)成了挑戰(zhàn)，可能需要新的硬件。差分關(guān)聯(lián)存儲(chǔ)器(軟RAM)是一種計(jì)算方法，目前已在自然語(yǔ)言處理(NLP)中廣泛使用，在計(jì)算機(jī)視覺(jué)應(yīng)用程序中也越來(lái)越常見(jiàn)。

“未來(lái)幾年，深度學(xué)習(xí)和機(jī)器學(xué)習(xí)架構(gòu)將發(fā)生很大變化。你已經(jīng)可以看到很多這樣的情況了?，F(xiàn)在有了NLP，城里唯一的游戲基本上就是變換網(wǎng)絡(luò)(Transformer networks)。”他說(shuō)。

他補(bǔ)充說(shuō)，更有效的批處理和自我監(jiān)督學(xué)習(xí)技術(shù)，可以幫助AI像人類(lèi)和動(dòng)物一樣學(xué)習(xí)更多，也可能有助于提高AI的能效。

在LeCun演講之后，麻省理工學(xué)院的電氣工程與計(jì)算機(jī)科學(xué)副教授Vivienne Sze談到了需要一種系統(tǒng)的方法來(lái)評(píng)估深度神經(jīng)網(wǎng)絡(luò)的需求。SlidesLive報(bào)道稱(chēng)，在本周早些時(shí)候，Sze關(guān)于高效深度神經(jīng)網(wǎng)絡(luò)的演講是這次NeurIPS視頻中備受關(guān)注的一個(gè)，獲得了相當(dāng)多的點(diǎn)擊率。

Sze說(shuō)：“更大更遠(yuǎn)的存儲(chǔ)器往往會(huì)消耗更多的電量”， 并指出“所有權(quán)重都不相等。” Sze還演示了Accelergy，這是MIT開(kāi)發(fā)的一種能夠估算硬件能耗的框架。

除講座外，研討會(huì)的海報(bào)發(fā)布會(huì)還展示了值得注意的低功耗AI解決方案。其中包括DistilBERT，這是谷歌BERT(Bidirectional Encoder Representations from Transformers)的輕便版本，后者是Hugging Face團(tuán)隊(duì)特別為在邊緣設(shè)備上快速部署而制造的;以及SRI International和Latent AI對(duì)深度神經(jīng)網(wǎng)絡(luò)的量化比較。

許多知名人士呼吁機(jī)器學(xué)習(xí)社區(qū)應(yīng)對(duì)氣候變化，并表示這種關(guān)注可以推動(dòng)創(chuàng)新。上周在NeurIPS上的一次小組討論中，另一位深度學(xué)習(xí)先驅(qū)Yoshua Bengio呼吁研究人員更重視影響氣候變化的機(jī)器學(xué)習(xí)上，并減少他們所獲得的出版物數(shù)量。

在接受VentureBeat采訪(fǎng)時(shí)，谷歌AI負(fù)責(zé)人Jeff Dean說(shuō)，他支持創(chuàng)建“每瓦計(jì)算標(biāo)準(zhǔn)”的想法，以鼓勵(lì)使用更高效的硬件。

節(jié)約能源，保護(hù)地球

除了在NeurIPS上進(jìn)行解釋深度學(xué)習(xí)算法的理論工作外，會(huì)議上的許多工作都強(qiáng)調(diào)了將AI對(duì)氣候變化的貢獻(xiàn)考慮在內(nèi)的重要性，其中就有一篇名為“能源使用報(bào)告：算法責(zé)任中的環(huán)境意識(shí)”的論文。

該論文寫(xiě)道：“必須對(duì)算法的碳足跡進(jìn)行測(cè)量并透明地報(bào)告，以便計(jì)算機(jī)科學(xué)家可以在環(huán)境可持續(xù)性方面發(fā)揮誠(chéng)實(shí)和積極的作用。”

根據(jù)這一說(shuō)法，會(huì)議的組織者早先建議，2020年向NeurIPS提交工作的AI研究人員可能需要分享他們提交供審議的工作的碳足跡。

美國(guó)研究機(jī)構(gòu)AI Now Institute最近發(fā)布的2019年報(bào)告，就將測(cè)量算法的碳足跡納入了十幾項(xiàng)建議當(dāng)中去，稱(chēng)這些建議可以帶來(lái)一個(gè)更公正的社會(huì)。

在其他與節(jié)能有關(guān)的AI新聞中，Element AI和Mila Quebec AI研究所的機(jī)器學(xué)習(xí)從業(yè)人員上周推出了一種新工具，該工具可使用GPU訓(xùn)練AI模型來(lái)計(jì)算碳排放量，從而根據(jù)使用時(shí)間長(zhǎng)短和云區(qū)域等因素預(yù)測(cè)能源使用情況。

朝著更高效的機(jī)器學(xué)習(xí)的方向發(fā)展，可能會(huì)帶來(lái)改變地球的創(chuàng)新。但是，大的想法和挑戰(zhàn)需要一個(gè)焦點(diǎn)——理論要讓人感覺(jué)更實(shí)際，需要解決實(shí)際的特定問(wèn)題。LeCun認(rèn)為，AR眼鏡可能是機(jī)器學(xué)習(xí)從業(yè)人員的理想用例。

本文轉(zhuǎn)自雷鋒網(wǎng)，如需轉(zhuǎn)載請(qǐng)至雷鋒網(wǎng)官網(wǎng)申請(qǐng)授權(quán)。