2020年是基于深度學(xué)習(xí)的自然語言處理(NLP)研究的繁忙年份。最大的噪音的英文由迄今為止發(fā)布的最大的自然語言處理(NLP)變壓器GPAT-3產(chǎn)生的。OpenAI的GPAT-3(175B參數(shù))比Microsoft Research的Turing-NLG在17B參數(shù)上的先前記錄高出約10倍。

NLP的當(dāng)代發(fā)展需要比以往更少的培訓(xùn)數(shù)據(jù)。除了將這些深度學(xué)習(xí)模型與常規(guī)的基于規(guī)則的算法一起部署以進(jìn)行更準(zhǔn)確的文本分析，情感分析，對話式AI以及許多其他用例之外，這些其他案例可以解釋該技術(shù)的強(qiáng)大優(yōu)勢。

為了簡化NLP的復(fù)雜性，Analytics Insight提出了2021年十大自然語言處理趨勢

[[382907]]

1.監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)協(xié)作

監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)的應(yīng)用為自然語言處理提供了巨大的支持。例如，文本分析利用無監(jiān)督和有監(jiān)督的學(xué)習(xí)來理解文檔及其詞類中的技術(shù)術(shù)語，而無監(jiān)督學(xué)習(xí)可以確定它們之間的共生關(guān)系。

2.通過 強(qiáng)化學(xué)習(xí)訓(xùn)練NLP模型

盡管強(qiáng)化強(qiáng)化學(xué)習(xí)在樣本效率，訓(xùn)練時間和總體優(yōu)秀實(shí)踐方面已取得了很大的進(jìn)步，但從頭開始訓(xùn)練RL模型仍然相對緩慢且連續(xù)。因此，數(shù)據(jù)專家將希望首先訓(xùn)練基于NLP的監(jiān)督模型，然后再使用強(qiáng)化學(xué)習(xí)進(jìn)行進(jìn)行微調(diào)，而不是從頭開始訓(xùn)練模型。

3.準(zhǔn)確的深度學(xué)習(xí)分類

深度回歸在自然語言處理中的應(yīng)用是多方面的。遞歸神經(jīng)網(wǎng)絡(luò)(RNN)等技術(shù)可以通過使用解析為數(shù)據(jù)科學(xué)家提供準(zhǔn)確的文本分類。因此，在某些文本分析平臺中，RNN將成為文檔分類和實(shí)體標(biāo)記的流行趨勢。

4.市場情報監(jiān)測

NLP在將跟蹤狀語從句：監(jiān)視市場情報報告擴(kuò)展中提取關(guān)鍵信息，以為企業(yè)提取智能信息，以制定未來的戰(zhàn)略。2021年及以后，NLP將在眾多業(yè)務(wù)領(lǐng)域中找到其應(yīng)用。當(dāng)前，該技術(shù)被廣泛用于金融營銷。它分享了對市場情緒，招標(biāo)延遲和收盤的徹底見解，并從大型存儲庫中提取了信息。

5. 微調(diào)模型將是無縫的

轉(zhuǎn)移學(xué)習(xí)將為預(yù)先訓(xùn)練的模型創(chuàng)造條件，從而創(chuàng)建用于情感分析，文本分類等的應(yīng)用程序。在醫(yī)學(xué)用例中，轉(zhuǎn)移學(xué)習(xí)將使諸如患者滿意度之類的情況得以準(zhǔn)確衡量。這同樣可以應(yīng)用于任何服務(wù)行業(yè)，其中滿意將是代表消費(fèi)者是否滿意的可能的分?jǐn)?shù)。

6.定制產(chǎn)品推薦

電子零售商將使用NLP和機(jī)器學(xué)習(xí)技術(shù)來提高客戶參與度，分析其瀏覽模式和購物趨勢。其他情報洞察力包括購買行為，自動生成的產(chǎn)品說明等。

7.智能語義搜索

語義搜索的需求是預(yù)計將在2021年影響NLP的另一趨勢。這種搜索將涉及自然語言處理和自然語言理解，這需要對文本中包含的中心思想有詳盡的理解。

8.智能認(rèn)知交流

在深度學(xué)習(xí)，無監(jiān)督和有監(jiān)督的機(jī)器學(xué)習(xí)的啟發(fā)下，大量自然語言技術(shù)將繼續(xù)塑造認(rèn)知計算的通信能力。

9.聊天機(jī)器人和虛擬助手的增長

在自然語言處理(NLP)的發(fā)展推動下，聊天機(jī)器人和虛擬助手市場的增長將非常強(qiáng)勁。該聊天機(jī)器人市場，這是價值$ 2.6十億在2019年，并預(yù)計到2024年將達(dá)到美國$ 9.4十億。

10. 社交媒體的情感分析

自然語言處理將是理解和分析受眾對在社交媒體平臺上發(fā)布的品牌傳播的反應(yīng)的出色工具。也稱為意見挖掘，它有助于分析通過社交媒體帖子與公司進(jìn)行評論/互動的消費(fèi)者的態(tài)度和情緒狀態(tài)(高興，悲傷，憤怒，惱火等)。

NLP的務(wù)實(shí)使用使擁有大量非結(jié)構(gòu)化文本或語音數(shù)據(jù)的組織能夠克服黑暗數(shù)據(jù)問題并有效地挖掘其以獲取見識。但是，關(guān)于NLP真正的是它所涉及的AI的多個維度，暗示了該技術(shù)在未來幾年內(nèi)將產(chǎn)生的整體動態(tài)影響。