[[323595]]

機(jī)器學(xué)習(xí)和深度學(xué)習(xí)算法的起源，是連接大腦中神經(jīng)元的突觸強(qiáng)度的學(xué)習(xí)機(jī)制，它越來越多地影響著當(dāng)代生活的幾乎所有方面。

半個世紀(jì)以前，研究人員試圖模仿這些大腦的功能，將神經(jīng)科學(xué)和人工智能聯(lián)系起來。但是，從那時起，實(shí)驗(yàn)神經(jīng)科學(xué)并未直接推動機(jī)器學(xué)習(xí)領(lǐng)域的發(fā)展，兩個學(xué)科一直在相互獨(dú)立并行發(fā)展。

在今天發(fā)表在《科學(xué)報告》的一篇文章中，研究人員稱，他們已經(jīng)重建了實(shí)驗(yàn)神經(jīng)科學(xué)和機(jī)器學(xué)習(xí)之間中斷70年的橋梁。

[[323596]]

我們大腦的高級學(xué)習(xí)機(jī)制可能會導(dǎo)致更高效的AI算法。圖片來源：巴伊蘭大學(xué)Ido Kanter教授

該研究的主要作者，巴伊蘭大學(xué)物理系和多學(xué)科大腦研究中心的Ido Kanter教授說：“據(jù)信，大腦中的學(xué)習(xí)步驟通?？沙掷m(xù)數(shù)十分鐘甚至更長，而在一臺計算機(jī)中，則可持續(xù)一納秒，或者說是一百萬次快一百萬次。”

研究人員著手證明兩個假設(shè):一，我們總認(rèn)為大腦學(xué)習(xí)非常緩慢，這可能是錯誤的；二，大腦可能有加速學(xué)習(xí)機(jī)制。

出乎意料的是，兩個假設(shè)都被證明是正確的。盡管大腦相對較慢，但其計算能力優(yōu)于典型的最新人工智能算法。

[[323597]]

通過在神經(jīng)元培養(yǎng)上進(jìn)行新型人工神經(jīng)網(wǎng)絡(luò)實(shí)驗(yàn)，研究人員首先證明了增加的訓(xùn)練頻率會加速神經(jīng)元適應(yīng)過程。

這項工作的主要貢獻(xiàn)者Shira Sardi表示：“每秒觀察10次相同圖像的學(xué)習(xí)效果與每月觀察1000次相同圖像的效果一樣。”

另一位貢獻(xiàn)者Roni Vardi博士補(bǔ)充說：“快速重復(fù)相同的圖像可將我們的大腦適應(yīng)能力提高到幾秒鐘而不是幾十分鐘。大腦的學(xué)習(xí)甚至可能更快，但這已經(jīng)超出了我們目前的實(shí)驗(yàn)限制。” 

[[323598]]

其次，研究人員展示了一種受大腦啟發(fā)的新學(xué)習(xí)機(jī)制。這種機(jī)制是在人工神經(jīng)網(wǎng)絡(luò)上實(shí)現(xiàn)的，其中對于連續(xù)學(xué)習(xí)步驟，局部學(xué)習(xí)步長會增加

在手寫數(shù)字的簡單數(shù)據(jù)集MNIST上進(jìn)行了測試，其成功率大大超過了常用的機(jī)器學(xué)習(xí)算法，例如手寫數(shù)字識別，尤其是在提供較小型的數(shù)據(jù)集進(jìn)行訓(xùn)練的情況下。

實(shí)驗(yàn)神經(jīng)科學(xué)與機(jī)器學(xué)習(xí)之間連接的重建，有望在有限的訓(xùn)練示例下促進(jìn)人工智能（尤其是超快速決策）的發(fā)展，對于人類決策，機(jī)器人控制和網(wǎng)絡(luò)優(yōu)化的許多情況同樣適用。

下面，開始論文干貨。

論文介紹

突觸強(qiáng)度的改變通常持續(xù)數(shù)十分鐘，而神經(jīng)元（節(jié)點(diǎn)）的時鐘速度范圍約為一秒。盡管大腦相對較慢，但其計算能力優(yōu)于典型的最新人工智能算法。遵循這種速度/能力悖論，我們通過實(shí)驗(yàn)得出基于小型數(shù)據(jù)集的加速學(xué)習(xí)機(jī)制，這些機(jī)制在千兆赫處理器上的利用有望導(dǎo)致超快決策。

與現(xiàn)代計算機(jī)不同，定義明確的全局時鐘不能控制大腦的運(yùn)行過程。相反，它們是相對事件時間（例如，刺激和誘發(fā)的尖峰）的函數(shù)。根據(jù)神經(jīng)元計算，使用經(jīng)過分支的樹突樹的衰減輸入求和，每個神經(jīng)元將異步輸入電信號求和，并在達(dá)到閾值時生成短電脈沖（峰值）。每個神經(jīng)元的突觸強(qiáng)度會根據(jù)來自其他突觸的相對輸入時間進(jìn)行緩慢調(diào)整。如果從突觸中感應(yīng)出信號而沒有產(chǎn)生尖峰，則基于與來自同一神經(jīng)元上其他突觸的相鄰尖峰的相對時序來修改其關(guān)聯(lián)強(qiáng)度。

最近有實(shí)驗(yàn)證明，每個神經(jīng)元都起著獨(dú)立閾值單元的作用。信號通過樹突樹到達(dá)后，每個閾值單元都會被激活。另外，基于樹突信號到達(dá)定時實(shí)驗(yàn)上觀察到的一種新型自適應(yīng)規(guī)則，這類似于當(dāng)前歸因于突觸（連接）的慢速自適應(yīng)機(jī)制。這種樹突適應(yīng)發(fā)生在更快的時間尺度上：大約需要五分鐘，而突觸修飾則需要數(shù)十分鐘或更長時間。

研究過程

1.實(shí)驗(yàn)結(jié)果表明，適應(yīng)率隨訓(xùn)練頻率的增加而增加。

在這項研究中，研究人員將神經(jīng)元培養(yǎng)種植在添加了突觸阻滯劑的多電極陣列上，這種突觸阻滯劑可通過其樹突細(xì)胞在細(xì)胞外刺激這個被膜片鉗夾住的神經(jīng)元。

通過神經(jīng)元樹突在細(xì)胞內(nèi)刺激被研究的神經(jīng)元，并為每種刺激路徑生成不同的尖峰波形。更詳盡解釋請參閱論文原文“材料和方法”部分。

適應(yīng)過程包括一個訓(xùn)練集：50對刺激。通過進(jìn)一步測試神經(jīng)元刺激的響應(yīng)時間和強(qiáng)度是否正常，我們量化了神經(jīng)元適應(yīng)的效果，確定下來了應(yīng)該以怎樣的細(xì)胞外刺激幅度來進(jìn)行研究。

神經(jīng)元的正常延遲時間：1-4毫秒

為了量化初始反應(yīng)，降低細(xì)胞外刺激幅度，直到未觀察到可靠的誘發(fā)峰。

2.加速基于生物學(xué)啟發(fā)機(jī)制的有監(jiān)督的可實(shí)現(xiàn)學(xué)習(xí)規(guī)則。

與生物學(xué)機(jī)制的暗示相符合，隨著訓(xùn)練頻率的增加，適應(yīng)過程將大大加速，

這可能意味著隨時間變化的遞減適應(yīng)步長（等式  1）：

當(dāng)前的適應(yīng)步驟𝜂𝑡 + 1𝑎 d 𝑎𝑝，等于權(quán)重遞減的前一個， 𝑡代表離散時間步長，𝜏0是一個常數(shù)，1 /τ代表訓(xùn)練頻率，而Δ是一個常數(shù)，代表當(dāng)前訓(xùn)練步驟的增量效果。

使用可實(shí)現(xiàn)規(guī)則和二進(jìn)制分類的有監(jiān)督在線學(xué)習(xí)，研究了兩種情況：突觸適應(yīng)和樹突適應(yīng)：

我們首先檢查了時間依賴的適應(yīng)步驟（等式 1）對加速生物學(xué)學(xué)習(xí)過程的影響。Teacher給student提供了異步輸入和二進(jìn)制輸出關(guān)系，它們都具有最簡單的分類器感知器的相同架構(gòu)，輸出節(jié)點(diǎn)由泄漏的集成并發(fā)射神經(jīng)元。

結(jié)果清楚地表明，泛化誤差，ε g的實(shí)驗(yàn)啟發(fā)式的時間相關(guān)η（等式 1）基本上勝過固定η情景（上圖）。這種加速的學(xué)習(xí)源于以下事實(shí)：突觸學(xué)習(xí)中的權(quán)重收斂到極限，權(quán)重消失或超過閾值。

3. 使用在神經(jīng)網(wǎng)絡(luò)上測試的MNIST數(shù)據(jù)庫，在無法實(shí)現(xiàn)的規(guī)則的有監(jiān)督學(xué)習(xí)中檢查了實(shí)驗(yàn)啟發(fā)式的時間相關(guān)學(xué)習(xí)步驟機(jī)制。

這個數(shù)據(jù)庫包含大量手寫數(shù)字示例（如下圖），通常用作原型問題，用于量化針對各種圖像處理任務(wù)的機(jī)器學(xué)習(xí)算法的泛化性能。

在這項研究中，我們使用MNIST數(shù)據(jù)庫的一小部分，沒有任何數(shù)據(jù)擴(kuò)展方法。常用的訓(xùn)練網(wǎng)絡(luò)由784個輸入（代表一個數(shù)字28×28像素），一個隱藏層（本研究中為30個單位）和十個代表標(biāo)簽的輸出（如上圖）組成。常用的學(xué)習(xí)方法是反向傳播策略：

其中將步長上的權(quán)重朝著成本函數(shù)的梯度負(fù)號C的步長η進(jìn)行修改。一種改進(jìn)的方法是動量策略和權(quán)重的正則化（上圖為等式2）：

動量μ和正則化α在區(qū)域[0，1]中是常數(shù)，并且 𝜂0η0是一個常數(shù)。

我們優(yōu)化了動量策略（等式2）的績效 （𝜇 ，𝛼，𝜂0）（μ，α，η0） 使用交叉熵代價函數(shù)（材料和方法）對有限的訓(xùn)練數(shù)據(jù)集進(jìn)行了比較，并將其性能與以下兩種由時間相關(guān)的η組成的實(shí)驗(yàn)啟發(fā)式學(xué)習(xí)機(jī)制進(jìn)行了比較。

論文中對加速度還有更詳細(xì)的公式給出，篇幅所限，本文就不做更多介紹了。

結(jié)果：在線訓(xùn)練集由300個隨機(jī)選擇的示例組成：每個標(biāo)簽以隨機(jī)順序出現(xiàn)30次。經(jīng)過300個學(xué)習(xí)步驟，加速方法的性能優(yōu)于動量法超過25％，測試精度分別從約0.43提高到0.54。

對于給定數(shù)量的網(wǎng)絡(luò)更新，結(jié)果表明，較小的示例集可產(chǎn)生更多信息。為了最大程度地提高在線場景（尤其是小型數(shù)據(jù)集）的測試準(zhǔn)確性，平衡的示例集和平衡的時間訓(xùn)練順序是重要的組成部分。

論文結(jié)論

基于連貫的連續(xù)梯度增加的η，針對小組的訓(xùn)練示例，腦啟發(fā)式的加速學(xué)習(xí)機(jī)制優(yōu)于現(xiàn)有的通用ML策略。在各種成本函數(shù)上運(yùn)行（例如平方成本函數(shù)）均會出現(xiàn)一致的結(jié)果，但是性能會相對下降（見下圖）。

因?yàn)榻o定數(shù)據(jù)集的最大性能取決于所選的加速方法（見下圖），在培訓(xùn)過程中調(diào)整學(xué)習(xí)方法可以提高績效。

但是，除了可能的用于更新η的高級非線性函數(shù)外，在網(wǎng)絡(luò)更新次數(shù)高的情況下，加速方法的最終調(diào)度和使性能最大化的受訓(xùn)實(shí)例的排序也值得進(jìn)一步研究。

實(shí)驗(yàn)神經(jīng)科學(xué)和ML的橋梁有望進(jìn)一步推進(jìn)利用有限的數(shù)據(jù)庫進(jìn)行決策，這是許多方面的現(xiàn)實(shí)：人類活動、機(jī)器人控制和網(wǎng)絡(luò)優(yōu)化。

本文研究機(jī)構(gòu)

巴伊蘭大學(xué)縮寫B(tài)IU，建立于1955年，位于以色列拉馬特甘，是一所公立大學(xué)，也是目前以色列規(guī)模第二大的學(xué)術(shù)研究機(jī)構(gòu)。