AI模型新革命來(lái)了?大腦記憶是旋轉(zhuǎn)的?過(guò)去未來(lái)竟是「正交」空間
每次醒來(lái)的時(shí)候,人類(lèi)和其他動(dòng)物都要整理過(guò)去的記憶,并準(zhǔn)備好迎接新的記憶。
我們必須吸收關(guān)于我們周?chē)澜绲男碌母泄傩畔?,同時(shí)保留對(duì)早期觀察或事件的短期記憶。我們了解周?chē)h(huán)境,學(xué)習(xí),行動(dòng)和思考的能力都取決于感知和記憶之間持續(xù)不斷的交互。
但是要做到這一點(diǎn),大腦必須使過(guò)去和記憶保持分離,否則新傳入的數(shù)據(jù)流可能會(huì)干擾先前的記憶,并導(dǎo)致我們覆蓋或誤解重要的上下文信息。
大量研究表明,大腦不會(huì)將短期記憶功能整齊地分配到諸如前額葉皮層等更高的認(rèn)知區(qū)域,表示經(jīng)歷的感覺(jué)區(qū)域和其他下皮質(zhì)中心也可以編碼和存儲(chǔ)記憶。
但是,這些回憶不能干擾我們對(duì)當(dāng)下的看法,或者被新的經(jīng)歷覆蓋掉。
最近在《自然神經(jīng)科學(xué)》上發(fā)表的一篇論文「可能」最終解釋了大腦的保護(hù)性緩沖液是如何工作的。
研究人員認(rèn)為,為了在不相互干擾的情況下同時(shí)表示當(dāng)前和過(guò)去的刺激,大腦本質(zhì)上是「旋轉(zhuǎn)」感覺(jué)信息以將其編碼為記憶。
如果用數(shù)學(xué)方法解釋?zhuān)瑥闹丿B的神經(jīng)活動(dòng)中得出兩個(gè)正交的表示,那么他們就不會(huì)互相干擾。這個(gè)機(jī)制有助于解決有關(guān)記憶處理的爭(zhēng)論。
為了弄清楚大腦如何防止新信息和短期記憶模糊在一起,普林斯頓大學(xué)的神經(jīng)科學(xué)家Timothy Buschman和他實(shí)驗(yàn)室的研究生Alexandra Libby決定專(zhuān)注于小鼠的聽(tīng)覺(jué)感知。他們讓小鼠們一遍又一遍地聽(tīng)四個(gè)和弦的音序,這就是Buschman所說(shuō)的「史上最爛的音樂(lè)會(huì)」。
這場(chǎng)「音樂(lè)會(huì)」讓小鼠可以在某些和弦之間建立關(guān)聯(lián),因此當(dāng)他們聽(tīng)到一個(gè)初始和弦與另一個(gè)和弦時(shí),他們可以預(yù)測(cè)會(huì)發(fā)出什么樣的聲音。
同時(shí),研究人員還訓(xùn)練了機(jī)器學(xué)習(xí)分類(lèi)器,以分析在這些聽(tīng)覺(jué)過(guò)程中從嚙齒動(dòng)物的聽(tīng)覺(jué)皮層記錄的神經(jīng)活動(dòng),用來(lái)確定每個(gè)神經(jīng)元如何集體代表序列中的每個(gè)刺激。
Buschman和Libby觀察了這些模式在老鼠建立聯(lián)系時(shí)是如何變化的,他們發(fā)現(xiàn),隨著時(shí)間的流逝,相關(guān)和弦的神經(jīng)表示開(kāi)始逐漸接近。
但是他們還觀察到,新的感覺(jué)輸入(例如不熟悉的和弦序列)可能會(huì)通過(guò)覆蓋其先前輸入的表示來(lái)干擾小鼠對(duì)所聽(tīng)到聲音的表示。
神經(jīng)元遞歸地改變其對(duì)過(guò)去刺激的編碼,以匹配與后來(lái)刺激相關(guān)的動(dòng)物,即使那是錯(cuò)誤的。研究人員想確定大腦如何糾正這種干擾來(lái)保持準(zhǔn)確的記憶。
因此,他們訓(xùn)練了另一個(gè)分類(lèi)器,以識(shí)別和區(qū)分和弦記憶的神經(jīng)模式。例如,一個(gè)未知的和已知的和弦對(duì)神經(jīng)元的發(fā)射方式影響。
分類(lèi)器的確從聽(tīng)過(guò)的和弦記憶中找到了完整的活動(dòng)模式,而不是迭代地寫(xiě)出錯(cuò)誤的「更正」來(lái)維持較早的關(guān)聯(lián),但是這些記憶的編碼看起來(lái)與感覺(jué)的表達(dá)方式大不相同。
記憶表示是按照神經(jīng)科學(xué)家描述為感覺(jué)表示的「正交」維度來(lái)組織的,所有這些都在相同的神經(jīng)元群體內(nèi)。
Buschman做了一個(gè)比喻,想象你在一張紙上做手寫(xiě)筆記,您將紙張旋轉(zhuǎn)90度并開(kāi)始在頁(yè)邊空白處書(shū)寫(xiě),這基本上就是大腦在做的事情。它獲得了第一個(gè)感覺(jué)輸入,然后將其寫(xiě)在紙上,然后將其旋轉(zhuǎn)90度,以便可以在不干擾或字面覆蓋的情況下以新的感覺(jué)輸入進(jìn)行書(shū)寫(xiě)。
換句話說(shuō),感覺(jué)數(shù)據(jù)通過(guò)神經(jīng)元放電模式的改變而轉(zhuǎn)變?yōu)橛洃洝?/p>
以前已經(jīng)見(jiàn)過(guò)使用正交編碼來(lái)分離和保護(hù)大腦中的信息。例如,當(dāng)猴子準(zhǔn)備運(yùn)動(dòng)時(shí),運(yùn)動(dòng)皮層中的神經(jīng)活動(dòng)代表了潛在的運(yùn)動(dòng),但正交地這樣做是為了避免干擾將實(shí)際命令傳遞給肌肉的信號(hào)。
盡管如此,通常還不清楚神經(jīng)活動(dòng)如何以這種方式轉(zhuǎn)化。布希曼和利比想回答這個(gè)問(wèn)題,以了解他們?cè)谛∈蟮穆?tīng)覺(jué)皮層中觀察到了什么。利比說(shuō):“當(dāng)我剛開(kāi)始在實(shí)驗(yàn)室工作時(shí),我很難想象這樣的事情會(huì)隨著神經(jīng)激發(fā)活動(dòng)而發(fā)生。” 她想“打開(kāi)神經(jīng)網(wǎng)絡(luò)為創(chuàng)建這種正交性所做的工作的黑匣子”。
令研究人員驚訝的是,穩(wěn)定和轉(zhuǎn)換神經(jīng)元的這種結(jié)合足以旋轉(zhuǎn)感覺(jué)信息并將其轉(zhuǎn)化為記憶。
實(shí)際上,他和利比(Libby)使用計(jì)算建模方法來(lái)證明,這種機(jī)制是構(gòu)建感覺(jué)和記憶的正交表示的最有效方法:與其他方法相比,它需要更少的神經(jīng)元和更少的能量。
Buschman和Libby的發(fā)現(xiàn)推動(dòng)了神經(jīng)科學(xué)的新興趨勢(shì):即使是在較低的感覺(jué)區(qū)域,神經(jīng)元的群體也比以前認(rèn)為的參與了更豐富的動(dòng)態(tài)編碼。薩塞克斯大學(xué)的神經(jīng)科學(xué)家Miguel Maravall表示,食物鏈中較低的皮質(zhì)部分也具有非常有趣的動(dòng)態(tài),也許直到現(xiàn)在我們還沒(méi)有真正欣賞到它。
這項(xiàng)工作可能有助于調(diào)和正在進(jìn)行的辯論的兩個(gè)方面,即關(guān)于短期記憶是通過(guò)恒定的,持久的表示還是通過(guò)隨時(shí)間變化的動(dòng)態(tài)神經(jīng)代碼來(lái)保持。Buschman認(rèn)為他們的研究成果表明他們基本上證明了這種想法是對(duì)的,正交旋轉(zhuǎn)有助于防止干擾。
Buschman和Libby的研究可能與感官表征之外的背景相關(guān)。他們和其他研究人員希望在其他過(guò)程中尋找這種正交旋轉(zhuǎn)的機(jī)制:大腦如何立即跟蹤多個(gè)想法或目標(biāo);在處理干擾的同時(shí)如何完成任務(wù);它如何代表內(nèi)部狀態(tài);如何控制認(rèn)知,包括注意力過(guò)程。
Libby認(rèn)為他們的結(jié)果對(duì)人工智能研究的意義重大,特別是對(duì)必須執(zhí)行多任務(wù)的AI網(wǎng)絡(luò)有用的體系結(jié)構(gòu)的設(shè)計(jì)。