想象一下,擁有一個不僅能回答問題,還能瀏覽網(wǎng)頁、解決復(fù)雜數(shù)學(xué)問題、編寫代碼,甚至能推理圖像和基于文本的游戲的數(shù)字助手。聽起來好得難以置信?好吧,準備好迎接人工智能的未來,因為隨著LUMOS的引入,它變得更加易于獲取和透明。

在一項突破性的發(fā)展中,來自艾倫人工智能研究所、UCLA和華盛頓大學(xué)的研究人員推出了LUMOS,這是一個開源框架,有望徹底改變我們與語言代理的交互方式。與現(xiàn)有的閉源解決方案不同,LUMOS提供了前所未有的可負擔(dān)性、透明度和可重復(fù)性,使其成為人工智能世界的一個游戲規(guī)則改變者。

但LUMOS到底是什么,為什么它在人工智能社區(qū)引起如此轟動?系好安全帶,因為我們將深入探討這項卓越創(chuàng)新的細節(jié),探索它如何工作、它能做什么,以及為什么它比你想象的更重要。

當(dāng)前的語言代理通常依賴于GPT-4或ChatGPT等大型閉源語言模型作為核心組件。雖然功能強大,但這些模型價格昂貴,需要更多的透明度,并提供有限的可重復(fù)性和可控性。

LUMOS框架采用了不同的方法,利用開源大型語言模型(LLMs)作為基礎(chǔ)模型。它采用了一個統(tǒng)一和模塊化的架構(gòu),由三個關(guān)鍵組件組成:規(guī)劃模塊、基礎(chǔ)模塊和執(zhí)行模塊。

規(guī)劃模塊將復(fù)雜任務(wù)分解為一系列用自然語言表達的高級子目標。例如,對于"她手中的設(shè)備來自哪個國家?"這樣的多模態(tài)問題,規(guī)劃模塊可能會生成兩個子目標:"識別設(shè)備品牌"和"回答設(shè)備品牌的國家"。

然后,基礎(chǔ)模塊將這些高級子目標轉(zhuǎn)換為可由執(zhí)行模塊中的各種工具執(zhí)行的可執(zhí)行低級操作。例如,第一個子目標可能會被轉(zhuǎn)化為"VQA(, 品牌是什么..?)"這樣的操作,以使用視覺問答工具從圖像中識別設(shè)備品牌。

執(zhí)行模塊包含一系列現(xiàn)成的工具,包括API、神經(jīng)模型和虛擬模擬器,可以執(zhí)行基礎(chǔ)化的操作。這些執(zhí)行操作的結(jié)果隨后被反饋到規(guī)劃和基礎(chǔ)模塊中,實現(xiàn)迭代和自適應(yīng)的代理行為。

LUMOS的一個關(guān)鍵優(yōu)勢是其模塊化設(shè)計,可以輕松升級并廣泛適用于各種交互任務(wù)。通過分離規(guī)劃、基礎(chǔ)和執(zhí)行組件,研究人員可以改進或替換單個模塊而不影響其他模塊。

為了訓(xùn)練LUMOS,研究人員整理了一個大規(guī)模、高質(zhì)量的數(shù)據(jù)集,包含超過56,000個注釋,這些注釋源自各種復(fù)雜交互任務(wù)的多樣化真實推理理由,包括問答、數(shù)學(xué)、編碼、網(wǎng)頁瀏覽和多模態(tài)推理。這些注釋是通過使用GPT-4和其他先進的語言模型將現(xiàn)有基準轉(zhuǎn)換為與LUMOS架構(gòu)兼容的統(tǒng)一格式獲得的。由此產(chǎn)生的數(shù)據(jù)集是最大的開源代理微調(diào)資源之一,使較小的語言模型能夠有效地被訓(xùn)練為語言代理。

在跨九個數(shù)據(jù)集的評估中,LUMOS展現(xiàn)了幾個關(guān)鍵優(yōu)勢。它在每種任務(wù)類型的保留數(shù)據(jù)集上超越了多個更大的開源代理,在某些情況下甚至超越了GPT代理在問答和網(wǎng)頁任務(wù)上的表現(xiàn)。LUMOS還優(yōu)于其他訓(xùn)練方法(如思維鏈和非模塊化集成訓(xùn)練)產(chǎn)生的代理。值得注意的是,LUMOS展示了令人印象深刻的泛化能力,在涉及新環(huán)境和操作的未見任務(wù)上顯著優(yōu)于30B規(guī)模(WizardLM-30B和Vicuna-v1.3-33B)和特定領(lǐng)域的代理。

憑借其開源性質(zhì)、競爭性表現(xiàn)和強大的泛化能力,LUMOS代表了在開發(fā)用于復(fù)雜交互任務(wù)的可負擔(dān)、透明和可重復(fù)的語言代理方面的重大進步。

譯自(有刪改)：https://www.marktechpost.com/2024/04/01/lumos-an-open-source-generalizable-language-agent-training-framework/

本文轉(zhuǎn)載自公眾號AIGC最前線   

原文鏈接：??https://mp.weixin.qq.com/s/Hv6sECtrkTQvxS5q9XdXCw??