整理 | 言征

出品 | 51CTO技術(shù)棧（微信號(hào)：blog51cto）

據(jù)一位熟悉Llama 3人士透露，Meta計(jì)劃于7月發(fā)布Llama 3。據(jù)悉，Llama 3的最大版本可能會(huì)超過1400億個(gè)參數(shù)，超過其前身Llama 2。

Meta希望Llama 3能夠匹配GPT-4的能力，包括響應(yīng)基于圖像的問題的能力。然而，關(guān)于使Llama 3成為多模態(tài)——同時(shí)處理文本和圖像——的決定仍在等待微調(diào)過程。相比之下，OpenAI最近推出了他們的文本到視頻生成模型Sora。

據(jù)Meta的內(nèi)部人士透露，研究人員正在調(diào)整Llama 3，使其在用戶提出棘手問題時(shí)更具互動(dòng)性。重點(diǎn)是提供上下文，而不是直接駁回具有挑戰(zhàn)性的查詢。即將推出的模型旨在更好地理解具有多種含義的單詞。

Meta的主要目標(biāo)之一是增強(qiáng)Llama 3對(duì)挑戰(zhàn)性查詢的響應(yīng)能力，在創(chuàng)建引人入勝的產(chǎn)品和緩解不適當(dāng)或不準(zhǔn)確響應(yīng)的風(fēng)險(xiǎn)之間保持微妙的平衡。最近，谷歌發(fā)現(xiàn)自己陷入了一系列挑戰(zhàn)，尤其是其AI模型Gemini被貼上了過于覺醒的標(biāo)簽。

為了實(shí)現(xiàn)這一目標(biāo)，Meta計(jì)劃在未來幾周內(nèi)任命一名內(nèi)部人士負(fù)責(zé)監(jiān)督語(yǔ)調(diào)和安全培訓(xùn)，旨在使模型的輸出更加精準(zhǔn)。與Meta的基礎(chǔ)AI研究團(tuán)隊(duì)不同，其生成式AI團(tuán)隊(duì)正在推動(dòng)Llama的開發(fā)。

例如，Llama 3可能會(huì)理解一個(gè)關(guān)于如何破壞汽車引擎的問題，實(shí)際上是在詢問如何關(guān)閉引擎，而不是結(jié)束它的使用壽命。

Llama在Meta的AI戰(zhàn)略中占據(jù)重要位置，旨在提升廣告工具并增強(qiáng)社交媒體應(yīng)用的吸引力。在最近的投資者討論中，Meta首席執(zhí)行官馬克·扎克伯格強(qiáng)調(diào)了今年的關(guān)鍵優(yōu)先事項(xiàng)，其中包括Llama 3的發(fā)布以及持續(xù)努力改進(jìn)Meta AI助手。