開源模型新紀(jì)錄：超越Mixtral 8x7B Instruct的模型來了
從 Llama、Llama 2 到 Mixtral 8x7B，開源模型的性能記錄一直在被刷新。由于 Mistral 8x7B 在大多數(shù)基準(zhǔn)測(cè)試中都優(yōu)于 Llama 2 70B 和 GPT-3.5，因此它也被認(rèn)為是一種「非常接近 GPT-4」的開源選項(xiàng)。
在前段時(shí)間的一篇論文中，該模型背后的公司 Mistral AI 公布了 Mixtral 8x7B 的一些技術(shù)細(xì)節(jié)，并推出了 Mixtral 8x7B – Instruct 聊天模型。該模型性能在人類評(píng)估基準(zhǔn)上明顯超過了 GPT-3.5 Turbo、Claude-2.1、Gemini Pro 和 Llama 2 70B 聊天模型。在 BBQ 和 BOLD 等基準(zhǔn)中，Mixtral - Instruct 也顯示出更少的偏見。
但最近，Mixtral Instruct 也被超越了。一家名叫 Nous Research 的公司宣布，他們基于 Mixtral 8x7B 訓(xùn)練的新模型 ——Nous-Hermes-2 Mixtral 8x7B 在很多基準(zhǔn)上都超過了 Mixtral Instruct，達(dá)到了 SOTA 性能。
該公司聯(lián)合創(chuàng)始人、X 平臺(tái)用戶 @Teknium (e/λ) 表示，「據(jù)我所知，這是第一個(gè)擊敗 Mixtral Instruct 的基于 Mixtral 的模型，在我個(gè)人的測(cè)試中，它可能是最好的開源 LLM 模型！」
模型資料卡顯示，該模型在超過 100 萬個(gè)條目（主要是 GPT-4 生成的數(shù)據(jù)）以及來自整個(gè) AI 領(lǐng)域開放數(shù)據(jù)集的其他高質(zhì)量數(shù)據(jù)上進(jìn)行了訓(xùn)練。根據(jù)后續(xù)微調(diào)方法的不同，該模型被分為兩個(gè)版本：
- 僅用 SFT 方法微調(diào)的 Nous Hermes 2 Mixtral 8x7B SFT。鏈接：https://huggingface.co/NousResearch/Nous-Hermes-2-Mixtral-8x7B-SFT
- 用 SFT+DPO 方法微調(diào)的 Nous Hermes 2 Mixtral 8x7B DPO。鏈接：https://huggingface.co/NousResearch/Nous-Hermes-2-Mixtral-8x7B-DPO。Mixtral Nous-Hermes 2 DPO Adapter 鏈接：https://huggingface.co/NousResearch/Nous-Hermes-2-Mixtral-8x7B-DPO-adapter
至于為什么發(fā)布兩個(gè)版本，@Teknium (e/λ) 給出了以下解釋：
以下是模型的輸出示例：
1、為數(shù)據(jù)可視化編寫代碼
2、寫賽博朋克迷幻詩(shī)
3、根據(jù)輸入文本創(chuàng)建提示
以下是一些性能數(shù)據(jù)：
1、GPT4All
2、AGI-Eval
3、BigBench 推理測(cè)試
在模型發(fā)布之后不久，生成式 AI 初創(chuàng)公司 Together AI 就宣布了其 API 對(duì)該模型的支持。Together AI 去年 11 月剛完成超一億美元的 A 論融資。在 Nous Research 訓(xùn)練和微調(diào) Nous Hermes 2 Mixtral 8x7B 模型期間，Together AI 為他們提供了算力支持。
圖源：https://twitter.com/togethercompute/status/1746994443482538141
Nous Research 最初是一個(gè)志愿者項(xiàng)目。他們最近成功完成了 520 萬美元的種子融資輪，此輪融資由 Distributed Global 和 OSS Capital 聯(lián)合領(lǐng)投，同時(shí)吸引了包括 Together AI 創(chuàng)始人兼 CEO Vipul Ved Reddy 在內(nèi)的多位知名投資者的參與。Nous 計(jì)劃在 2024 年推出一款名為 Nous-Forge 的 AI 編排工具。
從官網(wǎng)介紹中可以看到，他們的產(chǎn)品定位是：能夠連接和運(yùn)行程序，獲取和分析客戶文檔，并生成合成數(shù)據(jù)供生產(chǎn)使用。這些專有系統(tǒng)可根據(jù)客戶的需求進(jìn)行微調(diào)，無論其業(yè)務(wù)領(lǐng)域如何。通過這些新穎的算法，他們希望聚合并分析數(shù)字注意力生態(tài)系統(tǒng)中以往非結(jié)構(gòu)化的專題數(shù)據(jù)，為客戶提供隱藏的市場(chǎng)脈搏信息。
