在 2024 年底，探索通用人工智能（AGI）本質(zhì)的 DeepSeek AI 公司開源了最新的混合專家（MoE）語言模型 DeepSeek-V3-Base。不過，目前沒有放出詳細(xì)的模型卡。

• HuggingFace 下載地址：https://huggingface.co/DeepSeek-ai/DeepSeek-V3-Base/tree/main

具體來講，DeepSeek-V3-Base 采用了 685B 參數(shù)的 MoE 架構(gòu)，包含 256 個專家，使用了 sigmoid 路由方式，每次選取前 8 個專家（topk=8）。

圖源：X@arankomatsuzaki

該模型利用了大量專家，但對于任何給定的輸入，只有一小部分專家是活躍的，模型具有很高的稀疏性。

圖源：X@Rohan Paul

從一些網(wǎng)友的反饋來看，API 顯示已經(jīng)是 DeepSeek-V3 模型。

圖源：X@ruben_kostard

同樣地，聊天（chat）界面也變成了 DeepSeek-v3。

圖源：X@Micadep

那么，DeepSeek-V3-Base 性能怎么樣呢？Aider 多語言編程測評結(jié)果給了我們答案。

先來了解一下 Aider 多語言基準(zhǔn)，它要求大語言模型（LLM）編輯源文件來完成 225 道出自 Exercism 的編程題，覆蓋了 C++、Go、Java、JavaScript、Python 和 Rust 等諸多編程語言。這 225 道精心挑選的最難的編程題給 LLM 帶來了很大的編程能力挑戰(zhàn)。

該基準(zhǔn)衡量了 LLM 在流行編程語言中的編碼能力，以及是否有能力編寫可以集成到現(xiàn)有代碼的全新代碼。

從下表各模型比較結(jié)果來看，DeepSeek-V3-Base 僅次于 OpenAI o1-2024-12-17 (high)，一舉超越了 claude-3.5-sonnet-20241022、Gemini-Exp-1206、o1-mini-2024-09-12、gemini-2.0-flash-exp 等競品模型以及前代 DeepSeek Chat V2.5。

其中與 V2.5（17.8％）相比，V3 編程性能暴增到了 48.4％，整整提升了近 31％。

另外，DeepSeek-V3 的 LiveBench 基準(zhǔn)測試結(jié)果也疑似流出。我們可以看到，該模型的整體、推理、編程、數(shù)學(xué)、數(shù)據(jù)分析、語言和 IF 評分都非常具有競爭力，整體性能超越 gemini-2.0-flash-exp 和 Claude 3.5 Sonnet 等模型。

圖源：reddit@homeworkkun

HuggingFace 負(fù)責(zé) GPU Poor 數(shù)據(jù)科學(xué)家 Vaibhav (VB) Srivastav 總結(jié)了 DeepSeek v3 與 v2 版本的差異：

根據(jù)配置文件，v2 與 v3 的關(guān)鍵區(qū)別包括：

• vocab_size：v2: 102400 v3: 129280 
• hidden_size：v2: 4096 v3: 7168
• intermediate_size：v2: 11008 v3: 18432
• 隱藏層數(shù)量：v2：30 v3：61  
• 注意力頭數(shù)量：v2：32 v3：128  
• 最大位置嵌入：v2：2048 v3：4096

v3 看起來像是 v2 的放大版本。

圖源：X@reach_vb

值得注意的是，在模型評分函數(shù)方面，v3 采用 sigmoid 函數(shù)，而 v2 采用的是 softmax 函數(shù)。

網(wǎng)友熱評：開源模型逼近 SOTA

眾多紛紛網(wǎng)友表示，Claude 終于迎來了真正強(qiáng)勁的對手，甚至在一定程度上 DeepSeek-V3 可以取代 Claude 3.5。

還有人感嘆道，開源模型繼續(xù)以驚人的速度追趕 SOTA，沒有放緩的跡象。2025 年將成為 AI 最重要的一年。