好家伙！DeepSeek是真的OpenAI??！

在第四天的開(kāi)源日中，竟然一口氣放出三個(gè)重磅的優(yōu)化并行策略代碼庫(kù)，而且又是V3/R1模型中的干貨：

DualPipe：一種優(yōu)化的雙向流水線并行算法，旨在優(yōu)化V3/R1模型訓(xùn)練中的計(jì)算和通信重疊。稍微解釋一下，通常在分布式訓(xùn)練中，計(jì)算和通信要有兩次耗時(shí)，而DualPipe通過(guò)設(shè)計(jì)并行算法來(lái)處理這兩者之間的重疊，可謂是訓(xùn)練界的時(shí)間管理大師！

??https://github.com/deepseek-ai/DualPipe??

EPLB (Expert-Parallel Load Balancer)：這是一個(gè)用于V3/R1的專家并行負(fù)載均衡器。負(fù)載均衡是分布式訓(xùn)練非常重點(diǎn)的優(yōu)化方向了，EPLB通過(guò)智能地分配計(jì)算任務(wù)，確保各個(gè)計(jì)算節(jié)點(diǎn)的“工作量”適中，避免某些節(jié)點(diǎn)成為瓶頸，進(jìn)一步提高訓(xùn)練效率。

??https://github.com/deepseek-ai/eplb??

Computation-Communication Overlap Analyzer：這個(gè)工具幫助分析V3/R1模型中的計(jì)算和通信重疊部分。DeepSeek這波授人以漁，給模型開(kāi)發(fā)者一個(gè)分析工具，讓人直接看到在哪些操作上，計(jì)算和通信之間的重疊不夠高，從而繼續(xù)優(yōu)化。

??https://github.com/deepseek-ai/profile-data??

有了這些優(yōu)化技術(shù)，“卡脖子”好像真的不存在了！

就像評(píng)論區(qū)一位網(wǎng)友說(shuō)的這樣，DeepSeek改變了游戲規(guī)則！

“這是一場(chǎng)改變游戲規(guī)則的創(chuàng)新。DualPipe 和 EPLB 使大型語(yǔ)言模型的訓(xùn)練變得更快、更便宜、更可持續(xù)，同時(shí)保持頂級(jí)性能。DeepSeek 的策略交響樂(lè)可能會(huì)重新定義我們構(gòu)建 AI 的方式，證明你不需要最大的樂(lè)隊(duì)就能奏出最好的音樂(lè)?！?/p>

圖片

講完了DeepSeek今天開(kāi)源的這些牛逼的技術(shù)，我們發(fā)現(xiàn)，評(píng)論區(qū)更期待的，還是明天最重磅的壓軸戲！

1.DeepSeek重磅壓軸戲?qū)⒅?，網(wǎng)友期待值拉滿

昨天，關(guān)于R2提前發(fā)布的消息吊起了大家的胃口。

據(jù)媒體報(bào)道，幻方量化相關(guān)人士已經(jīng)回復(fù)了“DeepSeek新一代AI模型R2提前發(fā)布”的消息，回應(yīng)稱：以官方消息為準(zhǔn)。

雖然如此，卻擋不住網(wǎng)友對(duì)R2的熱情。一位網(wǎng)友更大膽猜測(cè)，第5天就有R2了，是真的嗎？

圖片

另一個(gè)網(wǎng)友也在線許愿，夢(mèng)了票大的。除了R2以外，她還期待新一代基礎(chǔ)多模態(tài)模型V4發(fā)布。最后，她還說(shuō)希望DeepSeek進(jìn)軍文生視頻領(lǐng)域，推一款能超過(guò)Veo2（Google DeepMind推出的一款先進(jìn)的AI視頻生成模型）的模型。

圖片

一位網(wǎng)友說(shuō)“真正的OpenAI，我希望明天會(huì)有大消息。無(wú)論怎樣，你們太棒了！”

圖片

更有網(wǎng)友用DeepSeek式的浪漫進(jìn)行了夸夸。

稱DeepSeek的開(kāi)源善舉是“鯨魚(yú)分享他的海洋恩惠，引領(lǐng)所有的魚(yú)兒在他的浪潮中”。

圖片

2.DeepSeek API官宣非高峰超低價(jià)，鼓勵(lì)錯(cuò)峰使用

最近兩天，DeepSeek才重啟了官方的API充值服務(wù)。

距離DeepSeek因服務(wù)器過(guò)爆停止了API充值過(guò)去了整整19天，相信許多想接入DeepSeek服務(wù)的人感到度日如年。

而昨天，DeepSeek又官宣了一波非高峰期的折扣！

感覺(jué)DeepSeek真的把自己的優(yōu)化思維貫徹始終了，集中在閑時(shí)用更便宜的價(jià)格使用，怎么不算一種人類智能呢？

圖片

基于北京時(shí)間的錯(cuò)峰優(yōu)惠價(jià)，可以直接看下面的這張表：

圖片

有人問(wèn)道，我不太懂，這個(gè)價(jià)格是高還是低：

圖片

熱心網(wǎng)友1：低的要死了

圖片

熱心網(wǎng)友2：OpenAI的10%吧

圖片

3.寫(xiě)在最后

DeepSeek開(kāi)源周的操作讓人眼前一亮！

比起OpenAI長(zhǎng)達(dá)12天的擠牙膏，DeepSeek每次都是干貨的前沿技術(shù)！

從小編的體感看，最近幾天的交互，算力緊張的問(wèn)題明顯緩解。而這波API的閑時(shí)降價(jià)，則讓更多人都能分享到其強(qiáng)大的技術(shù)優(yōu)勢(shì)。

隨著開(kāi)源周最后一天的臨近，大家的期待值也在不斷攀升，國(guó)內(nèi)外的關(guān)注度達(dá)到了巔峰。未來(lái)越來(lái)越好，我們有理由相信，這只藍(lán)鯨魚(yú)能繼續(xù)引領(lǐng)全球AI的潮流。

本文轉(zhuǎn)載自??51CTO技術(shù)棧??