最后一天，DeepSeek開源了全生命周期數(shù)據(jù)訪問引擎FireFlyerFileSystem（3FS），以及基于3FS的數(shù)據(jù)處理框架Smallpond。3FS（螢火蟲文件系統(tǒng)）是一個(gè)充分利用現(xiàn)代SSD和RDMA網(wǎng)絡(luò)帶寬的并行文件系統(tǒng)，其特點(diǎn)是：在180節(jié)點(diǎn)集群中實(shí)現(xiàn)了6.6TiBs的總讀取吞吐量在25節(jié)點(diǎn)集群的GraySort基準(zhǔn)測試中達(dá)到了3.66TiBmin的吞吐量每個(gè)客戶端節(jié)點(diǎn)的KVCache查詢峰值吞吐量超過40+GiBs采用分離式架構(gòu)，確保了強(qiáng)一致性全面支持V3R1的訓(xùn)練數(shù)據(jù)預(yù)處理...

出品51CTO技術(shù)棧（微信號：blog51cto）DeepSeek“開源周”第五天，依舊保持了一如既往地“務(wù)實(shí)”風(fēng)，滿滿的誠意。先來回憶下前四天，源神的慷慨發(fā)布——第一天，2月24日，最為外界稱道的MLA技術(shù)率先開源，這項(xiàng)解碼加速器FlashMLA技術(shù)能夠讓英偉達(dá)Hopper架構(gòu)GPU跑得更快，效果更好！緊接著，25日，直接亮出首個(gè)面向MoE模型的開源專家并行通信庫DeepEP，實(shí)現(xiàn)了MoE訓(xùn)練推理的全棧優(yōu)化；第三天，則進(jìn)一步祭出一項(xiàng)跨時(shí)代的發(fā)布：FP8...

GRPO(GroupRelativePolicyOptimization)算法核心思想：想象一下，老師在教一個(gè)學(xué)生寫作文。傳統(tǒng)的強(qiáng)化學(xué)習(xí)方法（比如PPO）會給學(xué)生的每一句話打分，告訴他這句好，那句不好。但GRPO不這么做，它更像是一位“佛系”老師：不看過程，看結(jié)果：GRPO不會逐句指導(dǎo)學(xué)生，而是讓學(xué)生一口氣寫完幾篇不同的作文（一組作文）。幾篇作文一起比較：然后，老師把這幾篇作文放在一起比較，根據(jù)一個(gè)預(yù)先定好的規(guī)則（基于規(guī)則的獎勵(lì)模型），評判...

一、項(xiàng)目定位：AI生態(tài)的“連接器”awesomedeepseekintegration是DeepSeek官方在GitHub上推出的開源集成資源庫，旨在構(gòu)建一個(gè)覆蓋全場景的AI工具生態(tài)系統(tǒng)。該項(xiàng)目通過聚合300+第三方工具與應(yīng)用，打通了從個(gè)人用戶到企業(yè)開發(fā)者的需求鏈路，實(shí)現(xiàn)“一站式”接入DeepSeek大模型能力。截至2025年2月，該項(xiàng)目已收獲超過20KStar，成為國內(nèi)AI工具集成領(lǐng)域的標(biāo)桿項(xiàng)目。二、核心功能與技術(shù)亮點(diǎn)全場景工具整合1.類功能模塊：涵蓋開發(fā)框架（...

你是否思考過：大模型是如何做到既能到出口成章又能演算數(shù)學(xué)題的呢？今天，讓我們用實(shí)例來揭開大模型中「思維鏈」的神秘面紗。1、什么是思維鏈技術(shù)？簡而言之，思維鏈技術(shù)就是讓大模型在回答問題時(shí)，不再只給你一個(gè)冰冷的答案，而是會抽絲剝繭般地一步步展示它是如何找到答案的。要知道，傳統(tǒng)LLM的訓(xùn)練目標(biāo)是預(yù)測下一個(gè)token，而不是系統(tǒng)地推理數(shù)學(xué)問題。它們在龐大的文本語料庫中學(xué)到了各種模式，但「數(shù)學(xué)公式的嚴(yán)謹(jǐn)推演」并非...

01、概述隨著人工智能技術(shù)的不斷發(fā)展，視頻生成領(lǐng)域也迎來了革命性的進(jìn)步。阿里云推出的通義萬相2.1，正是這一突破的代表，它是一款集高質(zhì)量、精準(zhǔn)運(yùn)動生成與多語言支持于一身的先進(jìn)視頻生成模型。今天，我們將帶你了解這款引領(lǐng)行業(yè)的技術(shù)產(chǎn)品，以及它如何通過尖端創(chuàng)新，幫助各行各業(yè)實(shí)現(xiàn)更高效、更智能的視頻創(chuàng)作。02、什么是通義萬相2.1？通義萬相2.1由阿里云通義萬相AI團(tuán)隊(duì)開發(fā)，旨在通過將文本描述轉(zhuǎn)化為高質(zhì)量視頻，帶來前...

編者按：你是否曾經(jīng)遇到過這樣的困擾：在開發(fā)基于RAG的應(yīng)用時(shí)，實(shí)時(shí)檢索的延遲讓用戶體驗(yàn)大打折扣？或者在處理復(fù)雜查詢時(shí)，檢索結(jié)果的不準(zhǔn)確導(dǎo)致回答質(zhì)量不盡如人意？在當(dāng)前大語言模型應(yīng)用大規(guī)模落地的背景下，這些挑戰(zhàn)正成為制約產(chǎn)品競爭力的關(guān)鍵瓶頸。傳統(tǒng)RAG方案中的檢索延遲、準(zhǔn)確性波動以及系統(tǒng)復(fù)雜度，都在考驗(yàn)著開發(fā)者的耐心和智慧。緩存增強(qiáng)生成（CAG）技術(shù)巧妙地利用了新一代大語言模型處理長上下文的能力，通過預(yù)加載...

論文鏈接：https:arxiv.orgpdf2502.17258git鏈接：https:knightyxp.github.ioVideoGrainprojectpage亮點(diǎn)直擊首次嘗試多粒度視頻編輯的方法。支持類別級、實(shí)例級和局部級的編輯。提出了一個(gè)新穎的框架，稱為VideoGrain，該框架通過調(diào)節(jié)時(shí)空跨注意力和自注意力，實(shí)現(xiàn)文本到區(qū)域的控制以及區(qū)域間特征的分離。在無需調(diào)整任何參數(shù)的情況下，在現(xiàn)有基準(zhǔn)測試和真實(shí)世界視頻上都取得了定性和定量的最新成果?？偨Y(jié)速覽解決的問題多粒度視...

01、概述在AI領(lǐng)域，推理能力一直是衡量模型智能的重要標(biāo)準(zhǔn)。而今天，我們迎來了一個(gè)里程碑式的產(chǎn)品——Claude3.7Sonnet。它不僅是最智能的模型，更是市場上首個(gè)混合推理模型。這意味著，它既能像普通大語言模型（LLM）一樣快速響應(yīng)，也能像人類一樣進(jìn)行深度思考，甚至將思考過程可視化呈現(xiàn)給用戶。對于開發(fā)者來說，Claude3.7Sonnet的推出不僅是一次技術(shù)升級，更是一場效率革命。無論是前端開發(fā)、代碼生成，還是復(fù)雜任務(wù)的自動化...

在全球極端天氣事件愈發(fā)頻繁的當(dāng)下，從暴雨洪澇引發(fā)的城市內(nèi)澇，到颶風(fēng)肆虐造成的巨大破壞，精準(zhǔn)的氣象預(yù)測成為了保障社會安全與經(jīng)濟(jì)穩(wěn)定發(fā)展的關(guān)鍵環(huán)節(jié)，也是AI應(yīng)用的重要領(lǐng)域之一。所以，英偉達(dá)的研究人員發(fā)布了最新天氣預(yù)測模型CorrDiff，能將分辨率為25公里的大氣數(shù)據(jù)細(xì)化至2公里，大幅提升了氣象預(yù)測的精度，并且能預(yù)測輸入數(shù)據(jù)中未包含的相關(guān)變量，例如，雷達(dá)反射率，這對于判斷降雨位置和強(qiáng)度極為關(guān)鍵。此外，相比傳統(tǒng)使...

01、概述近年來，大型語言模型（LLMs）在自然語言處理領(lǐng)域掀起了一場革命，從智能聊天機(jī)器人到知識檢索系統(tǒng)，LLMs的應(yīng)用無處不在。然而，這些模型生成的答案有時(shí)會過時(shí)，甚至出現(xiàn)“幻覺”（即生成不準(zhǔn)確或無依據(jù)的內(nèi)容）。為了解決這一問題，檢索增強(qiáng)生成（RetrievalAugmentedGeneration,RAG）應(yīng)運(yùn)而生。RAG通過引入外部知識庫來增強(qiáng)LLMs的表現(xiàn)，但如何優(yōu)化復(fù)雜的RAG系統(tǒng)仍然是一個(gè)巨大的挑戰(zhàn)。傳統(tǒng)的優(yōu)化方法通常將RAG的各個(gè)模...

今天凌晨4點(diǎn)，OpenAI進(jìn)行了在線技術(shù)直播，發(fā)布了最新模型GPT4.5。GPT4.5與之前的模型相比，本次最大的亮點(diǎn)是加上了“情商”，這也是目前所有大模型最缺、最難的功能。此外，GPT4.5在SimpleQA上的測試數(shù)據(jù)顯示，超過OpenAIo1、OpenAIo3mini并且幻覺非常低，是目前OpenAI最強(qiáng)大模型之一。OpenAI聯(lián)合創(chuàng)始人兼首席執(zhí)行官SamAltman特意發(fā)文對GPT4.5進(jìn)行了詳細(xì)解讀。對我來說，GPT4.5是第一個(gè)讓我感覺像是在和一個(gè)有思想的人對話的模...

本文講述LLM開發(fā)生命周期的詳細(xì)技術(shù)指南，涉及原始文本預(yù)訓(xùn)練、指令調(diào)整及人類校準(zhǔn)。大語言模型（LLM）通過引入文本生成、摘要和會話式人工智能等高級應(yīng)用程序，對自然語言處理（NLP）產(chǎn)生了影響。像ChatGPT這樣的模型使用一種叫做“Transformer”的特定神經(jīng)結(jié)構(gòu)來預(yù)測序列中的下一個(gè)單詞，通過自注意（Selfattention）機(jī)制從大量的文本數(shù)據(jù)集中學(xué)習(xí)。本指南分解了訓(xùn)練生成式人工智能模型的逐步建立過程，包括預(yù)訓(xùn)練，微調(diào)，對...

其實(shí)我這個(gè)問題不算瞎問。在你的項(xiàng)目里，你是真覺得GraphRAG有用，還是就圖個(gè)新鮮勁，這個(gè)是非常重要的思考。RAG能干啥，其實(shí)不用復(fù)雜的解釋了。傳統(tǒng)的方式就是基于向量余弦近似度的查找，當(dāng)然BM25其實(shí)也是傳統(tǒng)RAG（別把它當(dāng)新東西），常見一點(diǎn)的基本都有向量查找，或者向量+BM25關(guān)鍵字集成查找，為了方便我就畫向量的了。如下圖：通用LLM里不太存在專用領(lǐng)域的知識，RAG可以作為外掛知識庫的補(bǔ)充，補(bǔ)充新的知識，另外有些問題，...

各位小伙伴，大家好，我是Baoxing，見字歡喜！今天是個(gè)值得驕傲的日子！上周，DeepSeek在推特發(fā)帖，說將從本周開始，陸續(xù)開源五個(gè)軟件庫（Repos），也將本周定義為了開源周（OpenSourceWeek），開源在技術(shù)圈是個(gè)“大殺器”，意味著要把自己辛苦研發(fā)的技術(shù)分享給大家，讓大家都能用上。就在今天上午9點(diǎn)，DeepSeek開源周第一天（Day1），直接扔出來個(gè)王炸——FlashMLA！作為AI技術(shù)的愛好者，寫這篇文章心里都是滿滿的自豪感，Deep...

本篇主要總結(jié)目前三種scalinglaw：Pretrain、RL、TestTime相關(guān)的內(nèi)容。現(xiàn)在關(guān)于scalinglaw是否“撞墻”的討論越來越多，ChinchillaScalingLaw推斷，"即使沒有新數(shù)據(jù)，也并不意味著模型效果提不上去了，很簡單，只要增加基座模型尺寸，效果仍然會提高，只是從付出的算力和獲得的效果提升來說很不合算，性價(jià)比過低"。這也是為什么大家由PretrainScalingLaw轉(zhuǎn)到RLScalingLaw和TestTimeScalingLaw的原因。本篇就來以面經(jīng)的形式整理...

SWERL:AdvancingLLMReasoningviaReinforcementLearningonOpenSoftwareEvolution20250225｜MetaFAIR,UIUC,MetaGenAI,CMU??37???http:arxiv.orgabs2502.18449v1????????https:huggingface.copapers2502.18449????????https:github.comfacebookresearchswerl???研究背景與意義近年來，大型語言模型（LLMs）在軟件工程（SE）任務(wù)中的應(yīng)用引起了廣泛關(guān)注。研究者們探索了LLMs在自動化復(fù)雜SE任務(wù)中的潛力，例如...

OmniAlignV:TowardsEnhancedAlignmentofMLLMswithHumanPreference20250225｜SJTU,ShanghaiAILab,NJU,FDU,ZJU??54???http:arxiv.orgabs2502.18411v1????????https:huggingface.copapers2502.18411????????https:github.comPhoenixZ810OmniAlignV???研究背景與意義隨著多模態(tài)大語言模型（MLLMs）的快速發(fā)展，現(xiàn)有的研究主要集中在提升模型的基礎(chǔ)能力，如物體識別、OCR等，而在與人類偏好對齊方面存在顯著差...

DeepSeek的開源周已經(jīng)進(jìn)行到了第四天（前三天報(bào)道見文末「相關(guān)閱讀」）。今天這家公司一口氣發(fā)布了兩個(gè)工具和一個(gè)數(shù)據(jù)集：DualPipe、EPLB以及來自訓(xùn)練和推理框架的分析數(shù)據(jù)。DeepSeek表示，DualPipe曾在V3R1的訓(xùn)練中使用，是一種用于計(jì)算通信重疊的雙向pipeline并行算法。EPLB是為V3R1打造的專家并行負(fù)載均衡器。而公布訓(xùn)練和推理框架的分析數(shù)據(jù)是為了幫助社區(qū)更好地理解通信計(jì)算重疊策略和底層實(shí)現(xiàn)細(xì)節(jié)。DualPipe鏈接：https:g...

好家伙！DeepSeek是真的OpenAI啊！在第四天的開源日中，竟然一口氣放出三個(gè)重磅的優(yōu)化并行策略代碼庫，而且又是V3R1模型中的干貨：DualPipe：一種優(yōu)化的雙向流水線并行算法，旨在優(yōu)化V3R1模型訓(xùn)練中的計(jì)算和通信重疊。稍微解釋一下，通常在分布式訓(xùn)練中，計(jì)算和通信要有兩次耗時(shí)，而DualPipe通過設(shè)計(jì)并行算法來處理這兩者之間的重疊，可謂是訓(xùn)練界的時(shí)間管理大師！??https:github.comdeepseekaiDualPipe??EPLB(ExpertParall...