可能我們經(jīng)常會遇到這樣的場景：老板在會上講了一段話，語音識別系統(tǒng)卻把關(guān)鍵的數(shù)字、人名識別錯了；客服系統(tǒng)把用戶說的"預(yù)約掛號"聽成了"我要掛了"；方言用戶的語音指令被系統(tǒng)曲解成了完全不相關(guān)的內(nèi)容。這些問題背后折射出的是語音識別技術(shù)在特定場景下的短板尤其是在處理低資源語言時表現(xiàn)更為明顯。近期，沙里夫理工大學(xué)的研究團隊提出了一個頗具創(chuàng)新性的解決方案：GECRAG。這個方案通過檢索增強的方式來提升語音識別的準確...

麻省理工學(xué)院、斯坦福大學(xué)、哥倫比亞大學(xué)、康奈爾大學(xué)的研究人員聯(lián)合開源了創(chuàng)新3D交互視頻模型——PhysDreamer（簡稱“PD”）。PD和OpenAI的Sora一樣，是一個可以通過物理模擬的方式來生成視頻。也就是說，PD的視頻具備很多物理世界的特征。例如，用手去觸摸一盆花后，花朵會左右搖擺直至緩慢停止。PD可以準確地捕捉到物體很多微妙的動態(tài)變化和復(fù)雜的交互細節(jié)，生成的視頻也就更加精準、細膩。PD案例展示PD主要通過視頻生成模型...

嘿，大家好！這里是一個專注于AI智能體的頻道DeepSeek剛剛又發(fā)補給了，補給4件套。包含2個配置項，不要設(shè)置systemprompt+temperature設(shè)置為0.6。還有大家比較期待的官網(wǎng)的，接入搜索的R1的prompt設(shè)計及最佳用法！以及如何緩解R1系列模型繞過思考的解決辦法。在DeepSeek官網(wǎng)版本，沒有使用系統(tǒng)提示詞，而是為文件上傳和網(wǎng)絡(luò)搜索設(shè)計了兩個特定的提示詞以獲得更好的用戶體驗。并且temperature設(shè)置為0.6。對于文件上傳，請按照模板...

論文地址：https:arxiv.orgpdf2409.04005項目主頁：https:360cvgroup.github.ioQihooT2X代碼倉庫：https:github.com360CVGroupQihooT2X?作者信息：論文一作為來自中山大學(xué)的博士生王晶；論文共同一作和項目leader為來自360AIResearch視頻生成方向的負責(zé)人馬傲亮點直擊提出了ProxyTokenized擴散transformer（ProxyTokenizedDiffusionTransformer，PTDiT）。推出了QihooT2X系列模型，包括文本到圖像（T2I）、文本到視頻（T2V）以...

本文介紹了多模態(tài)大型語言模型（MLLM）的定義、使用挑戰(zhàn)性提示的應(yīng)用場景，以及正在重塑計算機視覺的頂級模型。目錄什么是多模態(tài)大語言模型（MLLM）？MLLM在計算機視覺中的應(yīng)用與案例領(lǐng)先的多模態(tài)大型語言模型未來展望1.什么是多模態(tài)大型語言模型（MLLM）？簡單來說，多模態(tài)大型語言模型（MLLM）是結(jié)合了大型語言模型（LLM）（如GPT3[2]或LLaMA3[3]）的推理能力，同時具備接收、理解并輸出多種模態(tài)信息的能力。示例：圖1展示了...

最近，AI社區(qū)被DeepSeekR1“刷屏”了!作為一款極具變革意義的開源推理大語言模型（LLM），大家討論最多的是它的基礎(chǔ)能力，卻鮮有人關(guān)注其在智能體工作流程中的巨大潛力，也就是多個模型動態(tài)協(xié)作的應(yīng)用場景。今天，就帶大家實操搭建一個智能體檢索增強生成（RAG，RetrievalAugmentedGeneration）系統(tǒng)。這個系統(tǒng)整合了：DeepSeekR1（70億參數(shù)蒸餾版）：用于復(fù)雜推理,系統(tǒng)的“智慧大腦”。。阿里云Qwen2.5（70億參數(shù)）：主打快速對...

大模型技術(shù)論文不斷，每個月總會新增上千篇。本專欄精選論文重點解讀，主題還是圍繞著行業(yè)實踐和工程量產(chǎn)。若在閱讀過程中有些知識點存在盲區(qū)，可以回到如何優(yōu)雅的談?wù)摯竽Ｐ椭匦麻喿x。另外斯坦福2024人工智能報告解讀為通識性讀物。若對于如果構(gòu)建生成級別的AI架構(gòu)則可以關(guān)注AI架構(gòu)設(shè)計。記得在《重新審視神經(jīng)網(wǎng)絡(luò)》這篇文章中提及，任何人都可以構(gòu)建自己心目中的神經(jīng)網(wǎng)絡(luò)。在Transformers、Mamba、KAN之后，長短期記憶(LSTM)...

最近DeepSeekR1蒸餾太火了，昨天在群里跟群友們問白嫖R1接口的事情，想著多點搞免費額度蒸餾一波滿血版DeepSeekR1，來做做試驗。結(jié)果一個小伙伴，跟我講，他們（無問芯穹）的滿血版DeepSeekR1API是免費調(diào)用的，不僅如此，還有DeepSeekV3、Deepseek蒸餾版本模型R1DistillQwen32b也是免費的。當然，現(xiàn)在DeepSeek流量真的爆炸，公眾號標題帶DeepSeek流量都會更高一些，算是現(xiàn)象級模型了。在這里為春節(jié)期間同樣努力奮斗，放出新模型...

DiversityEnhancesanLLM'sPerformanceinRAGandLongcontextTask大型語言模型（LLMs）的快速發(fā)展凸顯了上下文窗口限制的挑戰(zhàn)，這主要是由于自注意力機制的二次時間復(fù)雜度（(O(N^2))，其中(N)表示上下文窗口長度）。這一限制影響了問答（Q&A）中的檢索增強生成（RAG）和長上下文摘要等任務(wù)。一種常見的方法是選擇與查詢最相似的內(nèi)容；然而，這通常會導(dǎo)致冗余，并排除多樣化的相關(guān)信息?；谧畲筮吘壪嚓P(guān)性（MMR）和最遠點采樣（FPS...

編輯言征2天前，就在馬斯克宣布要以974億美元收購OpenAI后，OpenAI工程副總裁斯里尼瓦斯·納拉亞南（SrinivasNarayanan）接受了華爾街日報的一次線下對話，這次對話同樣也是出于一場中美AI博弈的新語境下：DeepSeekR1低成本訓(xùn)練出可以對標OpenAIo1的強推理模型，甚至登頂了應(yīng)用排行榜，美國現(xiàn)在已經(jīng)封禁了DeepSeek應(yīng)用的下載。主持人當然沒有放過斯里尼瓦斯，問了他這個非常敏感的問題。那么OpenAI內(nèi)部究竟是如何看待DeepSeek的...

最近DeepSeek的消息鋪天蓋地，使用下來的效果不愧是比肩OpenAIo1的存在。而且對于使用人的提示詞功力要求更低，可以使用簡單的大白話就能完成對應(yīng)內(nèi)容生成。DeepSeek接入目前騰訊正式灰度測試接入DeepSeek，目前灰度到的用戶，可在對話框頂部搜索入口，看到“AI搜索”字樣，點擊進入后，可免費使用DeepSeekR1滿血版模型。到“AI搜索”頁面后點擊對話框左下角就可以切換模型，選擇深度思考即切換到DeepSeekR1模型上，這里使用完...

2025年世界政府峰會于2月11日在阿聯(lián)酋迪拜開幕，不少科技大佬都參與了峰會，并表達了自己的真知灼見。在這個關(guān)口談?wù)摽萍紕?chuàng)新，AI無可避免地成為了絕對的主角。馬斯克吹捧Grok3將成為有史以來最聰明的AI，“這（指新模型發(fā)布之前）可能是其他模型最后一次超過Grok”。而阿里蔡崇信在談AI競賽時則說，“下一個發(fā)布的模型會比某些模型更好，但不一定比其他的好。總會有其他人推出比你更好的東西。”但大佬們的觀點也有共識，技術(shù)...

一、背景上一篇文章中我們具體介紹了DeepSeekR1系列模型的構(gòu)建流程和關(guān)鍵技術(shù)點，考慮到最近出現(xiàn)了許多相關(guān)工作，也分別得出了各種不同的結(jié)論，與此同時還出現(xiàn)了大量的誤解。本文中，我們整理了DeepSeekR1等6篇Reasoning相關(guān)文章的關(guān)鍵結(jié)論，以便相互驗證和對比。如下圖所示為這些文章中的一些關(guān)鍵指標：相關(guān)工作可以參考我們之前的文章：???DeepSeekR1論文解讀&關(guān)鍵技術(shù)點梳理??????DeepSeekV3詳細解讀：模型&Infra建...

圖片1、為什么我們需要更強大的AI推理能力？在當今時代，人工智能不僅要能夠處理簡單的對話和生成任務(wù)，更要具備像人類一樣的推理能力。無論是解決復(fù)雜的數(shù)學(xué)問題，還是編寫高質(zhì)量的代碼，甚至是進行科學(xué)推理，這些都需要AI具備強大的推理能力。而今天要介紹的OpenThinker32B，正是在這個方向上取得的重要突破。圖片2、OpenThinker32B：開源推理的新標桿這個模型最令人興奮的地方在于它的開放性和強大性能。研究團隊通過三個關(guān)...

原文鏈接：????https:arxiv.orgabs2501.19393????代碼鏈接：??https:github.comsimplescalings1???Testtimescaling是一種語言建模方法，它利用額外的測試時計算資源來提升性能，OpenAI的o1模型近期也證實了這一方法的有效性。本文旨在探尋實現(xiàn)Testtimescaling以及強大推理性能的最簡途徑。主要貢獻精心策劃小型數(shù)據(jù)集s1K：該數(shù)據(jù)集包含1000個問題，并配有推理過程，其構(gòu)建基于難度、多樣性和質(zhì)量這三個標準，且通...

主流RAG框架可以分為以下五個主要的進化方向：成本控制型（適合初創(chuàng)公司）、實時互動型（適用于財經(jīng)新聞場景）、域?qū)＜翌愋?、認知增強型、安全與合規(guī)類型。接下來，讓我們詳細了解一下這25種RAG變體。1.標準RAG一個基本的RAG系統(tǒng)由檢索模塊和生成模塊組成。系統(tǒng)會對查詢進行編碼，檢索相關(guān)的文檔塊，然后為基于transformer的LLM構(gòu)建豐富的提示。查詢編碼器：使用預(yù)訓(xùn)練的轉(zhuǎn)換器（例如DPR）生成密集的查詢嵌入。代碼實現(xiàn)如下：fr...

今天分享DeepSeekR1，Title:DeepSeekR1:IncentivizingReasoningCapabilityinLLMsviaReinforcementLearning：通過強化學(xué)習(xí)激勵LLM的推理能力。這篇文章介紹了DeepSeek的第一代推理模型DeepSeekR1Zero和DeepSeekR1。DeepSeekR1Zero模型通過大規(guī)模強化學(xué)習(xí)(RL)訓(xùn)練，沒有監(jiān)督微調(diào)(SFT)作為初步步驟，展示了RL的潛力及其帶來的卓越的推理能力。通過強化學(xué)習(xí)，DeepSeekR1Zero自然而然地涌現(xiàn)出許多強大而有趣的推理行為。為了進一步優(yōu)...

前言本文基于前期介紹的電力變壓器（文末附數(shù)據(jù)集），介紹一種綜合應(yīng)用完備集合經(jīng)驗?zāi)B(tài)分解CEEMDAN與基于麻雀優(yōu)化算法的SSATCNBiLSTMAttention預(yù)測模型，以提高時間序列數(shù)據(jù)的預(yù)測性能。該方法的核心是使用CEEMDAN算法對時間序列進行分解，接著利用麻雀優(yōu)化算法對TCNBiLSTMAttention模型進行優(yōu)化，通過對分解后的數(shù)據(jù)進行建模，來實現(xiàn)精準預(yù)測。1.數(shù)據(jù)CEEMDAN分解與可視化1.1導(dǎo)入數(shù)據(jù)1.2CEEMDAN分解根據(jù)分解結(jié)果看，CEEMDAN一...

繼GraphRAG之后，微軟又發(fā)布PIKERAG，主打在復(fù)雜企業(yè)場景中私域知識提取、推理和應(yīng)用能力，PIKERAG已在工業(yè)制造、采礦、制藥等領(lǐng)域進行了測試，顯著提升了問答準確率。demo示例：多層次異構(gòu)的知識庫構(gòu)建與檢索+自我進化的領(lǐng)域知識學(xué)習(xí)RAG系統(tǒng)在滿足現(xiàn)實世界應(yīng)用的復(fù)雜和多樣化需求方面仍然面臨挑戰(zhàn)。僅依靠直接檢索不足以從專業(yè)語料庫中提取深度領(lǐng)域特定知識并進行邏輯推理。企業(yè)場景復(fù)雜多樣的Query基于此，微軟亞洲研究院提出...

7B大小的視頻理解模型中的新SOTA，來了！它就是由達摩院出品的VideoLLaMA3，以圖像為中心構(gòu)建的新一代多模態(tài)視頻語言模型。在通用視頻理解、時間推理和長視頻理解三個核心維度進行評估的過程中，VideoLLaMA3均取得優(yōu)異成績，超越多數(shù)基線模型。不僅如此，適用于端側(cè)的2B大小的VideoLLaMA3，在圖像理解上的表現(xiàn)也是較為出色。在涵蓋文檔圖表場景文本理解、數(shù)學(xué)推理、多圖像理解和常識問答等多個維度的基準測試，如在InfoVQA中超...