論文DoesReinforcementLearningReallyIncentivizeReasoningCapacityinLLMsBeyondtheBaseModel2504.13837TL;DR:雖然強化學習（RL）訓練的模型在較小的k值（例如，k1）下優(yōu)于其基本模型，但基本模型可以在較大的k值下獲得與RL對應(yīng)物相比的可比甚至更高的passk分數(shù)。進一步分析表明，RL訓練模型生成的推理路徑已經(jīng)包含在基礎(chǔ)模型的抽樣分布中，表明RL訓練模型中表現(xiàn)出的大部分推理能力已經(jīng)由基礎(chǔ)模型獲得。RL訓練通過將模型的輸出...

由前OpenAI研究員DanielKokotajlo領(lǐng)銜撰寫的報告《AI2027》，并非遙遠的科幻想象，而是立足于當前人工智能發(fā)展趨勢、結(jié)合專家訪談與嚴謹邏輯推演，對未來幾年（直至2027年）可能發(fā)生的劇變進行的一次“沙盤推演”（即模擬預演）。這份報告的核心論斷極具沖擊力，通用人工智能（AGI）乃至超越人類智慧的超級智能（ASI）可能比許多人預期的更早到來，其對人類文明的重塑力量將遠超工業(yè)革命，而我們的社會對此卻普遍缺乏認知和準備...

“工作流與RAG是大模型應(yīng)用領(lǐng)域階段性的產(chǎn)物。”工作流是對工作流程及其各操作步驟之間業(yè)務(wù)規(guī)則的抽象和概括描述。它可以幫助組織和自動化重復性任務(wù)，提高工作效率。智能體作為人工智能應(yīng)用的一個主要技術(shù)形式，其重要性不言而喻；但同樣智能體也并不是萬能的，因此怎么更好的使用智能體，并串聯(lián)相關(guān)技術(shù)環(huán)節(jié)就成為一個需要解決的問題。而這就是工作流需要解決的問題，通過制定標準的執(zhí)行流程，在不同節(jié)點使用不同的工具(智能...

“提示詞是大模型與外界交互的唯一通道，因此提示詞的重要性遠比我們想象中的要重要。”提示詞或者說提示詞工程，說起來可能大家多多少少都知道是怎么回事；但可能很多人并沒有意識到提示詞工程對大模型的重要性。提示詞是人與大模型溝通的橋梁，就像我們要想使用電腦就離不開鼠標鍵盤一樣；不管你是做AIGC也好，做RAG、Agent也罷，或者其它任何與大模型相關(guān)的技術(shù)或應(yīng)用，都離不開提示詞的存在?？傊痪湓挘魏侮P(guān)于大模型的...

在大語言模型（LLMs）的訓練領(lǐng)域，LowRankAdaptation（LoRA）技術(shù)堪稱一項重大突破。它就像給模型訓練開啟了一條“高速通道”，讓我們能更高效地為特定任務(wù)訓練大語言模型。如今，LoRA在眾多應(yīng)用場景中廣泛使用，并且引發(fā)了一系列改進研究，催生出了許多變體，這些變體從不同角度優(yōu)化LoRA，提升訓練速度、性能，或者兩者兼得。今天，咱們就來深入了解一下LoRA及其家族成員的奧秘。1.LoRA：基礎(chǔ)概念與核心優(yōu)勢LoRA的核心做法是在...

剛剛，kimi發(fā)布全新通用音頻基礎(chǔ)模型KimiAudio，這款由月之暗面（MoonshotAI）推出的開源模型，在24小時內(nèi)收獲3.2萬星標，不僅以1.28%詞錯率刷新語音識別紀錄，更在情感分析、聲音事件分類等十項任務(wù)中碾壓其他競品，堪稱“六邊形戰(zhàn)士”——沒有短板，只有王炸。傳統(tǒng)音頻模型往往專精單一任務(wù)：語音識別、情感分析、降噪……開發(fā)者需像拼樂高般組合多個工具。而KimiAudio的顛覆性在于，它用三層架構(gòu)統(tǒng)一了音頻處理各項任務(wù)：音...

準確的金融市場預測需要多樣化的數(shù)據(jù)源，包括歷史價格趨勢、宏觀經(jīng)濟指標和金融新聞?，F(xiàn)有方法通常獨立處理這些數(shù)據(jù)，未能有效建模其交互。本文提出了跨模態(tài)時間融合（CMTF）框架，集成異構(gòu)金融數(shù)據(jù)以提高預測準確性。實驗表明，CMTF在預測上優(yōu)于多種基線模型，提升了精度、召回率和F1分數(shù)。摘要準確的金融市場預測需要多樣化的數(shù)據(jù)源，包括歷史價格趨勢、宏觀經(jīng)濟指標和金融新聞?，F(xiàn)有方法通常獨立處理這些數(shù)據(jù)，未能有效建模...

大型語言模型（LLMs）在推理能力上的進展引發(fā)了對其在復雜任務(wù)中表現(xiàn)的關(guān)注，尤其是在金融領(lǐng)域。DianJinR1是一個針對金融領(lǐng)域的推理增強框架，通過推理增強監(jiān)督和強化學習，提升金融推理任務(wù)的表現(xiàn)。DianJinR1模型在金融測試集（CFLUE、FinQA、CCC）上顯著優(yōu)于基礎(chǔ)模型，尤其在CFLUE和CCC上表現(xiàn)突出，DianJinR132B在CFLUE上準確率從77.95提升至86.74，CCC上從56.50提升至96.00，超越DeepSeekR1。摘要DianJinR1是一個針對金融領(lǐng)...

在眾多RAG方法中，NodeRAG以其獨特的圖結(jié)構(gòu)框架脫穎而出。NodeRAG通過異構(gòu)圖結(jié)構(gòu)和先進的檢索機制，為LLM提供更精準、更高效的外部知識支持。本文將深入介紹NodeRAG的核心特性、優(yōu)勢及其在多個領(lǐng)域的卓越表現(xiàn)。什么是NodeRAG？NodeRAG是一種以圖為中心的RAG框架，旨在通過異構(gòu)節(jié)點結(jié)構(gòu)化基于圖的檢索增強生成。它將文檔和LLM提取的信息分解為多種類型的節(jié)點（如實體、關(guān)系、語義單元、屬性、高層次元素、概覽和文本），并利用圖...

當前，我們正處在Agent開發(fā)的‘工程化轉(zhuǎn)折點’。打造一個真正“可上線”的Agent系統(tǒng)，不再只是拼接組件，而是圍繞四個核心模塊進行有機組合。在大模型持續(xù)進化的今天，Agent成為很多人眼中的“超級助手”，從代碼編寫到數(shù)據(jù)分析、從網(wǎng)頁問答到知識檢索，它無所不能。但如果你嘗試親自“造一個Agent”，很快會發(fā)現(xiàn)一個現(xiàn)實問題：框架太多，套路太雜，效果卻難以復用上線。這是因為，大多數(shù)教程和開源項目，講的是功能拼接，但真...

4月17日，OpenVINO?2025.1版正式發(fā)布了。我們嘗個鮮，利用OpenVINO在英特爾哪吒開發(fā)套件上部署deepseekr1distillQwen7b模型。一、在邊緣終端部署本地大模型的好處邊緣終端，如樹莓派和英特爾哪吒開發(fā)套件，通常具有較低的功耗和成本，同時具備一定的計算能力。在這些設(shè)備上部署DeepSeekR1大模型，可以帶來以下好處：1.降低云端依賴邊緣終端的本地化部署減少了對云端服務(wù)的依賴，使得設(shè)備能夠在離線或網(wǎng)絡(luò)不穩(wěn)定的情況下獨立運...

當算法學會敘事，人類引以為傲的電影藝術(shù)，是否將迎來一場顛覆性的范式革命？4月24日，電影市場迎來一個具有里程碑意義的時刻——全球首部政府批準走進院線公映、完全由AI生成的70分鐘電影《海上女王鄭一嫂》正式登陸院線。這部沒有真人演員、無需攝影機拍攝、從劇本到成片僅耗時48小時的作品。不僅打破了AIGC內(nèi)容時長的行業(yè)紀錄，更讓觀眾在驚嘆“AI竟能講好復雜故事”的同時，開始思考終極命題：當算法學會敘事，人類導演的價...

編輯云昭出品51CTO技術(shù)棧（微信號：blog51cto）4月25日，一年一度的百度開發(fā)者大會會場如約到來，這是中國國內(nèi)首家AI巨頭在后DeepSeek時代的全新產(chǎn)品的公開亮相。進入2025以后，李彥宏帶領(lǐng)下的百度正在如何思考新的AI應(yīng)用形態(tài)？百度在AI應(yīng)用爆發(fā)時代都做了哪些準備？開發(fā)者都有哪些機會和方向值得關(guān)注？非常值得各位細細研究一番。“模型的世界、應(yīng)用的天下。”百度創(chuàng)始人李彥宏在主題演講中，一口氣發(fā)布了9款新發(fā)布。主打多模...

編者按：當前AI基礎(chǔ)模型的商業(yè)前景正面臨前所未有的挑戰(zhàn)。開源模型的性能日益接近甚至在某些領(lǐng)域超越閉源產(chǎn)品，高昂的推理成本讓訂閱制模式的盈利空間被嚴重擠壓，而價格戰(zhàn)使API服務(wù)利潤率持續(xù)下滑。這些現(xiàn)實問題正迫使每一個在AI領(lǐng)域創(chuàng)業(yè)或投資的人重新思考商業(yè)策略。本文作者基于一線市場觀察和深度行業(yè)洞察，提出了一套商業(yè)模式組合拳。首先，文章深入分析了基礎(chǔ)模型的兩大主要商業(yè)模式——訂閱制和API服務(wù)，并指出API模式雖...

文章鏈接：https:arxiv.orgpdf2504.16915項目鏈接：https:mce.github.ioprojectDreamO亮點直擊提出了DreamO，一個統(tǒng)一的圖像定制框架。它通過在預訓練的DiT模型上訓練少量額外參數(shù)，實現(xiàn)了各種復雜和多條件的定制任務(wù)。基于擴散模型內(nèi)部的表示對應(yīng)關(guān)系，本文設(shè)計了一種特征路由約束，以增強一致性保真度，并在多條件場景中實現(xiàn)有效的解耦。引入了一種漸進式訓練策略，以促進多任務(wù)和復雜任務(wù)設(shè)置的收斂。本文還設(shè)計了一種占位符...

本文旨在探討新式Sesame語音模型運行原理，該模型通過殘差量化壓縮音頻并使用雙轉(zhuǎn)換器自回歸預測碼字以生成逼真的語音。Sesame使用一種名為殘差向量量化的深度學習技術(shù)對語音進行編碼最近，Sesame人工智能公司發(fā)布了他們最新的語音轉(zhuǎn)語音（SpeechtoSpeech）模型的演示。這是一個非常擅長說話的對話式人工智能代理，它們能夠提供相關(guān)的答案，并帶有表情地說話，而且說實話，它們非常有趣，互動性很強。請注意，有關(guān)這方面的系統(tǒng)...

一、時代之變：算力成互聯(lián)網(wǎng)新命脈十年前，工業(yè)用電量是評估經(jīng)濟的重要指標；如今，在全球數(shù)字化浪潮中，算力已然成為互聯(lián)網(wǎng)發(fā)展的核心要素，被譽為互聯(lián)網(wǎng)世界的“新電力”。在這片算力“沃土”上，一場關(guān)乎互聯(lián)網(wǎng)未來的變革正蓄勢待發(fā)。中國互聯(lián)網(wǎng)行業(yè)正處于深度轉(zhuǎn)型關(guān)鍵期。超9億網(wǎng)民規(guī)模與互聯(lián)網(wǎng)在多領(lǐng)域深度綁定，既成就移動互聯(lián)網(wǎng)企業(yè)，也帶來數(shù)據(jù)處理挑戰(zhàn)。如電商大促時，海量訂單處理、商品推薦等業(yè)務(wù)，都依賴強大算力。...

一、勁速云算力：高性能與穩(wěn)定性的典范上篇探討了算力對互聯(lián)網(wǎng)發(fā)展的重要性及現(xiàn)狀，在這片競爭激烈的算力“沃土”上，勁速云算力憑借卓越性能與穩(wěn)定服務(wù)脫穎而出，成為互聯(lián)網(wǎng)企業(yè)創(chuàng)造奇跡的有力助手。面對智能化應(yīng)用和大數(shù)據(jù)處理的高算力需求，勁速云算力能快速完成人工智能模型訓練、異構(gòu)數(shù)據(jù)實時分析等任務(wù)，節(jié)省企業(yè)時間與成本。其先進架構(gòu)和冗余設(shè)計，確保業(yè)務(wù)高峰期或突發(fā)情況時，算力服務(wù)穩(wěn)定不間斷，為企業(yè)發(fā)展筑牢根基...

fwx+b，再經(jīng)由sigmoid(f)或者softmax(f)得到的概率與樣本實際值y(x)是有偏差的，怎樣能使預測值無限接近樣本實際值呢？這時就需要用到反向傳播來更新神經(jīng)網(wǎng)絡(luò)參數(shù)。反向傳播主要是通過計算損失函數(shù)對網(wǎng)絡(luò)參數(shù)的梯度，然后利用梯度下降等優(yōu)化方法來更新參數(shù)，從而使網(wǎng)絡(luò)逐步優(yōu)化，降低預測誤差。。反向傳播流程如下所示：1.前向傳播（ForwardPropagation）首先，對輸入數(shù)據(jù)進行前向傳播計算，得到網(wǎng)絡(luò)的輸出。這包括以下步驟：輸...

在當今數(shù)字化時代，數(shù)據(jù)已經(jīng)成為了企業(yè)和組織的核心資產(chǎn)。然而，如何高效地從海量數(shù)據(jù)中提取有價值的信息，一直是困擾許多人的難題。想象一下，如果你能夠直接用自然語言向數(shù)據(jù)庫提問，就像和朋友聊天一樣輕松，那該有多方便？比如，你想知道第三季度西部地區(qū)最暢銷產(chǎn)品的銷售額，或者去年營銷支出與客戶獲取成本之間的相關(guān)性，只需要簡單地問一句，數(shù)據(jù)庫就能自動給出答案。這聽起來是不是很神奇？這就是TexttoSQL技術(shù)所承諾的...