近一階段，強化學(xué)習(xí)成為進(jìn)一步提升大模型能力的共識路徑，這時候，你是不是也覺得，給大模型套上強化學(xué)習(xí)（RL）的韁繩，再用上那些能自動驗證對錯的獎勵機制（RLVR），就能讓它們像打了雞血一樣，推理能力蹭蹭往上漲，實現(xiàn)模型自我進(jìn)化，“左腳踩右腳”不斷飛升。然而，清華大學(xué)近期的一項研究《DoesReinforcementLearningReallyIncentivizeReasoningCapacityinLLMsBeyondtheBaseModel（強化學(xué)習(xí)真的會激勵LLMs基模型之外的推理...

還記得2023年初ChatGPT剛出來時，讓它30秒寫一個“冒泡排序”都覺得很新鮮？彈指之間，今天的AIagent已經(jīng)能自主幾分鐘內(nèi)啃下人類程序員需要一小時乃至一天才能完成的需求了。感覺AI進(jìn)步太快跟不上？這可不是錯覺。專注于AI能力評估的METR機構(gòu)扔出重磅研究：AI系統(tǒng)能搞定的編碼任務(wù)復(fù)雜度（以人類所需時間衡量）正以驚人的指數(shù)速度增長，其“時間范圍”（TimeHorizon）——即AI能達(dá)到50%成功率的任務(wù)時長——大約每7個月就翻一番...

目前，很多的使用MCP的案例都是基于Cursor，ClaudeDesktop等客戶端展開的，那么如何在現(xiàn)有的系統(tǒng)里通過代碼集成呢？今天，介紹一個很不錯的MCP客戶端庫mcpuse，集成非常簡單，僅需6行代碼即可創(chuàng)建第一個支持MCP的Agent，可與任何支持工具調(diào)用的Langchain支持的LLM（OpenAI、Anthropic、Groq、LLama等）配合使用，不僅支持本地MCPServer，還支持sse協(xié)議下的遠(yuǎn)程MCP服務(wù)器，這樣就可以和Dify這樣框架集成（??Dify也支持MCP了！...

OpenAI發(fā)布了其最新的人工智能推理模型：o3和o4mini。o3被譽為該公司迄今“最強大的推理模型”，在數(shù)學(xué)、編程、推理、科學(xué)及視覺理解等多個基準(zhǔn)測試中刷新了記錄，尤其擅長處理需要多角度分析的復(fù)雜查詢和視覺任務(wù)，并在實際應(yīng)用中顯著減少了錯誤。與此同時，o4mini作為一款更小巧、快速的模型，旨在提供具有競爭力的價格、速度和性能平衡。它在保持低成本的同時，在數(shù)學(xué)（如AIME基準(zhǔn)測試近乎滿分）、編程和視覺任務(wù)上表現(xiàn)卓越...

最近，以deepSeekR1為代表的推理模型成為熱點，他們可以展示自己的思考過程，一步步解決復(fù)雜的問題，讓原本黑盒模型變得具有可解釋性，同時也為AI安全研究提供了窗口，便于發(fā)現(xiàn)潛在的不良行為。但一個核心問題是：我們能相信AI思維鏈中呈現(xiàn)的內(nèi)容嗎？理想的思維鏈應(yīng)既易懂又“忠誠”（Faithful），即真實反映模型的思考過程。然而，現(xiàn)實中我們無法保證這一點。模型可能無法用人類語言完全表達(dá)其內(nèi)部決策，甚至可能故意隱藏部分...

昨日，AI屆“汪峰”Qwen團(tuán)隊發(fā)布了Qwen2.5VL32BInstruct，作為Qwen2.5VL系列模型的最新迭代，通過強化學(xué)習(xí)優(yōu)化，以32B參數(shù)規(guī)模擊敗上代72B版本，展現(xiàn)出其更智能和輕量級的突出特點。較前代模型在以下方面有了顯著改進(jìn)：更符合人類偏好的回答：調(diào)整輸出風(fēng)格，提供更詳細(xì)、格式更好的答案，更貼近人類偏好。數(shù)學(xué)推理能力提升：在解決復(fù)雜數(shù)學(xué)問題方面，準(zhǔn)確性得到顯著提高。精細(xì)圖像理解和推理：在圖像解析、內(nèi)容識別和視覺邏輯推...

DeepSeek在領(lǐng)域內(nèi)獲得廣泛關(guān)注的核心在于R1Zero僅通過強化學(xué)習(xí)（RL）便成功實現(xiàn)了推理能力的涌現(xiàn)，即發(fā)現(xiàn)Ahamoment。那么，在多模態(tài)領(lǐng)域，是否也能獲得借鑒R1Zero的思路呢？今天介紹的VisionR1就是這一方面的探索的代表，其目的就是研究如何有效利用RL來增強多模態(tài)大型語言模型（MLLM）的推理能力。然而，研究團(tuán)隊發(fā)現(xiàn)，由于缺乏大規(guī)模、高質(zhì)量的多模態(tài)推理數(shù)據(jù)，直接應(yīng)用RL訓(xùn)練MLLM在激發(fā)其深層推理能力（如提問和反思）方面面...

OpenAI昨晚宣布推出其最新的預(yù)訓(xùn)練模型GPT4.5，這是一款在規(guī)模和知識水平上均達(dá)到新高度的產(chǎn)品，被OpenAI譽為其“迄今為止最大、知識最淵博的模型”，標(biāo)志著無監(jiān)督學(xué)習(xí)的又一次重大飛躍。GPT4.5目前作為研究預(yù)覽版，向ChatGPTPro用戶和開發(fā)者開放，預(yù)計下周將向Plus用戶和其他用戶開放。核心更新與特點預(yù)訓(xùn)練規(guī)模顯著提升：GPT4.5的預(yù)訓(xùn)練計算規(guī)模大約是GPT4的10倍，帶來性能的全面提升。在性能甚至超過了一些推理模型，如gemin...

英偉達(dá)工程師最近用DeepSeekR1模型加上“推理時擴(kuò)展”技術(shù)，讓AI自動生成GPU核心代碼，也就是GPU內(nèi)核。更讓人驚訝的是，有些AI生成的代碼甚至比工程師寫的還要好！隨著AI模型處理越來越復(fù)雜的任務(wù)，它們對計算資源的需求也在不斷增長。GPU內(nèi)核作為執(zhí)行計算任務(wù)的關(guān)鍵部分，其優(yōu)化程度直接關(guān)系到模型的性能。然而，傳統(tǒng)的內(nèi)核優(yōu)化需要大量時間和專業(yè)知識，效率低下。NVIDIA工程師們采用了DeepSeekR1模型，這是一種開源的AI模型，...

xAI近日宣布推出Grok3，這是繼Grok2之后的又一重大更新。Grok3在性能上實現(xiàn)了顯著提升，據(jù)ElonMusk透露，其能力比Grok2提升了整整一個數(shù)量級。Grok3的發(fā)布得益于200K個GPU的計算能力，這一數(shù)字在短短92天內(nèi)翻倍。Grok3的訓(xùn)練量是Grok2的10倍，并在一月份完成了預(yù)訓(xùn)練。這一模型仍在不斷訓(xùn)練中，預(yù)示著其未來性能的持續(xù)提升。在性能基準(zhǔn)測試中，Grok3在同類模型中表現(xiàn)出色，顯著超越了Gemini2Pro和GPT4o等模型。即使是Grok3mini...

OpenAI的CEOSamAltman在社交媒體上分享了關(guān)于GPT4.5和GPT5的最新進(jìn)展。OpenAI承認(rèn)目前的產(chǎn)品線對用戶來說過于復(fù)雜，因此他們正在努力簡化產(chǎn)品，目標(biāo)是讓AI能夠“開箱即用”。GPT4.5(內(nèi)部代號為Orion)將會是最后一個“非思維鏈模型”，而GPT5則將整合包括o3在內(nèi)的多項技術(shù)，成為一個集大成者。未來，OpenAI將不再單獨發(fā)布o(jì)3模型。為了讓更多人體驗到AI的強大功能，免費版ChatGPT用戶將可以在標(biāo)準(zhǔn)智能設(shè)置下無限次使用GPT5，當(dāng)然...

OpenAI前研究員AndrejKarpathy最近提出了一個新穎的編程概念——"vibecoding"(氛圍編程)。這是一種依托大語言模型(LLM)的全新編程方式,讓開發(fā)者能以更輕松自然的方式完成編程任務(wù)。這種編程方式的核心在于完全沉浸于編程的“感覺”中，甚至忘記了代碼的存在。vibecoding有以下特點：極簡交互開發(fā)者只需通過語音或文字描述需求無需深入代碼細(xì)節(jié)大量使用"AcceptAll"等快捷操作LLM驅(qū)動依托CursorComposer等AI編程工具結(jié)合SuperWhis...

2024年，vLLM完成了從專業(yè)推理引擎到開源AI生態(tài)系統(tǒng)標(biāo)配解決方案的蛻變。這一年，項目在各個維度都實現(xiàn)了顯著增長：GitHub星標(biāo)數(shù)從14,000增至32,600，貢獻(xiàn)者數(shù)量從190擴(kuò)展到740，月下載量從6,000激增至27,000，近半年的GPU使用時長更是增長了約10倍。這些數(shù)據(jù)印證了vLLM在AI基礎(chǔ)設(shè)施領(lǐng)域的領(lǐng)先地位，已成功為亞馬遜Rufus和領(lǐng)英等大型產(chǎn)品提供核心支持。2024年重要成就社區(qū)建設(shè)與生態(tài)發(fā)展2024年，vLLM建立起了一個充滿活力的開源...

近日，HuggingFace最近開源的一個Agent項目：smolagents。相較于其它框架，它的理念和實現(xiàn)都比較簡單?；趐ython開發(fā)，核心設(shè)計理念是“少即是多”。相比市面上動輒幾萬行代碼的Agent框架，它保持了極簡的風(fēng)格，核心代碼僅有數(shù)千行，但功能卻毫不遜色。HuggingFace團(tuán)隊希望通過這種方式，降低Agent開發(fā)的門檻，讓更多開發(fā)者能夠快速上手。設(shè)計亮點smolagents的最大亮點在于其對“代碼Agent”的原生支持。這意味著Agent的行為將...

GitHub和Microsoft日前聯(lián)合宣布推出GitHubCopilot免費計劃，所有開發(fā)者只需一個GitHub賬號即可在VSCode中免費使用這款A(yù)I編程助手，無需信用卡，無需訂閱。這一免費計劃為用戶每月提供2000次代碼補全和50次聊天請求額度。用戶可以使用GPT4o和Claude3.5Sonnet兩種AI模型，基本滿足日常開發(fā)需求。如需更多功能，可升級至無限制的Pro計劃，該計劃還將在明年支持o1和Gemini等更多模型。除了基礎(chǔ)的代碼補全功能，GitHubCopilot還推出...

當(dāng)前，向量數(shù)據(jù)庫已經(jīng)成了一個紅海市場，新興的還是傳統(tǒng)數(shù)據(jù)庫廠商都在做這方面的工作。然而，在嵌入式，端上的向量數(shù)據(jù)庫比較少，chromaDB算是其中一個，但它不算是一個純原生、深度優(yōu)化的的嵌入式向量數(shù)據(jù)庫，仍采用parquet格式（讀一行數(shù)據(jù)需要讀取整個塊解壓，比較慢，另外副本占用空間），功能也比較少，那有沒有更好的選擇呢？很多人自然想到關(guān)系型嵌入式數(shù)據(jù)庫王者——Sqlite，奈何它的向量版本sqlitevec還處于開發(fā)中，...

微軟近期發(fā)布的Phi4大語言模型震撼AI社區(qū)，這款僅14B參數(shù)的輕量級模型以其卓越的性能，挑戰(zhàn)了現(xiàn)有大型AI模型的性能極限。Phi4最引人注目的成就是在數(shù)學(xué)推理領(lǐng)域展現(xiàn)出令人驚嘆的能力。在AMC1012數(shù)學(xué)競賽問題上，模型達(dá)到了91.8%的驚人準(zhǔn)確率，不僅超越了，甚至與GPT4omini和Llama3.370B的性能相當(dāng)。這一成就背后，是微軟工程師在數(shù)據(jù)生成和訓(xùn)練技術(shù)上的創(chuàng)新突破。模型性能的關(guān)鍵來自三個核心技術(shù)創(chuàng)新：高質(zhì)量合成數(shù)據(jù)集：微軟工...

近日，PrimeIntellect團(tuán)隊發(fā)布了全球首個由全球協(xié)作訓(xùn)練的10B參數(shù)語言模型——INTELLECT1。這一突破性成果不僅標(biāo)志著大規(guī)模模型訓(xùn)練不再局限于大型企業(yè)，而是可以通過分布式、社區(qū)驅(qū)動的方式實現(xiàn)，為未來的AI發(fā)展開辟了新的道路。項目亮點INTELLECT1的成功訓(xùn)練涉及五大洲、五個國家，同時使用了112臺H100GPU，由全球30位貢獻(xiàn)者共同完成。這一壯舉不僅展示了分布式訓(xùn)練的巨大潛力，還實現(xiàn)了高計算利用率：在美國境內(nèi)達(dá)到96%，跨...

OpenAI新發(fā)布的O1模型，讓AI推理成了行業(yè)焦點。這是首次在AI系統(tǒng)中，推理計算占了很大比重。隨之誕生的推理時ScalingLaw表明，讓模型多"思考"一會，準(zhǔn)確度就會更高。Anthropic也在跟進(jìn)，推出非常依賴推理能力的“ComputerUse”的Agent功能。這說明AI應(yīng)用越來越復(fù)雜，對推理能力的要求也越來越高。推理性能直接影響用戶體驗反應(yīng)快不快，放在本地還是云端，都會影響實際使用感受。用的人越多，需要的算力就越大，這就涉及到成本和...

微軟提出的GraphRAG很有效，但是官方實現(xiàn)和使用都很復(fù)雜，不易修改和定制。近日，網(wǎng)絡(luò)上出現(xiàn)一個國人開發(fā)的更簡潔、易用且高度可定制的版本實現(xiàn)——nanographrag，它保留了核心功能，同時提供了更友好的用戶體驗。值得一提的是之前介紹的fastgraphrag也受到了該項目的啟發(fā)。nanographrag核心特點是其簡潔性、易用性和可定制性。代碼量僅為1100行（不包括測試和提示），是官方實現(xiàn)的緊湊高效替代品。它設(shè)計為輕量級、異步和完全...