編輯伊風(fēng)、言征OpenAI真的裝不下去了！根據(jù)CNBC爆料，OpenAI剛剛向美國政府提交了一份長達(dá)15頁的建議書，呼吁放開監(jiān)管，字里行間透露著對中國AI技術(shù)競爭的擔(dān)憂——如果不行動，中國AI將在2030年之前全面超越美國。這份建議書反映出OpenAI試圖直接影響即將出臺的“AI行動計劃”。該計劃由美國科技政策辦公室（OSTP）起草，并需在7月前提交給特朗普總統(tǒng)。OpenAI在原報告中寫道：“盡管美國目前在AI領(lǐng)域仍保持領(lǐng)先，但DeepSeek顯示...

隨著大模型迭代的浪潮一波接一波地推高技術(shù)前沿，Agent技術(shù)已經(jīng)成為大模型落地的主流選擇，并被視為賦予大模型更廣闊能力的最佳路徑。從理解復(fù)雜的指令，到處理多模態(tài)信息，從簡單的問答系統(tǒng)到復(fù)雜的決策支持系統(tǒng)，從個性化推薦到自動化的業(yè)務(wù)流程管理，陸續(xù)在更多領(lǐng)域展現(xiàn)出其巨大的潛力和價值，它正在為社會帶來深刻的變革。在這場趨之若鶩的群體行動中，面對這項持續(xù)發(fā)展變化的技術(shù)簇，我們應(yīng)采取一種積極探索與謹(jǐn)慎評估并重...

編者按：如何有效地為推理模型編寫最佳提示詞？對于OpenAI推出O1和O3mini等這些專為深度推理而設(shè)計的模型，傳統(tǒng)的提示詞工程技巧是否仍然適用？我們今天為大家?guī)淼倪@篇文章，作者的觀點是：推理模型與傳統(tǒng)大語言模型在提示詞處理方式上有本質(zhì)不同，需要采用更簡潔直接的提示詞策略來充分發(fā)揮其優(yōu)勢。文章首先深入剖析了OpenAI的O1O3mini與GPT4o三大模型的核心差異：1.O1O3mini內(nèi)置深度推理鏈，無需顯式引導(dǎo)即可自主分析，而GP...

事實證明，云已經(jīng)成為大規(guī)模AI部署的主要陣地，其提供的快速原型設(shè)計、彈性計算及存儲等AI原生API，正是攻克擴(kuò)展問題的利器。本文將助你快速梳理如何在云端構(gòu)建并擴(kuò)展生成式AI應(yīng)用程序。云在生成式AI中的重要作用?云在當(dāng)代生成式AI應(yīng)用中的核心作用，在于其能夠容納AI模型所需要的巨大處理能力、數(shù)據(jù)存儲與分布式流程需求。相比之下，傳統(tǒng)部署往往無法在靈活性和性能等方面，適應(yīng)不斷變化的業(yè)務(wù)挑戰(zhàn)。以AzureAI為例，其提供現(xiàn)...

核心要點速覽機(jī)器學(xué)習(xí)中的擴(kuò)散模型是什么？擴(kuò)散模型屬于生成模型（它們生成的數(shù)據(jù)與訓(xùn)練數(shù)據(jù)相似）。擴(kuò)散模型的運(yùn)作遵循兩個簡單步驟：首先，通過逐步添加高斯噪聲來破壞訓(xùn)練數(shù)據(jù)；而訓(xùn)練過程則是通過逆向這個添加噪聲的過程來恢復(fù)數(shù)據(jù)。一個訓(xùn)練良好的擴(kuò)散模型能夠從隨機(jī)噪聲中生成我們想要的任何內(nèi)容。如果把噪聲替換為嵌入空間，你可能就能理解其中的原理了。擴(kuò)散模型的優(yōu)勢擴(kuò)散模型有4個主要優(yōu)點，使其在基于文本的生成領(lǐng)域...

今天分享一篇西湖大學(xué)張岳老師的一篇利用合成推理數(shù)據(jù)做論文評審文章，Title:DeepReview:ImprovingLLMbasedPaperReviewwithHumanlikeDeepThinkingProcess：通過合成類人深度思考過程改進(jìn)基于LLM的論文評審效果。這篇文章探索了如何利用大型語言模型（LLM）來改進(jìn)論文評審過程，提出了一個多階段框架DeepReview，通過結(jié)合結(jié)構(gòu)化分析、文獻(xiàn)檢索和基于證據(jù)的論證，模擬專家評審員的深度思考過程，從而提高LLM在論文評審中的可靠性...

1.模型簡介與創(chuàng)新點介紹1.1模型簡介將時頻圖像和一維時序信號相結(jié)合，并使用CBAM注意力機(jī)制優(yōu)化的ResNet和GRU多模態(tài)特征融合模型，來進(jìn)行故障信號分類，能夠有效地結(jié)合時頻圖像空間特征和一維信號時間序列特征，能夠充分利用多模態(tài)特征的優(yōu)勢。1.2創(chuàng)新點介紹創(chuàng)新一：多模態(tài)融合本模型將時頻圖像和一維時序信號進(jìn)行多模態(tài)融合，充分利用這兩類數(shù)據(jù)的互補(bǔ)性。時頻圖像通過馬爾可夫轉(zhuǎn)移場MTF，將信號的頻率和時間特征可視化。而一...

盡管DeepSeekR1風(fēng)格的模型在語言模型中已經(jīng)取得了成功，但其在多模態(tài)領(lǐng)域的應(yīng)用仍然有待深入探索。上交大等提出并開源VisualRFT，將RFT擴(kuò)展到視覺任務(wù)，通過設(shè)計針對不同視覺任務(wù)的可驗證獎勵函數(shù)，提升LVLMs在視覺感知和推理任務(wù)中的性能。視覺強(qiáng)化微調(diào)（VisualRFT）的概述。與（a）數(shù)據(jù)驅(qū)動的視覺指令微調(diào)相比，（b）視覺強(qiáng)化微調(diào)（VisualRFT）在有限數(shù)據(jù)下更具數(shù)據(jù)效率。（c）成功地將RFT應(yīng)用于一系列多模態(tài)任務(wù)，并在底部展...

微軟GraphRAG自提出，已歷時快一年，PaperAgent對其發(fā)展歷程進(jìn)行了專門梳理與總結(jié)：去年4月，為解決傳統(tǒng)RAG在全局性的查詢總結(jié)任務(wù)上表現(xiàn)不佳，微軟多部門聯(lián)合提出ProjectGraphRAG（大模型驅(qū)動的KG）；去年7月，微軟正式開源GraphRAG項目，引起極大關(guān)注，至今23.2kstar，但落地時卻面臨巨大成本痛點（具體：LLM用于實體關(guān)系抽取+描述，社區(qū)總結(jié)）；去年11月，為了上述痛點，微軟發(fā)布了LazyGraphRAG，將數(shù)據(jù)索引成本降低1000倍，...

今天被OpenAI的定價策略驚掉下巴——百萬token收費(fèi)600刀的o1pro，這價格都可以買270份DeepSeek全家桶了。有國內(nèi)網(wǎng)友調(diào)侃為“美國版5G笑話”：“睡覺前忘了斷網(wǎng)，結(jié)果一覺醒來房子是OpenAI的了”。有意思的是官方說辭：號稱投入更多算力保障，能解決癌癥級難題。但有媒體在報道中指出，o1pro實際表現(xiàn)效果并沒有宣稱的那么優(yōu)秀：有用戶實測后暴露了短板——處理數(shù)獨(dú)錯誤頻出。其實OpenAI的暗線已經(jīng)逐漸清晰：??普通用戶用「青春版...

在充滿挑戰(zhàn)與機(jī)遇的人工智能領(lǐng)域，大語言模型（LargeLanguageModels,LLMs）已經(jīng)在多個場景中展現(xiàn)了驚人的潛力。從語言生成到機(jī)器翻譯，這些模型不斷突破界限。而在軟件開發(fā)這一專業(yè)化領(lǐng)域，它們似乎成為了一種理想的助手——幫助程序員從自然語言描述中生成代碼，或通過提示優(yōu)化現(xiàn)有程序。然而，盡管模型的能力令人驚嘆，它們也面臨著不可忽視的問題：是否能真正理解編程邏輯，還是僅僅在“記住”和“復(fù)述”？來自上海交通大學(xué)...

在這個系列文章中，我會用通俗的語言，為大家介紹學(xué)習(xí)大模型的核心知識點。讀完這個系列的文章，你會深入理解語言大模型、多模態(tài)大模型的核心技術(shù)點，包括模型結(jié)構(gòu)、訓(xùn)練方式、數(shù)據(jù)處理、多模態(tài)融合等。大模型的前身是語言模型，圓圓是很早就開始在工業(yè)界研究和應(yīng)用語言模型的一批人，因此對整個深度學(xué)習(xí)時代語言模型的發(fā)展歷程都有見證。當(dāng)時還沒有Transformer、BERT，只有LSTM、Attention這種結(jié)構(gòu)。工業(yè)界效果最好、應(yīng)用最穩(wěn)...

一、AI大模型的技術(shù)突破與產(chǎn)業(yè)現(xiàn)狀在技術(shù)迭代與產(chǎn)業(yè)需求的雙重驅(qū)動下，AI大模型正成為重塑全球經(jīng)濟(jì)格局的核心力量。以Transformer架構(gòu)為基礎(chǔ)的生成式預(yù)訓(xùn)練模型，通過萬億級參數(shù)規(guī)模與海量數(shù)據(jù)訓(xùn)練，實現(xiàn)了從信息形式處理到內(nèi)容理解的質(zhì)的飛躍。這種突破不僅體現(xiàn)在語言生成、對話交互和跨領(lǐng)域遷移等核心能力上，更通過開源生態(tài)與商業(yè)化應(yīng)用，兼容至金融、制造、醫(yī)療等多個垂直領(lǐng)域。目前，大模型的產(chǎn)業(yè)應(yīng)用呈現(xiàn)出鮮明的層級特征...

一、問題出在哪？從真實故障說起去年我們接了個電商客戶案例：他們的客服系統(tǒng)用RAG處理用戶咨詢時，遇到這樣一個問題："比較推薦給Nike和Puma的智能手表在防水性能和運(yùn)動模式上的差異"傳統(tǒng)RAG的表現(xiàn)就像個老實但死板的學(xué)生：把整個問題扔進(jìn)搜索引擎抓回20篇產(chǎn)品手冊生成籠統(tǒng)的功能對比結(jié)果用戶投訴答案"像產(chǎn)品說明書，沒有商業(yè)洞察"。問題出在哪？這暴露出傳統(tǒng)架構(gòu)的三大死穴：問題復(fù)雜度越高，檢索精度越差（我們的測試顯示，...

出品51CTO技術(shù)棧（微信號：blog51cto）想知道世界SOTA級別的模型用在物理世界中有多震撼嗎？GoogleDeepMind做了一件破天荒的事情。大模型自爆火以來，已經(jīng)過去兩年多，但在物理世界中真正能轉(zhuǎn)化為機(jī)器人行為，還是一個世界級難題。如何讓機(jī)器人理解物理世界，并能與之安全、高效地交互也是各大科技巨頭一直在研究的兩大前沿命題。圖片這一次，以GoogleDeepMind為主導(dǎo)的研究團(tuán)隊投入了近120名研究人員，耗時一年半，一次性給這兩...

昨晚，谷歌CEOSundarPichai宣布，開源最新多模態(tài)大模型Gemma3，主打低成本高性能。Gemma3共有10億、40億、120億和270億四種參數(shù)。但即便最大的270億參數(shù)，只需要一張H100就能高效推理，同類模型要達(dá)到這個效果最少要提升10倍算力，也是目前最強(qiáng)小參數(shù)模型。根據(jù)盲測LMSYSChatbotArena數(shù)據(jù)顯示，Gemma3僅次于DeepSeek的R1671B，高于OpenAI的o3mini，Llama3405B等知名模型。DeepSeek的R1是相當(dāng)有排面，國內(nèi)外發(fā)布高性能低成本模型...

你有沒有想過，為什么當(dāng)紅炸子雞DeepSeek這樣的大語言模型能夠又快又好地回答各種問題，而且成本又那么低？秘密之一就在于它使用的"混合專家"（MixtureofExperts，簡稱MoE）架構(gòu)。本文將用通俗易懂的語言，解釋MoE是什么，它如何工作，以及為什么它如此重要。MoE是什么？想象一下一所大學(xué)：傳統(tǒng)模型就像一位超級教授，必須精通所有學(xué)科，從文學(xué)到物理，從歷史到計算機(jī)科學(xué)。每個問題都由這位教授獨(dú)自解答。MoE模型則像一所設(shè)有...

引言：LangChain的背景與意義在人工智能快速發(fā)展的時代，大型語言模型（LLM）如OpenAI的GPT系列，已成為生成自然語言文本的核心技術(shù)。然而，將這些模型應(yīng)用于實際應(yīng)用（如聊天機(jī)器人或虛擬助手）時，開發(fā)者常常面臨提示管理、外部數(shù)據(jù)集成和上下文保持的挑戰(zhàn)。LangChain作為一個開源框架，旨在簡化這些復(fù)雜性，提供模塊化工具，幫助開發(fā)者高效構(gòu)建LLM驅(qū)動的應(yīng)用。LangChain于2022年10月由HarrisonChase在RobustIntelligence啟動...

一、環(huán)境準(zhǔn)備1.1安裝框架全功能安裝（RAG代碼解釋器GUI支持）pipinstallU"qwenagent[rag,codeinterpreter,pythonexecutor,gui]"簡約安裝版本pipinstallUqwenagent1.2模型服務(wù)配置方法1：官方服務(wù)exportDASHSCOPEAPIKEY'yourapikey'方法2：本地部署（vLLM示例）fromvllmimportLLM,SamplingParamsllmLLM(model"Qwen27BChat")二、核心功能開發(fā)2.1工具定義與使用fromqwenagent.tools.baseimportBaseTool,registertoolimportjson5reg...

剛開始琢磨使用DeepSeekR1風(fēng)格訓(xùn)練多模態(tài)R1模型，就看到這個工作，本文一起看看，供參考。先提出問題，僅靠RL是否足以激勵MLLM的推理能力？結(jié)論：不能，因為如果RL能有效激勵推理能力，VisionR1Zero應(yīng)該表現(xiàn)出生成復(fù)雜CoT的能力，并在基準(zhǔn)測試中提升準(zhǔn)確率。如下圖D和E所示：方法：從未經(jīng)專門推理優(yōu)化的原始MLLM（例如Qwen2.5VL7BInstruct）開始，直接應(yīng)用RL訓(xùn)練。使用與VisionR1相同的獎勵函數(shù)，即硬格式結(jié)果獎勵函數(shù)（HFRRF）...