最近大火的國(guó)產(chǎn)AI大模型Deepseek大家應(yīng)該都不陌生。除了在手機(jī)上安裝APP或通過(guò)官網(wǎng)在線體驗(yàn)，其實(shí)我們完全可以在Windows電腦上進(jìn)行本地部署，從而帶來(lái)更加便捷的使用體驗(yàn)。本地部署AI模型有很多好處，比如：隱私安全——所有數(shù)據(jù)都保存在本地，不用擔(dān)心泄露敏感信息；響應(yīng)速度快——官方或第三方服務(wù)由于訪問(wèn)量大，常常會(huì)導(dǎo)致卡頓，而本地部署能避免這種延遲問(wèn)題。否則，突然火得一塌糊涂，誰(shuí)也扛不住，經(jīng)常發(fā)個(gè)提問(wèn)：得益于其...

記憶感知訓(xùn)練（MAT）這種訓(xùn)練范式通過(guò)修改模型邏輯以防止機(jī)器學(xué)習(xí)模型學(xué)習(xí)虛假相關(guān)性，提高了泛化能力，縮小了平均準(zhǔn)確率（AVG）和最差群組準(zhǔn)確率（WGA）之間的差距。機(jī)器學(xué)習(xí)領(lǐng)域長(zhǎng)期存在的問(wèn)題之一是錯(cuò)誤相關(guān)性的記憶。例如：假設(shè)開(kāi)發(fā)人員正在開(kāi)發(fā)一個(gè)深度神經(jīng)網(wǎng)絡(luò)對(duì)陸地鳥(niǎo)類和海洋鳥(niǎo)類的圖像進(jìn)行分類。他們使用數(shù)千張標(biāo)記過(guò)的圖像訓(xùn)練模型，這個(gè)模型在訓(xùn)練集和測(cè)試集上的表現(xiàn)都非常出色。然而，當(dāng)向模型展示一張?jiān)讷F醫(yī)那里接...

當(dāng)前AI在推理能力提升上遇到了諸多瓶頸，這在一定程度上限制了其進(jìn)一步發(fā)展和廣泛應(yīng)用。在傳統(tǒng)的AI訓(xùn)練中，模型對(duì)大量監(jiān)督數(shù)據(jù)的依賴是一個(gè)顯著問(wèn)題。監(jiān)督學(xué)習(xí)需要大量帶有標(biāo)注的數(shù)據(jù)來(lái)訓(xùn)練模型，使其能夠?qū)π碌臄?shù)據(jù)進(jìn)行準(zhǔn)確的分類或預(yù)測(cè)。然而，獲取高質(zhì)量的標(biāo)注數(shù)據(jù)往往需要耗費(fèi)大量的人力、物力和時(shí)間。以圖像識(shí)別為例，為了訓(xùn)練一個(gè)能夠準(zhǔn)確識(shí)別各種動(dòng)物的AI模型，需要人工對(duì)大量的動(dòng)物圖像進(jìn)行標(biāo)注，標(biāo)記出圖像中動(dòng)物的種...

在當(dāng)今數(shù)字化轉(zhuǎn)型的時(shí)代，大型語(yǔ)言模型（LLMs）已經(jīng)成為了不可或缺的工具，它們?cè)谧匀徽Z(yǔ)言理解、生成和推理方面展現(xiàn)了非凡的能力。然而，這些模型普遍采用的是“一刀切”的方式，即對(duì)于相同的輸入給予所有用戶相似的響應(yīng)。這種方式雖然能夠滿足大多數(shù)情況下的需求，但在需要根據(jù)個(gè)人偏好定制內(nèi)容的情境下就顯得力不從心了。為了解決這個(gè)問(wèn)題，來(lái)自中國(guó)人民大學(xué)高瓴人工智能學(xué)院與百度公司的研究團(tuán)隊(duì)提出了一種名為PPlug的新穎個(gè)...

出品51CTO技術(shù)棧（微信號(hào)：blog51cto）繼各大騰訊、阿里等各大AIInfra廠商火速接入DeepSeek后，這款“國(guó)民AI”的熱度已經(jīng)席卷到了汽車圈。圖片首先是吉利，主打的是語(yǔ)音主動(dòng)交互場(chǎng)景。2月6日，吉利汽車宣布其自研的星睿大模型與DeepSeekR1深度融合，具體來(lái)講就是利用DeepSeekR1模型對(duì)星睿車控FunctionCall大模型、汽車主動(dòng)交互端側(cè)大模型等進(jìn)行蒸餾訓(xùn)練。吉利汽車介紹，融合后的AI系統(tǒng)不僅能精準(zhǔn)理解用戶的模糊意圖，準(zhǔn)確調(diào)用約...

出品51CTO技術(shù)棧（微信號(hào)：blog51cto）本周巴黎人工智能行動(dòng)峰會(huì)之前，許多科技界知名人士都提前亮出了他們對(duì)人工智能未來(lái)的愿景。OpenAI首席執(zhí)行官SamAltman也不例外，今天更新了個(gè)人博客，提出了一些新概念或者新提法：比如“計(jì)算預(yù)算”（computebudget），再比如“2035年，任何人都應(yīng)該能夠調(diào)動(dòng)與2025年所有人的智能總和”。“技術(shù)進(jìn)步的歷史影響表明，我們關(guān)心的大多數(shù)指標(biāo)（健康結(jié)果、經(jīng)濟(jì)繁榮等）在平均水平和長(zhǎng)期來(lái)看都...

一、算法介紹梯度提升樹(shù)（GradientBoostingTrees,GBT）是一種強(qiáng)大的集成學(xué)習(xí)方法，它通過(guò)迭代地添加弱預(yù)測(cè)模型來(lái)構(gòu)建一個(gè)強(qiáng)預(yù)測(cè)模型。在每一輪迭代中，新的模型會(huì)試圖糾正前序模型產(chǎn)生的錯(cuò)誤。GBT可以用于回歸和分類問(wèn)題，并且在許多實(shí)際應(yīng)用中表現(xiàn)優(yōu)異。二、算法原理三、案例分析為了展示梯度提升樹(shù)的實(shí)際應(yīng)用，我們將使用提供的數(shù)據(jù)集來(lái)預(yù)測(cè)機(jī)器是否會(huì)發(fā)生故障。首先加載數(shù)據(jù)，并進(jìn)行必要的預(yù)處理。3.1數(shù)據(jù)預(yù)處理與模型建立im...

1.GoldmedalistPerformanceinSolvingOlympiadGeometrywithAlphaGeometry2我們推出了AlphaGeometry2，這是對(duì)Trinh等人在2024年提出的AlphaGeometry的重大改進(jìn)版本，如今它在解決奧林匹克幾何問(wèn)題方面的能力已經(jīng)超過(guò)了普通金牌得主。為了實(shí)現(xiàn)這一突破，我們首先對(duì)原有的AlphaGeometry語(yǔ)言進(jìn)行了擴(kuò)展，使其能夠處理涉及物體運(yùn)動(dòng)的更難題型，以及包含角度、比例和距離的線性方程的問(wèn)題。這些改進(jìn)以及其他新增內(nèi)容，顯著提高了AlphaG...

在辦公場(chǎng)景中，WPS作為一款強(qiáng)大的辦公軟件，不僅提供了豐富的文檔編輯功能，還支持宏（Macro）來(lái)實(shí)現(xiàn)自動(dòng)化處理。隨著人工智能技術(shù)的發(fā)展，將大模型（如ChatGPT、DeepSeek、文心一言等）集成到WPS中，可以大幅提升文檔編輯、內(nèi)容創(chuàng)作、數(shù)據(jù)分析的效率。本文介紹如何通過(guò)WPSJS宏調(diào)用DeepSeek大模型，實(shí)現(xiàn)自動(dòng)化文本擴(kuò)寫(xiě)功能。1.隨便打開(kāi)一個(gè)word文檔，點(diǎn)擊工具欄“工具”2.點(diǎn)擊“開(kāi)發(fā)工具”3.點(diǎn)擊“查看代碼”4.在打開(kāi)的WPS宏編...

網(wǎng)傳假消息:現(xiàn)在ai.com跳轉(zhuǎn)到Deepseek，而不是ChatGPT了。該域名自ChatGPT推出后一開(kāi)始先被OpenAI買(mǎi)下跳轉(zhuǎn)到ChatGPT，后被xAI買(mǎi)下跳轉(zhuǎn)到xAI，然后又被OpenAI買(mǎi)下跳轉(zhuǎn)到ChatGPT。現(xiàn)在被Deepseek買(mǎi)下跳轉(zhuǎn)到Deepseek了。實(shí)際上:OpenAI、xAI、Deepseek壓根沒(méi)人承認(rèn)購(gòu)買(mǎi)過(guò)這域名.天天改跳轉(zhuǎn)地址左右橫跳，擱這兒釣凱子域名ai.com的注冊(cè)信息AI.com：頻繁跳轉(zhuǎn)的幕后邏輯最初，坊間傳言O(shè)penAI斥巨資收購(gòu)AI.com以導(dǎo)流至ChatGPT.com，然而...

你以為寫(xiě)AI提示詞需要代碼思維？要學(xué)"結(jié)構(gòu)化""語(yǔ)義壓縮"？——錯(cuò)！官方早就把"標(biāo)準(zhǔn)答案"喂到你嘴邊了！操千曲而后曉聲，觀千劍而后識(shí)器這些覆蓋300+場(chǎng)景的官方模板庫(kù)，就是你的AI速成秘籍！雖然官方示例各有偏向，但是它們絕大多數(shù)都是通用的，你可以拿其他家的示例直接在DeepSeek中測(cè)試運(yùn)行！??手把手教學(xué)現(xiàn)在開(kāi)始，文末附鏈接??????Google：職場(chǎng)人效率核武器[職場(chǎng)神器合集]?周報(bào)生成器：自動(dòng)整理工作進(jìn)展+數(shù)據(jù)可視化?PPT大...

編者按：DeepSeekR1到底有什么特別之處？它為什么能在推理任務(wù)上取得如此出色的表現(xiàn)？這背后的訓(xùn)練方法又蘊(yùn)含著怎樣的創(chuàng)新？當(dāng)我們需要模型處理數(shù)學(xué)題、編程任務(wù)，或是進(jìn)行邏輯分析時(shí)，高質(zhì)量的推理能力顯得尤為重要。然而，傳統(tǒng)的訓(xùn)練方法往往需要耗費(fèi)大量人力物力，這對(duì)許多研究團(tuán)隊(duì)和企業(yè)來(lái)說(shuō)都是不小的負(fù)擔(dān)。今天這篇深度解析DeepSeekR1訓(xùn)練方法的文章，將展示一個(gè)令人耳目一新的解決方案：如何通過(guò)創(chuàng)新的強(qiáng)化學(xué)習(xí)方法，在...

01、概述近年來(lái)，隨著大規(guī)模語(yǔ)言模型（LLMs）的迅猛發(fā)展，如何讓這些模型更高效地適應(yīng)特定任務(wù)和領(lǐng)域成為了人工智能領(lǐng)域的熱點(diǎn)話題。在這場(chǎng)競(jìng)賽中，強(qiáng)化微調(diào)（ReinforcedFineTuning，ReFT）脫穎而出，為語(yǔ)言模型的優(yōu)化提供了一種創(chuàng)新性的解決方案。無(wú)論是OpenAI還是字節(jié)跳動(dòng)，均采用了不同的路徑對(duì)這一技術(shù)進(jìn)行了深入探索，展示了ReFT在提升推理能力、優(yōu)化性能上的巨大潛力。今天，我們將帶你全面了解ReFT技術(shù)的背景、核心機(jī)制...

01、概述隨著人工智能技術(shù)的飛速發(fā)展，我們見(jiàn)證了它在諸多領(lǐng)域的卓越表現(xiàn)。然而，即使是當(dāng)下最先進(jìn)的AI系統(tǒng)，在某些核心挑戰(zhàn)上仍顯不足，尤其是涉及多模態(tài)推理與規(guī)劃能力的任務(wù)。當(dāng)任務(wù)需要抽象推理、科學(xué)理解或精確的數(shù)學(xué)計(jì)算時(shí)，這些缺陷就愈發(fā)明顯。與此同時(shí)，AI在實(shí)際應(yīng)用中的擴(kuò)展也帶來(lái)了更多復(fù)雜需求，例如分析包含數(shù)百萬(wàn)字節(jié)的長(zhǎng)文檔。如何突破這些限制，決定了AI能否在教育、科研和產(chǎn)業(yè)等領(lǐng)域釋放更大的潛力。在這一背...

01、概述在信息驅(qū)動(dòng)的時(shí)代，基于圖的RAG（GraphRAG）正迅速成為一種強(qiáng)大的工具，超越了傳統(tǒng)依賴向量存儲(chǔ)的RAG應(yīng)用。它不僅提供語(yǔ)義相似性檢索，更具備強(qiáng)大的推理能力。例如，向量存儲(chǔ)能輕松回答“XYZ公司去年的CFO是誰(shuí)？”這種基于顯式信息的問(wèn)題，但對(duì)于“XYZ公司哪兩位董事畢業(yè)于同一所學(xué)校？”這樣需要隱式推理的問(wèn)題，圖RAG更勝一籌。但問(wèn)題在于，如何構(gòu)建圖數(shù)據(jù)庫(kù)以支持這種高級(jí)檢索？更進(jìn)一步，如何從復(fù)雜的年報(bào)中提取信...

最近各種營(yíng)銷號(hào)鼓吹基于qwen的模型幾十塊錢(qián)復(fù)現(xiàn)deepseekR1zero，坑壞了算法工程師，筆者實(shí)驗(yàn)驗(yàn)證下這個(gè)夸張說(shuō)法，因?yàn)閷?shí)驗(yàn)僅僅是快速的實(shí)現(xiàn)，無(wú)過(guò)多的優(yōu)化，下面實(shí)驗(yàn)數(shù)據(jù)僅供參考，歡迎指正。實(shí)驗(yàn)過(guò)程DeepSeekR1Zero過(guò)程DeepSeekR1Zero是一個(gè)純RL（無(wú)SFT）來(lái)探索模型推理能力的過(guò)程（基于GRPO的RL優(yōu)化過(guò)程）。RewardModel是基于規(guī)則的獎(jiǎng)勵(lì)過(guò)程（RuleBaseRM），R1Zero階段只關(guān)注數(shù)學(xué)、程序類推理問(wèn)題，都是能簡(jiǎn)單通過(guò)規(guī)則判別答...

RAG的核心思想是通過(guò)實(shí)時(shí)數(shù)據(jù)檢索彌補(bǔ)這一缺陷——在生成答案前，系統(tǒng)先從外部數(shù)據(jù)源（如數(shù)據(jù)庫(kù)、API或互聯(lián)網(wǎng)）動(dòng)態(tài)檢索相關(guān)上下文，再結(jié)合LLM的知識(shí)生成更精準(zhǔn)、實(shí)時(shí)的響應(yīng)。但它們通常在處理動(dòng)態(tài)、多步推理任務(wù)、適應(yīng)性和復(fù)雜工作流的協(xié)調(diào)方面仍然存在不足。rag三大組件檢索器（Retriever）：從外部數(shù)據(jù)源（如向量數(shù)據(jù)庫(kù)、知識(shí)圖譜或網(wǎng)頁(yè)）中搜索與查詢相關(guān)的信息。相關(guān)技術(shù)：如BM25關(guān)鍵詞匹配、密集向量搜索等。增強(qiáng)器（Augm...

deepseek開(kāi)源的多模態(tài)大模型Janus再次升級(jí)，也來(lái)簡(jiǎn)單看下Janus的架構(gòu)設(shè)計(jì)。核心創(chuàng)新點(diǎn)：傳統(tǒng)的多模態(tài)模型通常使用單一視覺(jué)編碼器來(lái)處理多模態(tài)理解和生成任務(wù)，這會(huì)導(dǎo)致任務(wù)之間的沖突，因?yàn)檫@兩種任務(wù)對(duì)視覺(jué)信息的需求粒度不同。Janus通過(guò)將視覺(jué)編碼解耦為獨(dú)立的路徑，分別處理多模態(tài)理解和生成任務(wù)，使兩個(gè)任務(wù)得到統(tǒng)一，并取得了比較好的性能。多模態(tài)理解：使用SigLIP編碼器提取圖像的高級(jí)語(yǔ)義信息，適合理解任務(wù)。視覺(jué)生成：...

本指南展示了如何使用HuggingFace的Transformer模型構(gòu)建語(yǔ)義搜索引擎，以提供更精確、更貼合場(chǎng)景的搜索結(jié)果。你也許會(huì)好奇，像谷歌這樣的搜索引擎是如何將“預(yù)算友好的度假勝地”（budgetfriendlyvacationspot）和“廉價(jià)的旅游地點(diǎn)”（cheapplacestotravel）等短語(yǔ)解釋為基本相同的查詢？這正是語(yǔ)義搜索的強(qiáng)大之處。傳統(tǒng)搜索引擎嚴(yán)重依賴于精確的關(guān)鍵字匹配，它們只查找包含查詢中輸入的確切單詞的文檔或結(jié)果。例如，你如果搜索...

出品51CTO技術(shù)棧（微信號(hào)：blog51cto）?SebastianRaschka?是一位外國(guó)知名的AI專家。特別在大型語(yǔ)言模型（LLM）研究方面，有著豐富的研究經(jīng)驗(yàn)。近日DeepSeekR1推理模型的推出，將“任何一款不是o1的模型快速蒸餾成具備強(qiáng)推理能力的o1”成為了可能，而且所需的成本和算力都大大降低。但爆火有一個(gè)地方不好，就是很容易讓我們迷失在炒作的海洋中，尋找不到有價(jià)值的信息。Raschka?非常nice，昨天發(fā)布了一篇有關(guān)DeepSeek推理模型...