最近公司處理LLM項目的同事咨詢了我一個問題：明明文檔中多次提到同一個專有名詞，RAG卻總是漏掉關(guān)鍵信息。排查后發(fā)現(xiàn)，問題出在傳統(tǒng)的分塊方法上——那些相隔幾頁卻密切相關(guān)的句子，被無情地拆散了。我給了一些通用的建議，比如使用混合檢索代替單一的語義檢索，基于chunk生成QA對等等。接著他又提出了一個問題，有沒有通過分塊技術(shù)能減少這類問題的發(fā)生？我說你也可以試試最近新提出的一種分塊策略：AgenticChunking.為什么分...

01、概述隨著科技的飛速發(fā)展，“被動收入”已經(jīng)成為許多人熱議的話題。大家總希望通過一些創(chuàng)意的方式，創(chuàng)造出不需要花費大量時間和精力的收入來源。那么，什么是真正的被動收入？它是通過什么方式得以實現(xiàn)的？而如今，隨著大型語言模型（LLMs）的興起，我們可以利用它們開創(chuàng)一些全新的機(jī)會，甚至對于那些剛?cè)腴T的朋友，也能輕松上手。今天就讓我們來揭開被動收入的真實面紗，同時探討一下如何利用LLMs賺取額外的收入！02、被動...

01、概述當(dāng)ChatGPT在2022年底橫空出世時，全球用戶第一次真切感受到AI對話的震撼。而到了2025年的今天，這場由大型語言模型（LLM）引發(fā)的智能革命早已突破實驗室的藩籬，正在重塑我們工作、生活乃至認(rèn)知世界的方式。從華爾街的交易大廳到社區(qū)醫(yī)院的問診臺，從電商平臺的智能客服到制造車間的數(shù)字孿生，一場靜默卻深刻的技術(shù)變革正在每個角落上演。本文將帶您穿越到2025年的智能世界，通過七大核心趨勢解碼LLM如何重構(gòu)商業(yè)版圖與...

01、概述在當(dāng)今這個科技飛速發(fā)展的時代，人工智能已經(jīng)成為了我們生活中不可或缺的一部分。從智能家居到自動駕駛，從智能客服到醫(yī)療診斷，AI的應(yīng)用無處不在。而今天，我們要聊的主角，是AI領(lǐng)域的一個全新突破——Grok3。02、Grok3：AI界的“超級大腦”誕生！Grok3是由埃隆·馬斯克旗下的AI公司x.AI開發(fā)的最新模型。它代表了AI技術(shù)的巨大飛躍，為聊天機(jī)器人帶來了前所未有的推理能力、處理速度和決策能力。Grok3擁有類似人類的思...

本文將探討如何構(gòu)建一個RAG系統(tǒng)并使其完全由語音激活。RAG（檢索增強(qiáng)生成）是一種將外部知識用于額外上下文以饋入到大語言模型（LLM），從而提高模型準(zhǔn)確性和相關(guān)性的技術(shù)。這是一種比不斷微調(diào)模型可靠得多的方法，可以改善生成式AI的結(jié)果。傳統(tǒng)上，RAG系統(tǒng)依賴用戶文本查詢來搜索矢量數(shù)據(jù)庫。然后將檢索到的相關(guān)文檔用作生成式AI的上下文輸入，生成式AI負(fù)責(zé)生成文本格式的結(jié)果。然而，我們可以進(jìn)一步擴(kuò)展RAG系統(tǒng)，以便能夠接受...

引言：本文將全面且深入地解析BlazeRangePartitioning算子的Native實現(xiàn)過程。相較于原生Spark，RangePartitioning的Native實現(xiàn)在執(zhí)行時間上達(dá)到了30%的顯著下降，同時在資源開銷方面節(jié)省了高達(dá)76%。這一改進(jìn)大幅降低了運行成本，展現(xiàn)了Native實現(xiàn)帶來的巨大優(yōu)勢。一、算子描述RangePartitioning是shufflepartitioning的一種分區(qū)類型。它通過根據(jù)數(shù)據(jù)的值范圍將數(shù)據(jù)劃分成多個分區(qū)。每個分區(qū)包含特定范圍內(nèi)的值，通常用于處理有...

?本篇分享SFT和RL在大模型訓(xùn)練中起到的作用。監(jiān)督微調(diào)(SFT)和強(qiáng)化學(xué)習(xí)(RL)都是目前大模型的基礎(chǔ)模型后訓(xùn)練技術(shù)，像DeepSeekR1、kimi等的訓(xùn)練方法都將兩種技術(shù)應(yīng)用到了極致。如何去設(shè)計訓(xùn)練步驟（先SFT再RL，還是直接RL）都需要對SFT和RL的能力有較深刻的了解。本篇就以面經(jīng)的形式，探討SFT、RL兩種不同的后訓(xùn)練范式在基于文本規(guī)則和視覺變體的情況下對模型記憶與泛化能力的作用。下面是一個快捷目錄。一、SFT和RL分別對基座大...

編者按：人工智能真的能“推理”嗎？我們是否正在用過于狹隘的人類思維，限制了對AI推理能力的認(rèn)知？我們今天為大家?guī)淼奈恼?，作者的觀點是：AI的推理能力不應(yīng)被簡單地用“人類中心主義”的標(biāo)準(zhǔn)來否定。文章重點揭示了三個關(guān)鍵內(nèi)容：推理能力的定義應(yīng)更加開放，不應(yīng)局限于傳統(tǒng)人類思維模式通過多個標(biāo)準(zhǔn)化測試（如HellaSwag、WinoGrande），AI在推理任務(wù)中已展現(xiàn)出顯著能力我們需要以更開放的心態(tài)，將AI視為一種獨特的“外星智...

?打開LMStudio官網(wǎng)????選擇適合自己的操作系統(tǒng)，下載LMStudio安裝包成功后運行LMStudio，頂部文本框輸入deepseek，點擊搜索模型在搜索結(jié)果中選擇7B參數(shù)模型，如上圖右側(cè)提示“Noresultfound”說明官方未直接提供deepseekgguf模型文件。這時，我們需要自己到別處下載dsgguf文件，繼續(xù)如下操作：?打開魔搭官網(wǎng)，????進(jìn)入模型庫，搜索deepseekr1選擇deepseekr1gguf模型文件，根據(jù)你自己電腦的配置情況，選擇大小合適的參...

出品51CTO技術(shù)棧（微信號：blog51cto）編輯伊風(fēng)昨晚，阿里2025財年Q3財報新鮮出爐，同比增長8%，可以說成績相當(dāng)亮眼！淘天增收繼續(xù)加快，阿里云增速重回加速狀態(tài)，多項核心業(yè)務(wù)增速達(dá)到年內(nèi)最佳。財報顯示：阿里第三季度營收增速創(chuàng)逾一年以來最快，資本開支大增，核心業(yè)務(wù)加速增長，淘天收入增長加快，阿里云收入重回雙位數(shù)增長（13%），增幅創(chuàng)約兩年以來最大，AI相關(guān)產(chǎn)品收入連續(xù)六季度保持三位數(shù)增長。圖片阿里績后美股盤前拉...

用AI提高AI的效率，它們就能變得像人類大腦一樣高效？我們的大腦只用了20瓦的能量就能完成復(fù)雜思考，而現(xiàn)代AI系統(tǒng)卻需要成排的高功率GPU和驚人的電力消耗。這種差距如何縮??？日本AI初創(chuàng)公司SakanaAI團(tuán)隊提出了一個大膽的愿景：利用AI本身來優(yōu)化AI。他們開發(fā)的「AICUDA工程師」是這一理念的具體實踐。「AICUDA工程師」是第一個用于全自動CUDA內(nèi)核發(fā)現(xiàn)和優(yōu)化的綜合智能體框架。這種方法不僅開創(chuàng)性地將進(jìn)化計算與大型語言模型相結(jié)...

論文鏈接：https:arxiv.orgpdf2502.04507Git鏈接：https:github.comhaoailabFastVideoHuggingface：https:huggingface.coFastVideoFastHunyuan亮點直擊識別并量化了最先進(jìn)的視頻DiT中的3D局部性和頭部specialization，揭示了完整3D注意力中的大量冗余。引入了SLIDINGTILEATTENTION，一種基于分塊的滑動窗口注意力機(jī)制。優(yōu)化內(nèi)核與FlashAttention3相比實現(xiàn)了最小的開銷，MFU達(dá)到58.79%。STA將注意力加速超過10倍，并將端到端視頻...

前言傳統(tǒng)時間序列預(yù)測模型（如ARIMA、單一LSTM）在面對多尺度特征（如長周期、短周期、噪聲混雜）和非線性動態(tài)（如突變、趨勢漂移）時表現(xiàn)受限，尤其對以下場景效果不佳：強(qiáng)噪聲干擾：工業(yè)傳感器信號中的高頻噪聲掩蓋真實模式多季節(jié)性與趨勢耦合：如電力負(fù)荷數(shù)據(jù)（日周期+周周期+節(jié)假日趨勢）長期依賴與短期波動并存：如股票價格序列針對以上問題，本期提出一種基于STL+VMD二次分解，InformerLSTM的并行預(yù)測模型，該創(chuàng)新模型通...

DeepSeek官推發(fā)布了最新技術(shù)成果NSA：一種面向硬件且支持原生訓(xùn)練的稀疏注意力機(jī)制，專為超快長上下文訓(xùn)練與推理設(shè)計。NSA的核心組成：動態(tài)分層稀疏策略粗粒度的token壓縮細(xì)粒度的token選擇??NSA針對現(xiàn)代硬件進(jìn)行了優(yōu)化設(shè)計，顯著提升了推理速度，并有效降低了預(yù)訓(xùn)練成本——同時不損失性能。在通用基準(zhǔn)測試、長文本任務(wù)和基于指令的推理任務(wù)中，NSA的表現(xiàn)均能達(dá)到甚至超越傳統(tǒng)全注意力模型的水平。1.動態(tài)分層稀疏策略NSA的核心...

情緒識別作為人機(jī)交互中的關(guān)鍵一環(huán)，能夠提升智能系統(tǒng)的反應(yīng)靈敏度和人性化程度。但是傳統(tǒng)的情緒標(biāo)注方法面臨著諸多挑戰(zhàn)和局限性，人工情緒標(biāo)注過程既耗時又昂貴，并且標(biāo)注員可能會因個人主觀性帶來不同的評估標(biāo)準(zhǔn)，從而影響標(biāo)注的一致性和準(zhǔn)確性。人工標(biāo)注不僅成本高且效率低下，標(biāo)注員需要長時間精心標(biāo)注數(shù)據(jù)，這不但要求大量人力資源，還會引入人類認(rèn)知中的固有變異性和潛在偏見。情緒標(biāo)注任務(wù)的主觀性和細(xì)微差別增加了標(biāo)注...

今天，我們正式發(fā)布了LangMemSDK——一個幫助您的代理通過長期記憶不斷學(xué)習(xí)和改進(jìn)的工具庫。這個SDK提供了一些工具，能夠從對話中提取信息、通過更新提示詞優(yōu)化代理行為，并保持關(guān)于行為、事實和事件的長期記憶。您可以將LangMem的核心API與任何存儲系統(tǒng)配合使用，也能在任何代理框架中集成。它還與LangGraph的長期記憶層原生兼容。我們還推出了一項托管服務(wù)，提供額外的長期記憶功能，并且免費提供——如果您希望在生產(chǎn)環(huán)境中...

智能體崛起人工智能界為能夠自主行動的系統(tǒng)奠定了基礎(chǔ)，通過迭代提示大型語言模型，在各種應(yīng)用中實現(xiàn)了性能的大幅提升。發(fā)生了什么“智能體”成為了人工智能領(lǐng)域的新熱詞。研究人員、工具供應(yīng)商和模型開發(fā)者紛紛為大型語言模型(LLM)賦予了決策和行動能力，以實現(xiàn)特定目標(biāo)。這些進(jìn)展預(yù)示著來年及未來智能體應(yīng)用將迎來爆發(fā)式增長。幕后推手多種工具的出現(xiàn)，助力開發(fā)者構(gòu)建智能體工作流程。2023年10月├──CrewAI發(fā)布了開源Python...

今天給大家介紹一片最新的多模態(tài)時間序列預(yù)測工作。這篇文章采用了時間序列、圖像、文本三種模態(tài)的數(shù)據(jù)形式，進(jìn)行時間序列預(yù)測，增強(qiáng)底層信息的輸入，提升時序預(yù)測效果。論文標(biāo)題：TimeVLM:ExploringMultimodalVisionLanguageModelsforAugmentedTimeSeriesForecasting下載地址：??https:arxiv.orgpdf2502.04395??1.研究背景傳統(tǒng)的時間序列預(yù)測方法，都是最基礎(chǔ)的時間序列形式數(shù)據(jù)進(jìn)行建模的。然而，最近一些工作將文本信息...

今天給大家介紹一篇視頻多模態(tài)大模型工作，這篇文章的核心是探索了在現(xiàn)有的SOTA視頻多模態(tài)大模型中，引入顯示的視頻時序建模提升模型的視頻理解能力。論文標(biāo)題：ExploringtheRoleofExplicitTemporalModelinginMultimodalLargeLanguageModelsforVideoUnderstanding下載地址：??https:arxiv.orgpdf2501.16786??1.研究背景傳統(tǒng)的時間序列預(yù)測方法，都是最基礎(chǔ)的時間序列形式數(shù)據(jù)進(jìn)行建模的。然而，最近一些工作將文本信息、圖...

英偉達(dá)工程師最近用DeepSeekR1模型加上“推理時擴(kuò)展”技術(shù)，讓AI自動生成GPU核心代碼，也就是GPU內(nèi)核。更讓人驚訝的是，有些AI生成的代碼甚至比工程師寫的還要好！隨著AI模型處理越來越復(fù)雜的任務(wù)，它們對計算資源的需求也在不斷增長。GPU內(nèi)核作為執(zhí)行計算任務(wù)的關(guān)鍵部分，其優(yōu)化程度直接關(guān)系到模型的性能。然而，傳統(tǒng)的內(nèi)核優(yōu)化需要大量時間和專業(yè)知識，效率低下。NVIDIA工程師們采用了DeepSeekR1模型，這是一種開源的AI模型，...