“RAG的核心是怎么快速準(zhǔn)確地召回數(shù)據(jù)，但RAG的難點還有文檔處理等問題。”RAG技術(shù)是目前大模型應(yīng)用的主要技術(shù)方向之一，常被應(yīng)用于數(shù)據(jù)檢索，智能客服等應(yīng)用場景；而最近在做一個問答系統(tǒng)的場景，使用到了RAG技術(shù)，因此今天再來記錄一下關(guān)于RAG在實際場景中所遇到的問題。關(guān)于RAG的問題關(guān)于RAG的整體流程這里就不多做介紹了，總而言之RAG的核心點有兩個，其一是檢索，其二是生成；生成這里就不多說了，生成的質(zhì)量一靠大模型的...

什么是元數(shù)據(jù)簡單來說，元數(shù)據(jù)就是"描述數(shù)據(jù)的數(shù)據(jù)"。它就像我們?yōu)橹R庫文檔貼上的各種標(biāo)簽和屬性，例如文檔的保密等級、創(chuàng)建者、所屬類別等。每個文檔可以擁有多組這樣的描述信息。實際上，元數(shù)據(jù)早已滲透到我們?nèi)粘Ｉ畹姆椒矫婷?，只是大多?shù)人并不熟悉這個專業(yè)術(shù)語而已。為了更好地理解這個概念，我們可以觀察一些常見例子。在計算機操作系統(tǒng)中，每個文件都包含一系列基礎(chǔ)屬性信息：文件格式、創(chuàng)建者、存儲大小、最后修改...

AIAgent本質(zhì)上是一種通過控制大語言模型（LLM）來解決問題的AI應(yīng)用系統(tǒng)，但這一本質(zhì)特征并不妨礙其成為大模型時代最具潛力的應(yīng)用方式。尤其在DeepSeek和Manus等項目今年爆火之后，AIAgent被認(rèn)為即將迎來發(fā)展的黃金時期。然而，AIAgent的發(fā)展也面臨著諸多瓶頸，比如：應(yīng)用程序調(diào)用的復(fù)雜性以及跨平臺AIAgent之間的通信問題等。不過，隨著谷歌4月10日發(fā)布開源協(xié)議A2A（AgenttoAgent協(xié)議），以及MCP（ModelContextProtocol）協(xié)議的...

本文提供了一個全面的視角，來看待如何利用模型上下文協(xié)議（MCP）實現(xiàn)AI應(yīng)用架構(gòu)設(shè)計新范式的落地實現(xiàn)，核心內(nèi)容主要是以下5點：MCP概念與機制。MCP與FunctionCalling區(qū)別。MCP本質(zhì)與挑戰(zhàn)：挑戰(zhàn)包括系統(tǒng)提示詞的準(zhǔn)確性、Client與Server協(xié)同、快速構(gòu)建Server、自建Dify的痛點等。解決MCP挑戰(zhàn)的方法：通過MCPRegister、統(tǒng)一管理Server和Prompt、建立效果驗證體系與安全保障、設(shè)置MCP網(wǎng)關(guān)、動態(tài)服務(wù)發(fā)現(xiàn)、StreamableHTTP、彈性效率...

谷歌推出了A2A協(xié)議，即AgenttoAgent，這項協(xié)議使得AIAgent智能體能夠在不同的生態(tài)系統(tǒng)中安全地進行協(xié)作，無需考慮框架或供應(yīng)商的差異。不同平臺構(gòu)建的AIAgent智能體之間可以實現(xiàn)通信、發(fā)現(xiàn)彼此的能力、協(xié)商任務(wù)并開展合作，企業(yè)可以通過專業(yè)的智能體團隊處理復(fù)雜的工作流程。重點：它是開源的。Github地址：https:github.comgoogleA2A不多說，讓我們先來看一個演示。利用A2A協(xié)議，招聘流程可以如此高效：在谷歌的Agentspace統(tǒng)一...

背景在理解與學(xué)會了NaiveRAG的框架流程后，就很自然地關(guān)注到embedding模型，與問題相關(guān)的文本召回，也有很多論文在做這方面的創(chuàng)新。以前一直不知道embedding模型是如何微調(diào)出來的，一直聽說是微調(diào)BERT，但是不知道是怎么微調(diào)出來的。直到在B站上看到bge模型微調(diào)的視頻[參考資料4]才理解。于是便想著自己也微調(diào)出一個embedding模型。涉及到下面三個階段：數(shù)據(jù)集制作模型訓(xùn)練評估微調(diào)實戰(zhàn)安裝包pipinstallUFlagEmbedding[finetune...

圖片今天咱們來嘮嘮那些聽起來高大上、實則超實用的注意力機制：MHA、MQA、GQA和MLA。是不是光看這些縮寫就頭大了？別怕，我這就帶你一文看懂它們的原理和計算公式，讓你輕松掌握這些前沿技術(shù)1.MHA（MultiHeadAttention）1.1原理與公式多頭注意力機制（MHA）是Transformer架構(gòu)的核心組成部分，其原理是將輸入數(shù)據(jù)通過不同的“頭”進行多次注意力計算，然后將這些計算結(jié)果拼接起來，再通過一個線性變換得到最終的輸出。這種機制...

BertViz的核心功能注意力矩陣可視化BertViz通過交互式的注意力矩陣視圖，展示了模型在處理文本時各個層和注意力頭的權(quán)重分布。用戶可以直觀地看到模型如何捕捉單詞之間的上下文關(guān)系。多視圖模式HeadView：可視化同一層中一個或多個注意力頭的注意力模式，幫助分析單個注意力頭的行為。ModelView：提供跨所有層和注意力頭的全局視圖，展示注意力分布的整體情況。NeuronView：可視化單個神經(jīng)元的查詢和鍵向量，揭示其在計算注意力...

1.引言用戶問題：員工中薪水最高的人的名字是什么？獲取到的scheam：Table:Employees(ID,Name,Salary)生成的答案：SELECTNameFROMEmployeesORDERBYSalaryDESCLIMIT1;1.1知識圖譜構(gòu)建在當(dāng)今數(shù)字化時代，數(shù)據(jù)已成為人類生產(chǎn)生活中至關(guān)重要的生產(chǎn)要素。隨著電子設(shè)備的迅猛普及，海量數(shù)據(jù)庫如雨后春筍般涌現(xiàn)，它們廣泛存儲著來自各個領(lǐng)域的豐富信息。然而，對于普通大眾而言，學(xué)習(xí)諸如SQL這類數(shù)據(jù)庫查詢語言宛如攀登陡峭高山，門檻...

1.Qwen2.5OmniTechnicalReport我們?nèi)峦瞥鯭wen2.5Omni，一個能同時理解文字、圖片、聲音和視頻的"全能型"AI模型！它像人類一樣，不僅能看圖聽聲，還能邊思考邊生成自然流暢的文本和語音回答。三大創(chuàng)新亮點：1）同步感知：采用獨特的"交錯處理"技術(shù)，讓視頻畫面和音頻完美同步，配合創(chuàng)新的"時間對齊"算法，確保多模態(tài)信息精準(zhǔn)配合。2）雙軌生成：獨創(chuàng)"思考者說話者"架構(gòu)——思考者：像超強大腦一樣生成文字內(nèi)容說話者：根據(jù)思考...

在RAG的核心步驟中，有一個至關(guān)重要的步驟：“文本分塊（TextSplitting）”。它的主要作用就是把一大段文本切分成更小、更合理的片段，這樣模型才能更好地理解、處理或者存儲這些內(nèi)容。如果一整篇文章不拆開，那embedding的顆粒度太粗，問答的時候很容易不準(zhǔn)。所以切得好不好，直接影響最后答案的相關(guān)性和準(zhǔn)確性。最基本的分塊方法是根據(jù)文檔的長度進行拆分。這種簡單而有效的方法確保每個塊不會超過指定的大小限制?；陂L度拆...

當(dāng)大模型以"大力出奇跡"的方式驚艷世界，一位AI先驅(qū)早在2019年就預(yù)言了這一切。強化學(xué)習(xí)之父RichSutton的《苦澀的教訓(xùn)》[1]，揭示人工智能進化史上最反直覺的真相...一、核心啟示：算力碾壓的"苦澀真理"[核心觀點樹狀圖]└─苦澀的教訓(xùn)├─歷史驗證：70年AI發(fā)展規(guī)律├─核心矛盾│├─短期優(yōu)化：人類知識注入│└─長期勝利：算力暴力破解└─雙引擎驅(qū)動├─搜索算法└─機器學(xué)習(xí)2019年，當(dāng)AI界還在爭論神經(jīng)網(wǎng)絡(luò)的前景時，RichS...

編輯｜云昭出品51CTO技術(shù)棧（微信號：blog51cto）就在兩天前，有用戶在知名AI編程工具Cursor的論壇上提出了一個問題：怎么回事？VSCode的擴展以后還能在Cursor上使用嗎？這個問題震驚了Cursor用戶們，他們發(fā)現(xiàn)微軟的CC++語言服務(wù)擴展突然停止支持Cursor，這是反常識的：因為Cursor使用了跟VSCode同源的基礎(chǔ)代碼。微軟的語言擴展竟然突然不能使用了？！據(jù)了解，這個問題更具體點是：1.18.21及以后的版本不行，1.17.62版本還可以...

整理伊風(fēng)出品51CTO技術(shù)棧（微信號：blog51cto）剛剛，奧特曼親自預(yù)熱的那期播客，完整版視頻終于上線啦！?。∵@一次，OpenAI也開始“學(xué)對手”了——正式推出類似Anthropic風(fēng)格的硬核技術(shù)播客內(nèi)容。本期嘉賓陣容豪華，全部來自O(shè)penAI核心團隊，首次系統(tǒng)揭秘GPT4.5是怎么誕生的，深入探討它在模型訓(xùn)練、系統(tǒng)架構(gòu)和數(shù)據(jù)效率上的關(guān)鍵突破。圖片不同于OpenAI以往的“營銷味”，這個播客確實分享了前沿的訓(xùn)練干貨，讓我有一種想法：在...

文章鏈接：https:arxiv.orgpdf2504.04842開源地址：https:fantasyamap.github.iofantasytalking亮點直擊設(shè)計了一種雙階段視聽對齊訓(xùn)練策略，以適配預(yù)訓(xùn)練的視頻生成模型：首先在片段級別建立與輸入音頻對應(yīng)的、包含背景和上下文對象（而不僅限于肖像本身）的連貫全局運動，隨后構(gòu)建精確對齊的唇部運動以進一步提升生成視頻的質(zhì)量。摒棄了傳統(tǒng)的參考網(wǎng)絡(luò)用于身份保持的方法，轉(zhuǎn)而設(shè)計了一個專注于面部的交叉注意力模塊，該模塊集...

文章鏈接：https:huggingface.copapers2504.02160arXiv鏈接：https:arxiv.orgpdf2504.02160代碼鏈接：https:github.combytedanceUNO項目網(wǎng)頁：https:bytedance.github.ioUNO亮點直擊提出了模型數(shù)據(jù)協(xié)同進化范式，突破了傳統(tǒng)定制化圖像生成中數(shù)據(jù)瓶頸的限制。開發(fā)了漸進式數(shù)據(jù)生成框架和通用定制化模型UNO，實現(xiàn)了從單主體到多主體的高質(zhì)量圖像生成。在多個任務(wù)中取得了卓越的性能，包括單主體和多主體驅(qū)動的圖像生成，并且能泛...

編者按：當(dāng)你向AI助手詢問API細(xì)節(jié)時，它是否經(jīng)常被文檔中的導(dǎo)航欄、樣式表等無關(guān)內(nèi)容干擾，給出模棱兩可的答案？AI助手已成為開發(fā)者不可或缺的得力助手。然而，它們在處理網(wǎng)站內(nèi)容時往往受限于有限的上下文窗口，加上HTML頁面中大量非核心內(nèi)容的干擾，導(dǎo)致理解效率低下。本文深入剖析了新興的LLMs.txt標(biāo)準(zhǔn)如何巧妙解決這一問題。這個由??Answer.AI??聯(lián)合創(chuàng)始人JeremyHoward提出的解決方案，通過提供優(yōu)化的markdown格式文檔...

Python開發(fā)者獨享AI話語權(quán)的時代該結(jié)束了。以下十款高人氣Java工具，將助你將AI深度集成到Java應(yīng)用與工作流中。?盡管Java并非大多數(shù)程序員構(gòu)建AIML項目的首選語言——畢竟Python擁有更龐大的AIML框架生態(tài)——但Java在AI、機器學(xué)習(xí)及生成式AI革命中仍占據(jù)重要席位。其技術(shù)優(yōu)勢和廣泛的生態(tài)系統(tǒng)使其成為許多開發(fā)者的首選，尤其是那些偏好嚴(yán)格類型定義和JVM高性能的開發(fā)者。甚至部分Python愛好者也會通過Jython運行代碼以發(fā)揮JVM...

在AI技術(shù)飛速發(fā)展的今天，如何讓AI模型更好地理解和生成符合人類需求的內(nèi)容，一直是開發(fā)者們關(guān)注的焦點。而ModelContextProtocol（MCP）的出現(xiàn)，為這一問題提供了一個全新的解決方案。今天，我們就來深入探討一下MCP協(xié)議，看看它是如何為AI開發(fā)帶來變革的。一、MCP協(xié)議：背景與意義在AI的世界里，上下文（Context）是至關(guān)重要的。無論是生成文本、圖像還是代碼，AI模型都需要足夠的上下文信息來生成相關(guān)且連貫的輸出。然而，在...

在當(dāng)今數(shù)字化時代，文本生成模型已經(jīng)成為研究和應(yīng)用領(lǐng)域不可或缺的工具。它們憑借強大的架構(gòu)、精細(xì)的訓(xùn)練和海量的數(shù)據(jù)集，展現(xiàn)出令人驚嘆的能力。今天，我們要介紹的主角是TeapotAI團隊開源的TeapotLLM模型，一個在低資源環(huán)境下表現(xiàn)出色的小型語言模型。它不僅能夠高效運行在智能手機和CPU上，還能精準(zhǔn)地完成問答、信息檢索和結(jié)構(gòu)化數(shù)據(jù)提取等任務(wù)。一、什么是TeapotLLM？TeapotLLM是一個擁有8億參數(shù)的先進語言模型，專為生成無...