“數(shù)據(jù)召回是RAG技術(shù)的重要領(lǐng)域，而不同的召回策略甚至?xí)a(chǎn)生完全不同的效果。”RAG技術(shù)的核心原理很簡單，本質(zhì)上就是在外部維護(hù)一個資料庫，在進(jìn)行大模型問答之前，先從資料庫中找到相關(guān)的內(nèi)容，然后一起輸入到大模型中。但由于文檔的復(fù)雜性，在進(jìn)行文檔處理時很難真正做到高質(zhì)量的數(shù)據(jù)處理；因此，在做數(shù)據(jù)召回時就會面臨著各種各樣的問題。所以，怎么進(jìn)行高質(zhì)量的數(shù)據(jù)召回，就成為RAG必須要研究的一個課題；而今天，我們就來...

“構(gòu)建一個合格好用的智能客服是很多中小企業(yè)急需的市場需求。”客服系統(tǒng)在現(xiàn)代商業(yè)體系中扮演著重要的角色，不論任何領(lǐng)域任何行業(yè)都離不開客服的存在；雖然客服系統(tǒng)經(jīng)過多年的實踐與發(fā)展，但依然存在各種各樣的問題。而隨著互聯(lián)網(wǎng)技術(shù)的發(fā)展，特別是目前基于自然語言處理的大模型技術(shù)的發(fā)展，為客服系統(tǒng)提供了新的解決方案；其主要優(yōu)勢就在于基于大模型的智能客服系統(tǒng)能夠快速響應(yīng)，快速回復(fù)，能夠做到724小時不間斷待命狀態(tài)，...

“工作流與RAG是大模型應(yīng)用領(lǐng)域階段性的產(chǎn)物。”工作流是對工作流程及其各操作步驟之間業(yè)務(wù)規(guī)則的抽象和概括描述。它可以幫助組織和自動化重復(fù)性任務(wù)，提高工作效率。智能體作為人工智能應(yīng)用的一個主要技術(shù)形式，其重要性不言而喻；但同樣智能體也并不是萬能的，因此怎么更好的使用智能體，并串聯(lián)相關(guān)技術(shù)環(huán)節(jié)就成為一個需要解決的問題。而這就是工作流需要解決的問題，通過制定標(biāo)準(zhǔn)的執(zhí)行流程，在不同節(jié)點使用不同的工具(智能...

“提示詞是大模型與外界交互的唯一通道，因此提示詞的重要性遠(yuǎn)比我們想象中的要重要。”提示詞或者說提示詞工程，說起來可能大家多多少少都知道是怎么回事；但可能很多人并沒有意識到提示詞工程對大模型的重要性。提示詞是人與大模型溝通的橋梁，就像我們要想使用電腦就離不開鼠標(biāo)鍵盤一樣；不管你是做AIGC也好，做RAG、Agent也罷，或者其它任何與大模型相關(guān)的技術(shù)或應(yīng)用，都離不開提示詞的存在?？傊痪湓?，任何關(guān)于大模型的...

“敢于嘗試是一個好的開始，中間可能會存在各種各樣的問題和困難，但只要用心思考，一定能找到合適的解決方案。”從事人工智能領(lǐng)域方面的技術(shù)開發(fā)與應(yīng)用已經(jīng)差不多有兩年左右的時間了，作者也從一個對人工智能什么都不懂的小白勉強(qiáng)進(jìn)階成為對人工智能行業(yè)有了初步了解的初級開發(fā)人員。因此，從今天開始作者希望從一個純粹的技術(shù)人員，向一個能夠提供完整行業(yè)解決方案的項目人員的轉(zhuǎn)變；簡單來說，就是想從事人工智能方面的創(chuàng)業(yè)...

“智能體是大模型應(yīng)用的未來，而協(xié)議卻是決定大模型應(yīng)用的行業(yè)標(biāo)準(zhǔn)。”2024年是大模型應(yīng)用探索的元年，而隨著大家對大模型應(yīng)用的探索，大模型被應(yīng)用到越來越多的場景；但同時也面臨著各種各樣的問題。特別是在智能體方面的應(yīng)用探索，面臨著各種各樣的問題；而其中目前最頭疼的無非就是各家大模型公司沒有統(tǒng)一的標(biāo)準(zhǔn)，關(guān)于智能體的技術(shù)實現(xiàn)也各式各樣；而這直接阻擋了大模型應(yīng)用方面的進(jìn)展。而解決這個問題最好的辦法是什么？那...

“復(fù)雜文檔的處理是人工智能應(yīng)用的基礎(chǔ)，但同時也是一個門檻。”在這里先思考一個問題，哪種文檔格式最復(fù)雜？以我們經(jīng)常使用的文檔為例，不同系統(tǒng)下有不同格式的文檔；不論是文本，圖片，還是視頻都有很多種格式；但要說比較復(fù)雜的還是文本類文檔。因為文本類文檔中包含著多種其它格式的文檔；以作者個人為例，我認(rèn)為最復(fù)雜的文檔就是常用的wordpdf這種格式。原因就在于這種格式的文檔就像一張白紙，我們可以在上面寫畫任何我們...

“提示詞是大模型與外界交互的唯一通道，因此提示詞的重要性遠(yuǎn)比我們想象中的要重要。”提示詞或者說提示詞工程，說起來可能大家多多少少都知道是怎么回事；但可能很多人并沒有意識到提示詞工程對大模型的重要性。提示詞是人與大模型溝通的橋梁，就像我們要想使用電腦就離不開鼠標(biāo)鍵盤一樣；不管你是做AIGC也好，做RAG、Agent也罷，或者其它任何與大模型相關(guān)的技術(shù)或應(yīng)用，都離不開提示詞的存在?？傊痪湓?，任何關(guān)于大模型的...

“智能體應(yīng)用是大模型應(yīng)用的一個重點方式，而怎么才能做出一個合格的智能體是很多人都在考慮的問題。”對大模型有過了解的人應(yīng)該都知道，大模型應(yīng)用目前主要還處于探索階段，而關(guān)于大模型應(yīng)用的技術(shù)也是日新月異，在不斷持續(xù)的發(fā)展。而關(guān)于大模型的應(yīng)用目前的主要形式是聊天，然后通過大模型的自身能力去完成一些工作；比如生成內(nèi)容，總結(jié)文檔等。但我們對大模型的期待要遠(yuǎn)遠(yuǎn)高于簡單的聊天，我們需要的是大模型根據(jù)我們的指令...

“大模型的使用就類似于汽車駕駛，只有有經(jīng)驗的老司機(jī)才能真正開好車。”隨著人工智能技術(shù)的發(fā)展，大模型的應(yīng)用范圍越來越廣，因此學(xué)習(xí)和使用大模型成了一個必不可少的技能。但很多人面對的問題是，不知道應(yīng)該怎么學(xué)習(xí)大模型，因此我們今天就來討論一下大模型的學(xué)習(xí)方式。怎么學(xué)習(xí)大模型或許你可能并不懂人工智能，你也可能不懂大模型技術(shù)，但是你懂汽車駕駛嗎？也就是開車。工具思想如果說你不知道應(yīng)該怎么學(xué)大模型，甚至覺得...

“RAG的核心是怎么快速準(zhǔn)確地召回數(shù)據(jù)，但RAG的難點還有文檔處理等問題。”RAG技術(shù)是目前大模型應(yīng)用的主要技術(shù)方向之一，常被應(yīng)用于數(shù)據(jù)檢索，智能客服等應(yīng)用場景；而最近在做一個問答系統(tǒng)的場景，使用到了RAG技術(shù)，因此今天再來記錄一下關(guān)于RAG在實際場景中所遇到的問題。關(guān)于RAG的問題關(guān)于RAG的整體流程這里就不多做介紹了，總而言之RAG的核心點有兩個，其一是檢索，其二是生成；生成這里就不多說了，生成的質(zhì)量一靠大模型的...

“隨著大語言模型（LLM）的廣泛應(yīng)用，如何高效部署和推理模型成為開發(fā)者關(guān)注的核心問題。”隨著大模型的成本越來越低，以及企業(yè)生產(chǎn)中對大模型的定制化需求，越來越多的企業(yè)選擇在本地部署大模型；這樣既滿足了數(shù)據(jù)安全性需求，同樣也增加了企業(yè)定制化的選擇。但由于大模型是資源大戶，再加上并發(fā)性需求，因此選擇一個好的高性能的大模型部署框架是很多企業(yè)都要面臨的主要問題。所以，今天就來介紹幾種部署大模型的方式和框架。...

“目前大模型技術(shù)發(fā)展的如火如荼，但關(guān)于大模型的應(yīng)用大家都在摸著石頭過河。”目前大模型技術(shù)發(fā)展的如火如荼，但關(guān)于大模型的應(yīng)用大家都在摸著石頭過河；技術(shù)人員不知道大模型技術(shù)應(yīng)該怎么使用，產(chǎn)品和業(yè)務(wù)人員又不知道大模型能干啥。但我們要貫徹一個理念——技術(shù)只是工具，我們只是利用工具來解決問題。既然技術(shù)就是一個工具，因此我們就需要從兩個方面來理解工具：1.工具的能力2.工具的應(yīng)用大模型的能力與應(yīng)用在上一篇文章...

“神經(jīng)網(wǎng)絡(luò)技術(shù)從理論到應(yīng)用是一個龐大的體系，我們需要知道的是這個體系是怎么構(gòu)成的，每一層都有哪些內(nèi)容”關(guān)于大模型我想很多人都會有這樣或那樣的問題，最基礎(chǔ)的就是不知道大模型是什么，技術(shù)場景和業(yè)務(wù)場景分不清楚；也不知道大模型有哪些能力，然后利用大模型能做些什么。因此，今天我們就來梳理一下大模型體系，從技術(shù)到應(yīng)用之間的關(guān)系，以及各個環(huán)節(jié)所涉及到的技術(shù)。大模型體系——從技術(shù)到應(yīng)用大家之所以搞不明白大模...

“大模型由于其快速迭代的原因，因此大模型分類存在很多困難；而作為大模型應(yīng)用的使用者和開發(fā)者我們需要做的就是不斷去嘗試和體驗?zāi)Ｐ偷墓δ堋?rdquo;大模型技術(shù)發(fā)展到今天，其功能可以說是日新月異；并且很多企業(yè)已經(jīng)在探索大模型的應(yīng)用場景和技術(shù)實現(xiàn)；但是很多人到現(xiàn)在對大模型的了解僅僅只限于能聊個天，問個問題。但實際上，大模型能夠做的事要遠(yuǎn)比我們想象中的要多的多；因此，今天我們就從用戶和技術(shù)兩個角度來介紹一下大模...

“大模型的應(yīng)用是玩出來的而不是看出來的，多體驗和嘗試不同的模型之間的功能和區(qū)別才能讓你真正了解大模型的能力。”在關(guān)于大模型應(yīng)用方面，雖然也了解和應(yīng)用過其中的一些技術(shù)；但經(jīng)過這段時間的實踐和思考發(fā)現(xiàn)，對大模型應(yīng)用的認(rèn)識還很淺顯，因此在此記錄一下自己的思考。大模型應(yīng)用的思考大模型作為人工智能應(yīng)用的底座技術(shù)，所有應(yīng)用場景和技術(shù)都是構(gòu)建在大模型之上；但很多時候我們都搞錯了一件事，那就是我們沒有搞清楚大...

“意圖識別不準(zhǔn)確只是智能體應(yīng)用過程中的一個問題，在實際操作中還會有其它更多的問題存在；因此，我們不能太信任技術(shù)本身，而是需要完善的解決方案去規(guī)避技術(shù)風(fēng)險。”最近在研究大模型智能體也就是Agent的過程中，遇到了一個很嚴(yán)重的問題，直接影響到Agent的質(zhì)量和效果；那就是意圖識別不準(zhǔn)確，也可以說是Agent的幻覺問題。其產(chǎn)生的原因就在于大模型有時無法準(zhǔn)確識別出用戶意圖，無法準(zhǔn)確調(diào)用相應(yīng)的函數(shù)。意圖識別不準(zhǔn)確現(xiàn)在大...

“智能體肯定會成為未來人工智能應(yīng)用的主要方向，而MCP就是智能體的HTTP，它的影響深遠(yuǎn)且長。”大模型技術(shù)的發(fā)展日新月異，但關(guān)于大模型的應(yīng)用卻步履維艱；自從2024年開始市場開始把大模型應(yīng)用提上日程，但到底怎么把大模型應(yīng)用于各行各業(yè)是很多人都在思考的問題。隨著時間的推移，RAG，Agent智能體的概念被提出，特別是智能體技術(shù)被稱為人工智能的未來，也是大模型被應(yīng)用于其它領(lǐng)域的途徑。但到底怎么打造智能體，卻是業(yè)界一直...

“RAG是一項入門很簡單，但實際操作起來卻很困難的技術(shù)之一；RAG是模型無關(guān)的獨立技術(shù)棧，它的核心是文檔和檢索，RAG本身并不具備生成的能力，結(jié)合模型才具備生成能力”最近在做RAG方面的應(yīng)用，關(guān)于RAG技術(shù)很多人應(yīng)該都了解過，畢竟其也算是大模型應(yīng)用的一個主要方向；具體應(yīng)用場景有智能客服，搜索引擎優(yōu)化，教育輔助等。在傳統(tǒng)的印象中，RAG技術(shù)結(jié)合LLM(LargeLanguageModel)大語言模型，做文檔類檢索增強(qiáng)；但RAG僅僅只能用來...

“智能體是未來人工智能的一個重要應(yīng)用技術(shù)，而其難點就在于怎么讓大模型具備更好的獨立思考和任務(wù)拆解與規(guī)劃的能力。”Agent技術(shù)也被業(yè)界稱為智能體技術(shù)，本質(zhì)上是使得大模型具備獨立思考和解決問題的能力；被廣泛應(yīng)用于各種應(yīng)用場景，而且也被稱為是實現(xiàn)通用人工智能的一種技術(shù)手段。但在此之前對于智能體的理解比較膚淺，而今天突然發(fā)現(xiàn)原來智能體沒我們想象中的那么簡單，也沒想象中的那么復(fù)雜。今天我們就從Agent的兩個實...