日常工作中面對各類的作業(yè)，如何通過工程化的設計，充分利用LLM的邏輯推理能力，是AI思維的最直接體現(xiàn)。今天開始小編將帶著大家，遵循AI思維來解決日常作業(yè)中的各種問題。今天探討的實際場景是語料質(zhì)量評估。在垂類應用或者RAG應用，將企業(yè)知識或者領域知識轉(zhuǎn)化為語料是最為關鍵的一環(huán)，但是如何來確定語料的質(zhì)量作為關鍵。LLM的訓練過程中因為其預訓練能力與困惑度（PPL）相關，因此可以從不同的數(shù)據(jù)來源中分別提取困惑度排名...

MCP正在成為一種標準，可幫助開發(fā)人員構建AI系統(tǒng)，使這些系統(tǒng)能夠與其他外部應用程序進行有效通信。Microsoft最近宣布將MCP集成到其CopilotStudio中，以簡化AI應用程序和代理訪問工具的方式。此外，OpenAI還宣布在其產(chǎn)品中支持MCP，例如AgentsSDK和ChatGPT的桌面應用程序。封面的圖片很直觀的闡述了MCP，它是一種開放協(xié)議，MCP是一個開放協(xié)議，用于標準化應用程序向大語言模型提供上下文的方式。MCP由Anthropic公司在2024年底推...

Picovoice首席執(zhí)行官AlirezaKenarsari指出，“picoLLM是Picovoice深度學習研究人員和量產(chǎn)工程師共同努力的成果。前者研究出X位量化算法，而后者構建了跨平臺的LLM推理引擎。目的還是在于將LLM遍及到任何設備且將控制權交還給企業(yè)”。picoLLMInference可以免費使用，沒有任何使用限制。無論是在概念驗證上工作，還是為數(shù)百萬用戶提供服務。只需幾行代碼即可部署。注：其余的產(chǎn)品線有非商用免費版，也有收費版1.認識量化（Quantiz...

GPT4o收取170個Token來處理在高分辨率模式512x512的圖塊。在0.75個tokensword的比例下，說明一張圖片價值約為227個Token單詞。170是一個奇怪的具體數(shù)字，OpenAI在其定價中使用“20美元”或“0.50美元”等整數(shù)，或使用2和3的冪作為其內(nèi)部尺寸。為什么在這種情況下選擇像170？OpenAI選擇170，若不是作為某種神秘定價策略的一部分，而圖像圖塊實際上真的被表示為170個連續(xù)嵌入向量？？Transformer模型對向量進行操作，而不是離散To...

泛AI架構設計這個專欄主要關注圍繞著AI運用于實際的業(yè)務場景所需的系統(tǒng)架構設計，包括業(yè)務數(shù)據(jù)治理、模型訓練與管理、模型部署與調(diào)度。整體基于云原生技術，旨在通過開源領域的LLMOps或者MLOps技術，充分運用低代碼平臺構建高性能、高效率和敏捷響應的AI中臺。1.AI架構挑戰(zhàn)上面幾節(jié)從GPU的知識點入手，清晰的介紹了GPU原理、構造以及運算模型。有了初步的認知之后，回到最原始的AI需求，來看看其對于基礎架構的要求。AI最早于19...

1.KAN這種新型的網(wǎng)絡架構的核心思想基于由柯爾莫哥洛夫阿諾德表示定理，它被寄予期望能夠替代多層感知器。MLP在節(jié)點（“神經(jīng)單元”）上具有固定的激活函數(shù)，而KAN在邊上（“權重”）具有可學習的激活函數(shù)。KAN根本沒有線性權重—每個權重參數(shù)都被參數(shù)化為一元的splinefunction。大白話的意思就是：KAN中的每個激活函數(shù)不是在每個節(jié)點，而是在每條邊上。由一個一元函數(shù)（univariatefunction）組成，這些函數(shù)本身也是參數(shù)。意味著...

大模型技術論文不斷，每個月總會新增上千篇。本專欄精選論文重點解讀，主題還是圍繞著行業(yè)實踐和工程量產(chǎn)。若在閱讀過程中有些知識點存在盲區(qū)，可以回到如何優(yōu)雅的談論大模型重新閱讀。另外斯坦福2024人工智能報告解讀為通識性讀物。若對于如果構建生成級別的AI架構則可以關注AI架構設計。記得在《重新審視神經(jīng)網(wǎng)絡》這篇文章中提及，任何人都可以構建自己心目中的神經(jīng)網(wǎng)絡。在Transformers、Mamba、KAN之后，長短期記憶(LSTM)...

大型語言模型(LLM)正在極大地影響AI研究，引發(fā)了關于迄今為止發(fā)生了什么變化以及如何塑造該領域未來的討論。為了澄清這些問題，有研究人員分析新的數(shù)據(jù)集，其中包含16,979篇與LLM相關的arXiv論文，重點關注2023年與20182022年相比的最新趨勢。首先研究人員觀察到LLM研究越來越多地影響著社會，這從計算機和社會arXiv中LLM論文提交量增長20倍可以看出。大量新作者來自非計算機的NLP領域，推動了各個學科擴展。其次，令人驚訝的是...

1.快速總覽研究人員提出了一種新穎的位置編碼方法，稱為上下文位置編碼（下文稱之為CoPE），它有別于基于標記的傳統(tǒng)位置編碼范式。它以上下文依賴的方式測量位置，在按位置尋址時會更加自由它在如下的任務中獲得不錯的收益：FlipFlop,SelectiveCopy,Counting,LanguageModeling,andCodeModelingtasks它優(yōu)于現(xiàn)有方法，尤其是在域外泛化場景它有可能改善其他領域的編碼，例如視頻和語音。在這些領域，基于Token位置的編碼不太合適...

EmbeddingsEmbeddings會分為兩個章節(jié)，前部分主要還是放在常規(guī)方法總結，后者主要放在神經(jīng)網(wǎng)絡技術。其實這個英文單詞不難理解，就是將對象用數(shù)字標識描述。其實一直糾結是否要講述這個話題，因為可深可淺。若要用一句話概括，就是給輸入分配一個數(shù)字標識，可以是一個整數(shù)數(shù)值也可以是一個向量。不過最重要的目的是在模型訓練的過程中能夠高效且有效的學習參數(shù)。這里需要解釋下向量，例如apple可以使用三維的向量[0.95,0.23,0.2...

1.快速總覽研究人員提出了一種新穎的位置編碼方法，稱為上下文位置編碼（下文稱之為CoPE），它有別于基于標記的傳統(tǒng)位置編碼范式。它以上下文依賴的方式測量位置，在按位置尋址時會更加自由它在如下的任務中獲得不錯的收益：FlipFlop,SelectiveCopy,Counting,LanguageModeling,andCodeModelingtasks它優(yōu)于現(xiàn)有方法，尤其是在域外泛化場景它有可能改善其他領域的編碼，例如視頻和語音。在這些領域，基于Token位置的編碼不太合適...

1.Token在繼續(xù)前行之前，需要先停下來澄清下Token這個詞，以及如何將原始的語料轉(zhuǎn)化為Token，在細究背后的原理之后會更加優(yōu)雅的理解大模型。任何的資訊都可以生成語料，而這些語料需要被機器理解以及供后續(xù)的模型訓練，那么最常見的做法是將一段文字先切片，然后一一對應的轉(zhuǎn)化為數(shù)字或者向量輸入模型。通常而言有三種類型的分詞法：基于單詞、字符以及子詞的分詞法。單詞和字符這里就不解釋，字詞法運用得最為廣泛，也是最為主...

大模型技術論文不斷，每個月總會新增上千篇。本專欄精選論文?重點解讀，主題還是圍繞著行業(yè)實踐和工程量產(chǎn)。若在某個環(huán)節(jié)出現(xiàn)卡點，可以回到大模型必備腔調(diào)?或者LLM背后的基礎模型?新閱讀。而最新科技（Mamba,xLSTM,KAN）?則提供了大模型領域最新技術跟蹤。若對于具身智能感興趣的請移步具身智能專欄?。技術宅麻煩死磕AI架構設計。當然最重要的是訂閱“魯班模錘”。1.RAG檢索增強生成（RAG）是一種通過集成文檔檢索系統(tǒng)來...

2024年，人工智能(AI)的發(fā)展軌跡將繼續(xù)吸引全球各行各業(yè)。在這個不斷變化的環(huán)境中，剖析塑造人工智能發(fā)展軌跡至關重要。綜合行業(yè)思想領袖和風險投資家的見解，可以從其中的一角定義2024年人工智能格局。所有的思考都圍繞著一個問題：人工智能在塑造創(chuàng)新和人類社會的未來方面發(fā)揮著怎樣的關鍵作用？趨勢1：AI與現(xiàn)實的融合2023年結束標志著人工智能的關鍵轉(zhuǎn)變，強調(diào)了AI和現(xiàn)實融合的重要性。隨著生成式人工智能從新穎性發(fā)展到實用...

1.向量與矩陣上個章節(jié)的神經(jīng)網(wǎng)絡是為了解Transformer或者Mamba做好鋪墊，在和后輩交流過程中發(fā)現(xiàn)有個障礙，那就是向量和矩陣。其實向量和矩陣的表達方式不是所有人都很習慣。在繼續(xù)下面的章節(jié)之前小編認為有必要將向量、矩陣和神經(jīng)網(wǎng)絡做下補充解釋。向量是具有方向和大小的量，用箭頭表示。向量具有下面的性質(zhì)：有好事者翻出來內(nèi)積的幾何含義，其實就是兩個向量的長度乘以它們的夾角，那么上面代數(shù)的表達方式和下面的帶有cosθ...

?1.MobileLLMMetaAI研究人員推出了MobileLLM，從arXiv論文時間上看2月份發(fā)布的，但是在六月底又更新了一版。MobileLLM利用四種先進技術，包括帶有SwiGLU的FFN、深度和薄架構、嵌入共享和GQA，構建了一個強大的基線小型LLM，MobileLLM。它是專為智能手機和其他資源受限的設備而設計。研究人員將其訓練出的MobileLLM125M350M和參數(shù)量相當?shù)腟tateoftheArt（SOTA）模型如Cerebras、OPT、BLOOM等進行對話標桿測試。在零樣本（zerosh...

DSPy是一種編程模型，旨在改進語言模型（LM）在復雜任務中的使用方式。傳統(tǒng)上，LM使用特定的提示模板（Prompt）進行控制，這些模板是基本前期大量的嘗試而找到的預設指令。DSPy通過將LM流水線抽象為文本轉(zhuǎn)化圖譜，例如被其他申明模塊觸發(fā)的LM的命令計算圖譜。1.PromptEngineering要理解DSPy，需要先理解提示詞工程PromptEngineering。提示詞工程也稱之為上下文提示詞或者上下文學習。它指的是在不更新模型權重的情況下引導LLM的...

Microsoft于2021年推出的LoRA是一種經(jīng)濟型微調(diào)模型參數(shù)的方法?，F(xiàn)在大模型的參數(shù)規(guī)模動不動都在10億級別以上，微調(diào)大模型（微調(diào)這里代表著SFT，例如讀者將某個大模型拿到自身領域，想使用自身領域的知識再次訓練和精校大模型，就屬于模型微調(diào)的領域。）的全面微調(diào)模式下，需要調(diào)整所有的參數(shù)，因此所需要的資源和時間巨大。LoRA提出了一種微訓練模型的新方法，在凍結大部分的模型參數(shù)之余，僅僅更新額外的部分參數(shù)。同時它的性...

材料科學側(cè)重于研究和開發(fā)具有特定性能和應用的材料。該領域的研究人員旨在了解材料的結構、性能和性能，以創(chuàng)新和改進現(xiàn)有技術，并為各種應用創(chuàng)造新材料。該學科結合了化學、物理和工程原理，以應對挑戰(zhàn)并改進航空航天、汽車、電子和醫(yī)療保健中使用的材料。材料科學面臨的一個重大挑戰(zhàn)是整合來自科學文獻的大量視覺和文本數(shù)據(jù)，傳統(tǒng)方法通常無法有效地組合這些數(shù)據(jù)類型，從而限制了生成全面見解和解決方案的能力。難點在于從圖...

在最近的一項研究中，來自美國宇航局和IBM的一組研究人員合作開發(fā)了一種模型，該模型可應用于地球科學，天文學，物理學，天體物理學，太陽物理學，行星科學和生物學以及其他多學科學科。當前的模型，如SCIBERT、BIOBERT和SCHOLARBERT僅部分覆蓋了其中的一些領域?，F(xiàn)有的模型沒有充分考慮所有這些相關領域。為了彌合這一差距，該團隊推出了INDUS，這是一套基于LLMs編碼器的專門針對這些特定領域的設備。由于INDUS是根據(jù)從各種來...