在大語言模型（LLMs）的訓練領(lǐng)域，LowRankAdaptation（LoRA）技術(shù)堪稱一項重大突破。它就像給模型訓練開啟了一條“高速通道”，讓我們能更高效地為特定任務訓練大語言模型。如今，LoRA在眾多應用場景中廣泛使用，并且引發(fā)了一系列改進研究，催生出了許多變體，這些變體從不同角度優(yōu)化LoRA，提升訓練速度、性能，或者兩者兼得。今天，咱們就來深入了解一下LoRA及其家族成員的奧秘。1.LoRA：基礎(chǔ)概念與核心優(yōu)勢LoRA的核心做法是在...

在大語言模型（LLMs）的飛速發(fā)展進程中，DeepSeekR1憑借出色的性能脫穎而出，吸引了無數(shù)目光。而它背后的“秘密武器”——GRPO（GroupRelativePolicyOptimization）強化學習算法，更是成為大家熱議的焦點。今天，咱們就用通俗易懂的方式，深入剖析一下這個讓DeepSeekR1大放異彩的GRPO算法！1.GRPO誕生的“前因后果”在大語言模型的微調(diào)環(huán)節(jié)，強化學習（RL）起著舉足輕重的作用。一直以來，近端策略優(yōu)化（PPO）算法都是LLM微調(diào)的...

MCP全稱是ModelContextProtocol，也就是模型上下文協(xié)議。可別小瞧它，它可不是“另一個類似API的東西”，要是你這么想，那說明還沒真正get到它的精髓。說起傳統(tǒng)API，大家應該不陌生。它就像一套固定的工具套裝，通過固定和預定義的端點來提供功能，像常見的products（產(chǎn)品相關(guān)接口）、orders（訂單接口）、invoices（發(fā)票接口）這些。但這也帶來了不少麻煩。比如說，你想給API添加新功能，就得新建端點或者修改現(xiàn)有端點。這一改...

大語言模型（LLM）正以前所未有的速度改變著我們的生活和工作方式。“awesomellmapps”這個精心策劃的倉庫，為開發(fā)者和研究者們提供了豐富多樣的大語言模型應用示例。1.倉庫概述“awesomellmapps”是一個匯聚了眾多使用檢索增強生成（RAG）和人工智能代理構(gòu)建的大語言模型應用程序的倉庫。它涵蓋了多種基于不同大語言模型構(gòu)建的應用，包括OpenAI、Anthropic、Google的模型，以及DeepSeek、Qwen、Llama等開源模型，并且用戶可以...

在當今人工智能的浪潮中，RAG（檢索增強生成）技術(shù)大放異彩，像是RAGFlow、Qanything、Dify、FastGPT等RAG引擎，逐漸走進大家的視野。在這些強大的RAG引擎背后，有一個關(guān)鍵組件起著不可或缺的作用，它就是嵌入模型（EmbeddingModel）。今天，就讓我們一起深入了解一下這個神秘的嵌入模型吧！1.Embedding究竟是什么？在了解嵌入模型之前，得先搞清楚Embedding的概念。簡單來說，Embedding是一種“神奇魔法”，能把離散的非結(jié)構(gòu)化...

大語言模型（LLM）的發(fā)展可謂日新月異。大家都知道，LLM的訓練過程很復雜，其中有兩個關(guān)鍵階段：預訓練和后訓練。今天咱們就來深入聊聊在這一過程中發(fā)揮重要作用的近端策略優(yōu)化（PPO）算法和組相對策略優(yōu)化（GRPO）算法。這倆算法不僅在學術(shù)圈備受關(guān)注，在實際應用中也有著舉足輕重的地位，理解它們，能讓你更懂LLM是如何一步步變得這么“聰明”的！一、從LLM訓練說起LLM的訓練如同一場漫長而復雜的旅程，主要分為預訓練和后訓...

DeepSeekR1模型的出現(xiàn)引起了廣泛關(guān)注，眾多開源復現(xiàn)項目紛紛涌現(xiàn)（OpenR1、simpleRLreason、TinyZero、MiniR1等）。然而，受GPU條件的限制，有些小伙伴可能無法順利運行這些項目。今天，我們就來介紹一個神奇的工具——UnslothAI，它可以幫助我們在有限的資源下訓練自己的DeepSeekR1推理模型，特別是通過GRPO（GroupRelativePolicyOptimization）技術(shù)，實現(xiàn)了資源的大幅降低。1.UnslothAI的神奇之處1.1GRPO技術(shù)簡介GRPO是一種強...

嵌入（Embedding）技術(shù)作為基石，廣泛應用于自然語言處理（NLP）、搜索引擎、推薦系統(tǒng)等多個關(guān)鍵領(lǐng)域，發(fā)揮著不可或缺的作用。盡管嵌入技術(shù)歷經(jīng)持續(xù)發(fā)展并取得諸多顯著成果，但傳統(tǒng)嵌入方法始終受困于模型規(guī)模龐大、計算資源消耗嚴重、推理速度遲緩等難題，這些問題猶如枷鎖，限制了其進一步的拓展與應用。在此背景下，Model2Vec的全新嵌入技術(shù)為行業(yè)帶來了突破性的解決方案。它憑借創(chuàng)新性的設(shè)計，成功實現(xiàn)了嵌入模型規(guī)?？s小15...

1.背景大型推理模型如OpenAIo1、QwenQwQ等通過大規(guī)模強化學習，在科學、數(shù)學、編碼等復雜領(lǐng)域展現(xiàn)出了強大的逐步推理能力。它們以“慢思考”模式生成長思維鏈條，有效解決復雜問題，增強了推理的邏輯性和可解釋性。然而，這也帶來了顯著弊端，在長鏈式推理過程中，模型常常遭遇知識不足的困境。這使得推理鏈條容易出現(xiàn)錯誤傳播，嚴重影響最終答案的質(zhì)量。例如，在處理一些復雜的科學問題時，模型可能會因為對某些關(guān)鍵知識點的缺...

2024年，AIAgents成為熱門概念，2025年則有望成為其爆發(fā)元年。AIAgents在企業(yè)場景中的應用日益廣泛，但在落地過程中也面臨著諸多挑戰(zhàn)。本文將基于Langbase的研究報告，探討AIAgents的發(fā)展現(xiàn)狀，包括LLM提供商的選擇、應用場景、落地制約因素以及所需的配套基建等方面。1.研究背景與參與者Langbase對來自100多個國家的3400多位專業(yè)人士進行了調(diào)查，涵蓋C級高管（46%）、工程師（26%）、客戶支持（17%）、市場營銷（8%）、IT（3%...

1.LLMAgent是什么大語言模型智能體是一種程序，其執(zhí)行邏輯由其底層模型控制。大語言模型智能體與少樣本提示或固定工作流程等方法的區(qū)別在于，它能夠定義和調(diào)整執(zhí)行用戶查詢所需的步驟。通過使用一組工具（如代碼執(zhí)行或網(wǎng)絡(luò)搜索），智能體可以決定使用哪個工具、如何使用它，并根據(jù)輸出對結(jié)果進行迭代。這種適應性使系統(tǒng)能夠以最小的配置處理各種用例。智能體架構(gòu)存在于一個范圍內(nèi)，從固定工作流程的可靠性到自主智能體的靈活性...