一文搞懂AI大模型的四個核心技術(shù)
在日新月異的生成式AI領(lǐng)域，幾個核心的專業(yè)術(shù)語不僅頻繁出現(xiàn)在討論、報告和會議中，更是技術(shù)發(fā)展的關(guān)鍵驅(qū)動力。它們分別是：“Prompt Engineering（提示工程）”、“Function Calling（函數(shù)調(diào)用）”、“RAG（檢索增強生成）”和“Fine-tuning（微調(diào)）。
? Prompt Engineering（提示工程）：
提示工程是一種技術(shù)，通過設(shè)計、實驗和優(yōu)化輸入提示詞（Prompt）來引導(dǎo)預(yù)訓(xùn)練語言模型生成所需響應(yīng)或完成特定任務(wù)。它的核心在于通過精確的提示詞，明確告訴模型需要執(zhí)行的任務(wù)、提供的背景信息、期望的輸出格式等，從而引導(dǎo)模型生成高質(zhì)量、準(zhǔn)確的輸出。
? Function Calling（函數(shù)調(diào)用）：
函數(shù)調(diào)用是一種能力，允許大型語言模型在生成文本的過程中調(diào)用外部函數(shù)或服務(wù)。它涉及將用戶的自然語言請求轉(zhuǎn)換為可執(zhí)行的函數(shù)調(diào)用，并生成符合預(yù)定義函數(shù)簽名的結(jié)構(gòu)化輸出，如JSON對象。函數(shù)調(diào)用使您能夠更可靠地從模型中獲取結(jié)構(gòu)化數(shù)據(jù)。
? RAG（檢索增強生成）：
檢索增強生成（Retrieval Augmented Generation）為大語言模型提供了從數(shù)據(jù)源檢索信息的能力，并以此為基礎(chǔ)生成回答。RAG 結(jié)合了信息檢索技術(shù)和大語言模型的提示功能，即模型根據(jù)搜索算法找到的信息作為上下文來查詢回答問題。它主要包含數(shù)據(jù)準(zhǔn)備階段和檢索生成階段，涉及數(shù)據(jù)提取、分塊、向量化、數(shù)據(jù)入庫等環(huán)節(jié)。
? Fine-tuning（微調(diào)）：
微調(diào)是模型適應(yīng)特定任務(wù)的關(guān)鍵步驟，它可以通過不同的方式進行，如Prefix Tuning、Prompt Tuning、P-Tuning、P-Tuning v2、Adapter Tuning和LoRA等。微調(diào)通過在預(yù)訓(xùn)練模型的基礎(chǔ)上，進一步調(diào)整模型參數(shù)以適應(yīng)特定的任務(wù)或數(shù)據(jù)集，提高模型在特定任務(wù)上的表現(xiàn)。
這些技術(shù)都是大模型開發(fā)中的重要概念，各自有不同的應(yīng)用場景和優(yōu)勢。下面分享一個圖文筆記整理的材料，便于大家學(xué)習(xí)和理解。
本文轉(zhuǎn)載自公眾號數(shù)字化助推器 作者：天涯咫尺TGH
