作者 | 崔皓

審校 | 重樓

摘要

在自然語言處理領(lǐng)域，為了讓模型能夠處理特定領(lǐng)域的問題，需要進行Fine-tuning，即在基礎(chǔ)模型上訓(xùn)練模型以理解和回答特定領(lǐng)域的問題。在這個過程中，Embedding起到了關(guān)鍵作用，它將離散型的符號轉(zhuǎn)換為連續(xù)型的數(shù)值向量，幫助模型理解文本信息。詞嵌入是一種常用的Embedding方法，通過將每個單詞轉(zhuǎn)換為多維向量來捕獲其語義信息。本文通過LangChain，ChromaDB以及OpenAI實現(xiàn)Fine-tuning的過程，通過更新Embedding層來讓模型更好地理解特定領(lǐng)域的詞匯。

開篇

在自然語言處理領(lǐng)域，最常見的用例之一是與文檔相關(guān)的問題回答。雖然這方面ChatGPT已經(jīng)做的足夠好了，但它也只能作為一個通才，如果需要了解更多專業(yè)領(lǐng)域的內(nèi)容還需要進一步學(xué)習(xí)。 你可以想象一下將你所在領(lǐng)域的文檔，包括pdf、txt 或者數(shù)據(jù)庫中的信息教給模型， 讓模型也具備回答相關(guān)領(lǐng)域問題的能力。此時的模型就好像一個行業(yè)專家可以回答行業(yè)內(nèi)的各種問題， 當(dāng)然你需要喂給它大量的數(shù)據(jù)才能讓它飽讀詩書。

Fine-tuning

假設(shè)你正在使用一個預(yù)訓(xùn)練的語言模型來建立一個電影推薦系統(tǒng)。這個語言模型已經(jīng)在大量的文本數(shù)據(jù)上進行了訓(xùn)練，因此它已經(jīng)學(xué)會了理解和生成人類語言。但是，此時該模型并不知道和電影相關(guān)的事情，如果你希望這個模型能夠理解和回答有關(guān)電影的特定問題，例如“這部電影的評分是多少？”或“這部電影的主角是誰？”。

為了讓模型能夠處理這些特定的問題，你需要對模型進行Fine-tuning。具體來說，就是需要收集一些電影相關(guān)的問題和答案，然后使用這些數(shù)據(jù)來訓(xùn)練模型。在訓(xùn)練過程中，模型的參數(shù)（或者說“權(quán)重”）將會被稍微調(diào)整，以使模型更好地理解和回答這些電影相關(guān)的問題。這就是Fine-tuning的過程。

需要注意的是，F(xiàn)ine-tuning通常比從零開始訓(xùn)練模型需要更少的數(shù)據(jù)和計算資源，因為預(yù)訓(xùn)練的模型已經(jīng)學(xué)會了許多基礎(chǔ)的語言知識。我們所做的Fine-tuning，只是在基礎(chǔ)知識添加相關(guān)電影的知識從而幫助模型完成處理電影問答的工作。

Embedding

有了上面的思路，我們知道如果讓一個通才變成我們需要的專才就需要對其進行專業(yè)知識的教學(xué)，這個就是Fine-tunning 要做的事情。 它在基礎(chǔ)的模型上面進行微調(diào)，告訴它更多的專業(yè)知識。這些專業(yè)的知識是以文本的形式存在，并保存到已經(jīng)生成的模型庫中。

以電影專業(yè)為例，我們會將大量的電影相關(guān)的信息轉(zhuǎn)換成文本，然后將其保存到數(shù)據(jù)模型庫中。這也就意味著需要將文本的內(nèi)容拆成一個個的單詞并對其進行保存。

這里我們就需要用到"Embedding"， 它是將離散型的符號（比如單詞）轉(zhuǎn)換為連續(xù)型的數(shù)值向量的過程。在我們的電影推薦系統(tǒng)例子中，Embedding可以幫助模型理解電影名稱、演員名字、電影類型等文本信息。

例如，當(dāng)我們談?wù)撾娪盎蜓輪T的名稱時，我們通常會使用詞嵌入(word embeddings)。這種嵌入可以把每一個單詞轉(zhuǎn)換為一個多維的向量，這個向量能捕獲該詞的語義信息。詞嵌入的一個重要特性是，語義相似的詞會被映射到向量空間中相近的位置。如圖1所示，“king,” “queen,” “man,” 和 “woman.”根據(jù)經(jīng)驗直觀地理解這些詞之間的關(guān)系。例如，man在概念上比queen更接近king。所以我們將這些詞轉(zhuǎn)化為笛卡爾空間上的數(shù)據(jù)，以直觀的方式標(biāo)注詞在空間中的關(guān)系。

但是這還不夠，我們還需要進一步衡量詞與詞之間的關(guān)系。從詞義上man和king會更加接近一些，對woman和queen也是這樣。于是，我們將坐標(biāo)軸中的點變成向量，也就是有長度和方向的量。圖2 中，Man 和King 分別用黃色和藍色的向量線表示，它們形成的夾角就表示了它們之間的關(guān)系，這個角越小關(guān)系就更緊密。對于Woman 和Queen 來說也是如此。 因此，我們可以通過詞嵌入之后形成的向量夾角來測量詞與詞之間的關(guān)系。

說明：

在詞嵌入中，向量的"大小"通常指的是向量的長度，這是由向量的所有元素（或坐標(biāo)）的平方和的平方根計算出來的。這是一個數(shù)學(xué)概念，與向量在幾何空間中的實際長度相對應(yīng)。

然而，這個"大小"或"長度"在詞嵌入中通常沒有明確的語義含義。也就是說，一個詞的嵌入向量的長度并不能告訴我們關(guān)于這個詞的具體信息。例如，一個詞的嵌入向量的長度并不能告訴我們這個詞的重要性、頻率、情感等。

在創(chuàng)建詞嵌入時，我們通常不會直接定義向量的大小。相反，向量的大小是由嵌入模型（如Word2Vec或GloVe）在學(xué)習(xí)過程中自動確定的。這個過程通常是基于大量的文本數(shù)據(jù)，并考慮到詞語在文本中的上下文信息。

在某些情況下，我們可能會對詞嵌入向量進行歸一化，使得每個向量的長度都為1。這樣做的目的通常是為了消除向量長度的影響，使得我們可以更純粹地比較向量之間的角度，從而衡量詞語之間的語義相似性。

圖2

實際上在將專業(yè)知識不斷更新到模型庫的過程就是Fine-tuning，在更新過程中需要將詞保存到模型的操作就是Embedding。此時，模型的Embedding層會因為Fine-tuning 而被更新。例如，如果預(yù)訓(xùn)練的模型是在通用的文本數(shù)據(jù)上訓(xùn)練的，那么它可能并不完全理解電影相關(guān)的一些專有名詞或者俚語。在Fine-tuning過程中，我們可以通過更新Embedding層來讓模型更好地理解這些電影相關(guān)的詞匯。

需要注意的是，雖然我們有時候會在Fine-tuning過程中更新Embedding層，但不是必須的。如果預(yù)訓(xùn)練的模型已經(jīng)有很好的詞嵌入，并且新任務(wù)的數(shù)據(jù)不夠多，我們可能會選擇凍結(jié)（即不更新）Embedding層，只更新模型的其他部分，以防止模型在小型數(shù)據(jù)集上過擬合。

假設(shè)你正在使用一個預(yù)訓(xùn)練的模型來識別各種影片。你的預(yù)訓(xùn)練模型可能是在數(shù)百萬條影片信息上訓(xùn)練而來的，由于訓(xùn)練的數(shù)據(jù)足夠大，模型已經(jīng)識別各種影片。然而，你想要使用這個模型來識別特定種類的影片，比如說文藝片和紀(jì)錄片。

此時，你需要對模型進行Fine-tuning，但是，你手上的文藝片和記錄片的訓(xùn)練集只有幾百條，這比預(yù)訓(xùn)練模型的幾百萬相差很大， Embedding 的效果就不會太好了。

此時，需要"凍結(jié)"模型的Embedding層。這個層已經(jīng)在預(yù)訓(xùn)練過程中學(xué)會了如何從眾多影片信息中提取有用的電影特征。如果執(zhí)意進行Fine-tuning，并Embedding你手上的 幾百條信息，模型可能會過度適應(yīng)小型數(shù)據(jù)集，導(dǎo)致其在未見過的數(shù)據(jù)上表現(xiàn)不佳。這就是我們所說的過擬合。

如何進行我們的Fine-tuning 和Embedding

有了上面的概念，我們需要確定創(chuàng)建自己專業(yè)模型的思路。首先，需要有一個預(yù)處理的模型，就是一個已經(jīng)被別人訓(xùn)練好的LLM（大語言模型），例如OpenAI的GPT-3等。有了這個LLM之后，把我們的專業(yè)知識（文本）Embedding 到其中形成新的模型就齊活了。

為了達到上面的目的，我們使用了LangChain作為管理和創(chuàng)建基于LLMs的應(yīng)用程序的工具。LangChain是一個軟件開發(fā)框架，旨在簡化使用大型語言模型（LLMs）創(chuàng)建應(yīng)用程序的過程。作為一個語言模型集成框架，LangChain的使用案例大致與一般的語言模型重合，包括文檔分析和摘要，聊天機器人和代碼分析。

說明：

LangChain于2022年10月作為一個開源項目由Harrison Chase在機器學(xué)習(xí)初創(chuàng)公司Robust Intelligence工作時發(fā)起。該項目迅速獲得了人氣，GitHub上有數(shù)百名貢獻者進行了改進，Twitter上有熱門討論，項目的Discord服務(wù)器活動熱烈，有許多YouTube教程，以及在舊金山和倫敦的見面會。這個新的初創(chuàng)公司在宣布從Benchmark獲得1000萬美元的種子投資一周后，就從風(fēng)投公司Sequoia Capital籌集了超過2000萬美元的資金，公司估值至少為2億美元。

有了處理LLM的工具，那么再找個LLM 讓我們在上面 Fine-tuning 就好了。 我們選擇了Chroma，它是一個開源的嵌入式數(shù)據(jù)庫。如圖3所示，Chroma通過使知識、事實和技能可以輕松地為大型語言模型（LLMs）插入信息，從而簡化了LLM應(yīng)用的構(gòu)建。它可以存儲嵌入和元數(shù)據(jù)，嵌入文檔和查詢，搜索嵌入式。我們會使用ChromaDB作為向量庫，用來保存Embedding 的信息。

圖3

當(dāng)然還需要OpenAI 提供的預(yù)處理模型，將文本轉(zhuǎn)化為機器可以理解的向量形式，方便Embedding。

這個編程環(huán)境我使用了CoLab，Google Colab（全名為Google Colaboratory）是一個由Google提供的免費云端Jupyter Notebook環(huán)境。用戶可以在其中編寫和執(zhí)行Python代碼，無需進行任何設(shè)置，僅需要一個Google帳戶即可使用。Google Colab被廣泛用于數(shù)據(jù)分析、機器學(xué)習(xí)、深度學(xué)習(xí)等領(lǐng)域。它還提供了免費的計算資源：包括CPU，GPU，甚至TPU（Tensor Processing Units）。這樣就省去了我安裝Python 的煩惱，打開網(wǎng)頁就可以直接使用。

開始編碼

首先，需要安裝一些庫。需要Langchain和OpenAI來實例化和管理LLMs。

每個命令的含義如下：

pip install langchain
pip install openai
pip install chromadb
pip install tiktoken

上面的代碼主要是安裝各種工具：

• pip install langchain：安裝Langchain庫。
• pip install openai：安裝OpenAI庫。OpenAI庫提供了一個Python接口，用于訪問OpenAI的各種API，包括用于生成文本的GPT-3等模型的API。
• pip install chromadb：安裝ChromaDB庫。ChromaDB是一個開源的嵌入數(shù)據(jù)庫，它提供了存儲和搜索嵌入向量的功能。
• pip install tiktoken：安裝TikToken庫。TikToken是OpenAI開發(fā)的一個庫，它能夠用于分析如何計算一個給定文本的token數(shù)量。這里的token是用來記錄Embedding中字、詞或者句子的個數(shù)。

接著，需要一個文本文件，也就是我們需要教模型學(xué)習(xí)的內(nèi)容。這里可以通過網(wǎng)絡(luò)獲取，為了方便，我就手動寫了幾個字符串，用作測試。

import requests
#text_url = '【輸入你的文本的網(wǎng)絡(luò)地址】'
#response = requests.get(text_url)
#data = response.text
data="Bob likes blue. Bob is from China."

接著，我們導(dǎo)入需要的類。

from langchain.embeddings.openai import OpenAIEmbeddings
from langchain.embeddings.cohere import CohereEmbeddings
from langchain.text_splitter import CharacterTextSplitter
from langchain.vectorstores.elastic_vector_search import ElasticVectorSearch
from langchain.vectorstores import Chroma

導(dǎo)入了`OpenAIEmbeddings`，用于獲取OpenAI大型語言模型生成的詞向量（或者句向量）。

導(dǎo)入了`CohereEmbeddings`，用于獲取Cohere大型語言模型生成的詞向量（或者句向量）。Cohere是一個提供預(yù)訓(xùn)練語言模型服務(wù)的公司。

導(dǎo)入了`CharacterTextSplitter`，用于將文本按照字符進行切割。

導(dǎo)入了`ElasticVectorSearch`，用于在Elasticsearch中進行向量搜索。

導(dǎo)入了`Chroma`，用于操作ChromaDB。

總的來說，是導(dǎo)入一些處理文本、獲取和存儲詞向量、以及進行向量搜索的工具。

接著將導(dǎo)入的文本進行處理，主要是將我們輸入的文本轉(zhuǎn)換成向量，并且保存到ChromaDB的向量庫中。我將代碼的含義通過注釋的方式展示如下：

import openai
#將你的OpenAI API的密鑰存儲在變量myApiKey中
myApiKey = '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'
#創(chuàng)建了一個CharacterTextSplitter的實例，這是一個用于將文本分割成較小部分的工具
text_splitter = CharacterTextSplitter()
#使用text_splitter將輸入的文本data分割成較小的部分，并將這些部分存儲在變量texts中。
texts = text_splitter.split_text(data)
print(texts)
#創(chuàng)建了一個OpenAIEmbeddings的實例，用于獲取OpenAI大型語言模型生成的詞向量（或者句向量）。
embeddings = OpenAIEmbeddings(openai_api_key=myApiKey)
persist_directory = 'db'
#使用ChromaDB創(chuàng)建了一個文本的詞向量數(shù)據(jù)庫。它將texts中的文本部分轉(zhuǎn)換為詞向量，然后將這些詞向量和相應(yīng)的元數(shù)據(jù)存儲在指定的持久化目錄中。
docsearch = Chroma.from_texts(
    texts,
    embeddings,
    persist_directory=persist_directory,
    metadatas=[{"source":f"{i}-pl"} for i in range(len(texts))]
)

既然上面的代碼將我們的文本Embedding到項目庫中了，那么當(dāng)我們提問的時候就可以從這個庫中讀取相關(guān)的信息。下面的代碼使用LangChain庫構(gòu)建一個檢索型問答（Retrieval-based Question Answering）系統(tǒng)，然后使用這個系統(tǒng)來回答一個特定的問題。

#從LangChain庫中導(dǎo)入了RetrievalQAWithSourcesChain類，這是一個用于構(gòu)建檢索型問答系統(tǒng)的類。
from langchain.chains.qa_with_sources.retrieval import RetrievalQAWithSourcesChain
#創(chuàng)建了一個RetrievalQAWithSourcesChain的實例，即一個檢索型問答系統(tǒng)。該系統(tǒng)使用OpenAI的大型語言模型（設(shè)置了溫度參數(shù)為0）進行問答，使用Retriever進行信息檢索，并且設(shè)置了返回來源文檔的選項。
chain = RetrievalQAWithSourcesChain.from_chain_type(
    llm = OpenAI(openai_api_key=myApiKey,temperature=0),
    chain_type="stuff",
    retriever = retriever,
    return_source_documents = True
)
#一個函數(shù)，用于處理問答系統(tǒng)返回的結(jié)果。該函數(shù)會打印出答案以及來源文檔。
def process_result(result):
  print(result['answer'])
  print("\n\n Sources: ", result['sources'])
  print(result['sources'])
#提出問題
question = '鮑勃喜歡什么顏色'
#使用定義的問答系統(tǒng)來回答問題，并將結(jié)果存儲在result變量中
result = chain({"question":question})
#調(diào)用定義的函數(shù)來處理并打印問答結(jié)果。
process_result(result)

執(zhí)行上面的代碼得到如圖4 結(jié)果?？梢钥吹轿覀冚斎氲奈谋尽癇ob likes blue color”被作為答案回應(yīng)了我們的提問。

整體代碼清單

pip install langchain
pip install openai
pip install chromadb
pip install tiktoken
import requests
#text_url = '【輸入你的文本的網(wǎng)絡(luò)地址】'
#response = requests.get(text_url)
#data = response.text
data="Bob likes blue. Bob is from China."
from langchain.embeddings.openai import OpenAIEmbeddings
from langchain.embeddings.cohere import CohereEmbeddings
from langchain.text_splitter import CharacterTextSplitter
from langchain.vectorstores.elastic_vector_search import ElasticVectorSearch
from langchain.vectorstores import Chroma
import openai
#將你的OpenAI API的密鑰存儲在變量myApiKey中
myApiKey = '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'
#創(chuàng)建了一個CharacterTextSplitter的實例，這是一個用于將文本分割成較小部分的工具
text_splitter = CharacterTextSplitter()
#使用text_splitter將輸入的文本data分割成較小的部分，并將這些部分存儲在變量texts中。
texts = text_splitter.split_text(data)
print(texts)
#創(chuàng)建了一個OpenAIEmbeddings的實例，用于獲取OpenAI大型語言模型生成的詞向量（或者句向量）。
embeddings = OpenAIEmbeddings(openai_api_key=myApiKey)
persist_directory = 'db'
#使用ChromaDB創(chuàng)建了一個文本的詞向量數(shù)據(jù)庫。它將texts中的文本部分轉(zhuǎn)換為詞向量，然后將這些詞向量和相應(yīng)的元數(shù)據(jù)存儲在指定的持久化目錄中。
docsearch = Chroma.from_texts(
    texts,
    embeddings,
    persist_directory=persist_directory,
    metadatas=[{"source":f"{i}-pl"} for i in range(len(texts))]
)
#從LangChain庫中導(dǎo)入了RetrievalQAWithSourcesChain類，這是一個用于構(gòu)建檢索型問答系統(tǒng)的類。
from langchain.chains.qa_with_sources.retrieval import RetrievalQAWithSourcesChain
#創(chuàng)建了一個RetrievalQAWithSourcesChain的實例，即一個檢索型問答系統(tǒng)。該系統(tǒng)使用OpenAI的大型語言模型（設(shè)置了溫度參數(shù)為0）進行問答，使用Retriever進行信息檢索，并且設(shè)置了返回來源文檔的選項。
chain = RetrievalQAWithSourcesChain.from_chain_type(
    llm = OpenAI(openai_api_key=myApiKey,temperature=0),
    chain_type="stuff",
    retriever = retriever,
    return_source_documents = True
)
#一個函數(shù)，用于處理問答系統(tǒng)返回的結(jié)果。該函數(shù)會打印出答案以及來源文檔。
def process_result(result):
  print(result['answer'])
  print("\n\n Sources: ", result['sources'])
  print(result['sources'])
#提出問題
question = '鮑勃喜歡什么顏色'
#使用定義的問答系統(tǒng)來回答問題，并將結(jié)果存儲在Result變量中
result = chain({"question":question})
#調(diào)用定義的函數(shù)來處理并打印問答結(jié)果。
process_result(result)

最后的思考

在自然語言處理領(lǐng)域，為了讓模型能夠處理特定領(lǐng)域的問題，需要進行Fine-tuning，并利用Embedding方法將文本信息轉(zhuǎn)換為數(shù)值向量。這樣的過程使得模型能夠具備特定領(lǐng)域的專業(yè)知識，從而能夠回答相關(guān)問題。詞嵌入是一種常用的Embedding方法，通過將單詞轉(zhuǎn)換為多維向量來捕獲其語義信息。在Fine-tuning過程中，我們可以更新Embedding層來增強模型對特定領(lǐng)域詞匯的理解能力。整個過程需要借助工具和庫來實現(xiàn)，如LangChain和ChromaDB。通過這樣的流程，我們可以建立一個專業(yè)領(lǐng)域的問答系統(tǒng)，提供準(zhǔn)確的答案和相關(guān)的來源文檔。

作者介紹

崔皓，51CTO社區(qū)編輯，資深架構(gòu)師，擁有18年的軟件開發(fā)和架構(gòu)經(jīng)驗，10年分布式架構(gòu)經(jīng)驗。