大語言模型或LLM是一種深度學(xué)習(xí)語言模型，旨在理解、解釋和生成人類語言；它通常由數(shù)百萬到數(shù)十億的神經(jīng)網(wǎng)絡(luò)參數(shù)組成，并使用自我監(jiān)督進(jìn)行訓(xùn)練。著名的LLM的例子包括GPT-4、BERT和LLAMA。

獲取LLM有時(shí)很棘手，因?yàn)楸仨氉袷丨h(huán)境要求和規(guī)范，這成為學(xué)習(xí)LLM的把關(guān)人。幸運(yùn)的是可以使用一個(gè)名為OpenPlayground的Python軟件包在筆記本電腦上有效地試驗(yàn)各種LLM。

逐步探索OpenPlayground

Python軟件包OpenPlayground是一個(gè)可以在筆記本電腦上運(yùn)行的LLM游樂場，可以在這里試驗(yàn)?zāi)Ｐ?、調(diào)整參數(shù)、進(jìn)行模型比較，并通過友好的UI追蹤日志歷史記錄。他們還使用了幾個(gè)實(shí)體的著名LLM，如OpenAI、HuggingFace等等。

怎么才能開始使用OpenPlayground呢？首先，安裝該軟件包。

pip install openplayground

然后在終端上運(yùn)行以下命令。

openplayground run

在終端上，將獲得以下信息。

OpenPlayground正在運(yùn)行，必須訪問本地主機(jī)才能使用playground UI。

在UI中會(huì)看到三個(gè)部分：Playground，Compare和Settings。先去看看“Settings”選項(xiàng)卡，因?yàn)椴惶峁┍匾男畔⒕蜔o法工作。

當(dāng)打開“Settings”時(shí)，會(huì)有一個(gè)需要選擇的“Providers”部分。對(duì)于本文的例子，將使用來自O(shè)penAI的那個(gè)。點(diǎn)擊OpenAI，并提供API密鑰，使openplayground可以訪問所有模型，類似于下面的圖片。

啟用想要的模型，然后回到“Playground”選項(xiàng)卡。當(dāng)已經(jīng)選擇了一個(gè)模型，可以在右側(cè)使用其他參數(shù)。

該參數(shù)的存在是為了讓用戶輕松地探索和試驗(yàn)LLM模型的結(jié)果。嘗試一個(gè)簡單的提示：“給我創(chuàng)作一個(gè)關(guān)于公主和魔法王國的小故事”。

生成的文本將以綠色顯示。如果啟用“Show Probabilities”，如果模型允許可以得到標(biāo)記生成概率。例如，“text-DaVinci-03”模型可以顯示概率。再提交一次提示，并查看結(jié)果。

懸停在該標(biāo)記上會(huì)顯示該標(biāo)記出現(xiàn)的概率有多高。此外，還有關(guān)于前5個(gè)標(biāo)記的信息，這些信息可以成為可能生成的文本。

進(jìn)入“Compare”選項(xiàng)卡，可以比較具有相同參數(shù)的各種LLM模型生成的文本。用之前例子的相同提示進(jìn)行嘗試。

“Compare”選項(xiàng)卡提供了同時(shí)生成文本的兩個(gè)或多個(gè)不同LLM模型的信息。這些信息包括標(biāo)記、模型生成文本的速度、所花的時(shí)間以及多少個(gè)字符。

嘗試使用來自多個(gè)提供商的各種模型進(jìn)行試驗(yàn)，以從使用OpenPlayground中獲得更多價(jià)值。

總結(jié)

大語言模型或LLM是一個(gè)能夠理解、解釋和生成人類文本的模型。通過使用OpenPlayground，可以有一個(gè)簡單的UI來探索和實(shí)驗(yàn)多個(gè)LLM。