我們一起聊聊Prompt的演變
隨著功能的增加，提示工程的復雜性將不可避免地增加。在這里，我解釋了如何將復雜性引入到提示工程的過程中。
靜態(tài)prompt
如今，試驗prompt和提示工程已司空見慣。通過創(chuàng)建和運行提示的過程，用戶可以體驗 LLM 的生成能力。
文本生成是大型語言模型的元能力，及時工程是解鎖它的關鍵。
在試驗 Prompt Engineering 時收集到的首要原則之一是不能明確要求生成模型做某事。
相反，用戶需要了解他們想要實現(xiàn)的目標并模仿該愿景的啟動。模仿的過程被稱為prompt設計、prompt或鑄造。
Prompt Engineering 是向 LLM 提供指導和參考數(shù)據(jù)的方式。
在提示中引入集合結(jié)構(gòu)可以從 LLM 獲得更準確的響應。例如，如下所示，可以對提示進行上下文設計，為 LLM創(chuàng)建上下文參考。
上下文設計的提示通常由三個部分組成，instruction，context和question。
這是上下文提示的實際示例：
prompt = """使用提供的文本盡可能如實回答問題，如果答案未包含在下面的文本中，則說“我不知道” 背景：2020 年夏季奧運會男子跳高
項目
采用2021 年 7 月 30 日至 8 月 1 日在奧林匹克體育場舉行。來自 24 個國家的 33 名運動員參加了比賽；可能的總?cè)藬?shù)取決于除了通過分數(shù)或排名的 32 個資格賽（沒有普遍名額）之外，還有
多少國家使用普遍名額進入運動員
于 2021 年使用）。
意大利運動員 Gianmarco Tamberi 和卡塔爾運動員 Mutaz Essa Barshim 成為比賽的聯(lián)合獲勝者
當他們清除 2.37m 時，他們兩人之間的平局。坦貝里和巴爾希姆都同意分享金牌，這
在奧運會歷史上是罕見的，不同國家的運動員同意分享同一枚獎牌。
特別是 Barshim 被聽到問比賽官員“我們能有兩個金牌嗎？” 作為對
“跳下”的回應。白俄羅斯的 Maksim Nedasekau 獲得銅牌。這枚獎牌是意大利和白俄羅斯在男子跳高項目上的首枚獎牌
，意大利和卡塔爾在男子跳高項目上的首枚金牌，以及卡塔爾男子跳高項目連續(xù)第三枚獎牌
（均由巴爾希姆獲得）。
Barshim 成為繼瑞典的Patrik Sj?berg（1984 年至 1992 年）之后第二個在跳高比賽中獲得三枚獎牌的人。
問：誰贏得了 2020 年夏季奧運會男子跳高冠軍？
A:"""
openai.Completion.create(
prompt=prompt,
temperature=0,
max_tokens=300,
top_p=1,
frequency_penalty=0,
presence_penalty=0,
model=COMPLETIONS_MODEL
)["choices"][0]["text "].strip("\n")在此階段，提示本質(zhì)上是靜態(tài)的**，不構(gòu)成較大應用程序的一部分。
prompt模板
靜態(tài)prompt的下一步是prompt模板化。
靜態(tài)prompt被轉(zhuǎn)換為模板，其中鍵值被占位符替換。占位符在運行時被替換為應用程序值/變量。
有些人將模板化稱為實體注入或prompt注入。
在下面來自DUST 的模板示例中，您可以看到占位符${EXAMPlES:question}，${EXAMPlES:answer}并且${QUESTIONS:question}這些占位符在運行時被替換為值。
prompt模板允許prompt存儲、重新使用、共享和編程。生成prompt可以合并到程序中以進行編程、存儲和重復使用。
模板是帶有占位符的文本文件，可以在運行時在其中插入變量和表達式。
prompt Pipelines
在prompt Pipelines的情況下，預定義的提示模板填充了來自用戶的問題或請求。指導 LLM 的prompt中包含的上下文或參考是從知識庫中檢索的數(shù)據(jù)。
Prompt Pipelines 也可以描述為對提示模板的智能擴展。
因此，預先定義的prompt模板中的變量或占位符被填充（也稱為prompt注入）來自用戶的問題，以及要從知識庫中搜索的知識。
來自知識存儲的數(shù)據(jù)充當要回答的問題的上下文參考。擁有這些可用的信息可以防止 LLM出現(xiàn)錯亂。該過程還有助于防止 LLM 使用模型中當時不準確的過時或舊數(shù)據(jù)。
隨后，將組合的提示發(fā)送給 LLM，并將 LLM 響應返回給用戶。
下面是在文檔和問題數(shù)據(jù)被注入之前的prompt模板示例。
prompt鏈接
prompt鏈接是將多個prompt鏈接或排序以形成更大應用程序的過程。prompt序列可以串聯(lián)或并聯(lián)排列。
當prompt按順序排列時，鏈中的提示（也稱為節(jié)點）通常取決于鏈中前一個節(jié)點的輸出。在某些情況下，數(shù)據(jù)處理和決策制定案例是在提示/節(jié)點之間實現(xiàn)的。
L LM 用途廣泛，具有開放式功能。
在某些情況下，進程需要并行運行，例如，可以在用戶與聊天機器人對話時并行啟動用戶請求。
Prompt Chaining 將主要由用于輸入的對話式 UI 組成。輸出也將主要是非結(jié)構(gòu)化的對話輸出。因此創(chuàng)建了一個數(shù)字助理或聊天機器人。提示鏈接也可用于流程和管道啟動并通知用戶結(jié)果的 RPA 場景。
當通過可視化編程 UI鏈接大型語言模型提示時，功能的最大部分將是促進創(chuàng)作過程的 GUI。
下面是用于prompt工程和prompt鏈創(chuàng)作的此類 GUI 的圖像。此設計源自華盛頓大學和谷歌進行的研究。
綜上所述
“最后一英里”一詞經(jīng)常用于生成式 AI 和大型語言模型 (LLM) 的生產(chǎn)實施環(huán)境中。確保人工智能的實施確實解決了企業(yè)問題并實現(xiàn)了可衡量的商業(yè)價值。
生產(chǎn)實施需要面對客戶的嚴格和審查，以及持續(xù)擴展、更新和改進的需求。
LLM 的生產(chǎn)實施需求：
- 用于微調(diào) LLM 的精選和結(jié)構(gòu)化數(shù)據(jù)
- 生成 AI 的監(jiān)督方法
- 基于 LLM 的應用程序的可擴展和可管理的生態(tài)系統(tǒng)
