提示工程，可以說是玩轉(zhuǎn)ChatGPT、DALL·E 2等等這類AI模型的「必修課」。

但這個「提示」（prompt）具體要怎么寫，多少都有些玄學在里面……

也難怪由此誕生的新職業(yè)——提示工程師，年薪已經(jīng)達到了25萬-33萬美元。

就在前不久，一位來自斯坦福大學的華人本科生Kevin Liu，就通過prompt injection的方法，讓微軟ChatGPT搜索的全部prompt泄露。此后，更是掀起了一股調(diào)戲ChatGPT的熱潮。

而今天新發(fā)布在GitHub上的一個項目，整理了提示工程的指南、論文、講座和資源，堪稱史上最全prompt資料包。

項目地址：https://github.com/dair-ai/Prompt-Engineering-Guide

憑借著一天近1k星的增長，這篇「提示工程指南」同時登上了GitHub Trending，和Hacker News熱榜。

指南內(nèi)容

語言模型的輸出需要通過輸入的提示實現(xiàn)，但結(jié)果的質(zhì)量取決于你為它提供多少信息。

隨著我們介紹越來越多的例子和提示工程的應(yīng)用，你會注意到，一個提示通常會由幾種不同的元素構(gòu)成：

• 指令：希望模型執(zhí)行的具體任務(wù)或指示
• 背景：補充的外部或上下文信息，可以引導模型做出更好的反應(yīng)
• 輸入數(shù)據(jù)：想要解決的輸入或問題
• 輸出指示：輸出的類型或格式

究竟該怎樣玩轉(zhuǎn)提示工程呢？GitHub上的這份指南，會提供很大的幫助。

這份指南包括演講、提示介紹、論文、工具和庫、數(shù)據(jù)集、博客和教程等讀物，總共6個部分。

50頁PPT，一小時超詳細講座

在「講座」這部分，包含了長達一小時的視頻，代碼示例，以及一份配合講座的50頁PPT。

其中，視頻包含4個部分，分別是提示工程簡介、提供工程的技術(shù)、工具和應(yīng)用程序、未來方向。

視頻和PPT都對prompt的定義做了詳細介紹：prompts是指為了實現(xiàn)特定任務(wù)，傳遞給語言模型的指令和上下文。

而提示工程是創(chuàng)建一組提示或問題的過程，用于引導用戶獲得自己期望的結(jié)果。

為什么提示工程如此重要？

因為它對研究、發(fā)現(xiàn)很重要，能夠用來幫助測試大語言模型的各種極限，還能在大語言模型上的基礎(chǔ)上開發(fā)各種創(chuàng)新型的應(yīng)用。

為什么提示工程如此重要？

因為它對研究、發(fā)現(xiàn)很重要，能夠用來幫助測試大語言模型的各種極限，還能在大語言模型上的基礎(chǔ)上開發(fā)各種創(chuàng)新型的應(yīng)用。

提示指南

團隊開發(fā)的提示工程指南，主要由5部分構(gòu)成：

• 簡介
• 基礎(chǔ)提示

• 文本歸納
• 問題回答
• 對話
• 代碼生成
• 推理

• 進階提示

• few-shot提示

• 思想鏈（CoT）提示

• zero-shot CoT

• 自洽性

• 生成知識提示

• 自動提示工程師（APE）

• 對抗性提示

• 忽略以前的指令

• 提示泄漏

• 越獄

• 其他

• 程序輔助的語言模型

• ReAct

• 多模態(tài)CoT提示

• 圖提示

論文合集

團隊每天都會更新有關(guān)提示工程的最新論文，并且每周都會將這些論文的摘要納入上述指南中。

比如，LeCun今年2月的新作「Augmented Language Models: a Survey 」就被收錄了進來。

具體來說，作者把論文分成了4個大類：

• 調(diào)查/概述
• 方法/技巧
• 應(yīng)用
• 補充

工具資料包

數(shù)據(jù)集

博客、指南、教程和其他

這部分主要是來自大佬們的經(jīng)驗總結(jié)。

作者介紹

主導這個項目的Elvis Saravia，是DAIR.AI的聯(lián)合創(chuàng)始人。

他在臺灣清華大學取得了信息系統(tǒng)與應(yīng)用的碩士和博士學位。

在此之前，他在Meta AI擔任了2年技術(shù)產(chǎn)品營銷經(jīng)理，并曾是NeurIPS研討會和NAACL 2019的程序委員會的成員。

從Linkedin上的經(jīng)歷來看，這位朋友似乎也曾負責過LeCun一直心心念的Galactica。