提示詞（Prompt）是輸入給大模型（LLM）的文本指令，用于明確地告訴大模型你想要解決的問題或完成的任務(wù)，也是大語言模型理解用戶需求并生成準(zhǔn)確答案的基礎(chǔ)。因此 prompt 使用的好壞，直接決定了大模型生成結(jié)果的質(zhì)量（是否符合預(yù)期）。

圖片

Prompt 基本使用

為了讓大模型生成更符合預(yù)期的結(jié)果，我們在使用 Prompt 時，可以使用以下模版。

圖片

其內(nèi)容組成為：

• 背景：介紹與任務(wù)緊密相關(guān)的背景信息。這一環(huán)節(jié)有助于 LLM 深入理解討論的具體環(huán)境，從而保證其生成內(nèi)容與話題高度相關(guān)。
• 目的：明確指出您期望 LLM 完成的具體任務(wù)。通過設(shè)定清晰、精確的目標(biāo)指令，可引導(dǎo) LLM 聚焦于實現(xiàn)既定任務(wù)，提升輸出的有效性。
• 風(fēng)格：指定您希望 LLM 輸出的寫作風(fēng)格，可以是某個具體名人、具體流派或者某類專家的寫作風(fēng)格。
• 語氣：定義輸出內(nèi)容應(yīng)有的語氣，比如正式、詼諧、溫馨、關(guān)懷等，以便適應(yīng)不同的使用場景和使用目的。
• 受眾：明確指出內(nèi)容面向的讀者群體，無論是專業(yè)人士、入門學(xué)習(xí)者還是兒童等，這樣 LLM 就能調(diào)整語言和內(nèi)容深度，使之更加貼合受眾需求。
• 輸出：規(guī)定輸出內(nèi)容的具體形式，確保 LLM 提供的成果能直接滿足后續(xù)應(yīng)用的需求，比如列表、JSON 數(shù)據(jù)格式、專業(yè)分析報告等形式。

以下為阿里云提供的 Prompt 案例：

圖片

在未使用 Prompt 模版時，LLM 輸出雖表現(xiàn)尚可，但顯得過于泛化，缺乏必要的細(xì)節(jié)和針對特定群體的吸引力。而在使用 Prompt 框架時，框架不僅提醒您考慮需求的其它方面，特別是一般 Prompt 中缺少的風(fēng)格、語氣和受眾，還幫助 LLM 生成更針對年輕群體、細(xì)節(jié)更多、語言表達(dá)更加富有張力的輸出。

Prompt 優(yōu)化工具

當(dāng)然，我們也可以使用一些工具來進(jìn)行 Prompt 優(yōu)化，例如阿里云百煉平臺 Prompt 優(yōu)化工具擴寫等，如下圖所示：

圖片

Prompt 發(fā)展演化

從程序的角度來看 Prompt 的發(fā)展演化經(jīng)過了以下幾個階段：

• 簡單字符串：最初的 Prompt 只是簡單的文本字符串。
• 占位符：引入占位符（如 {USER}）以動態(tài)插入內(nèi)容。
• 多角色消息：將消息分為不同角色（如用戶、助手、系統(tǒng)等），增強交互的復(fù)雜性和上下文感知能力。

Spring AI Prompt 組成

以 Spring AI 中的 Prompt 來看，它的實現(xiàn)源碼如下：

public class Prompt implements ModelRequest<List<Message>> {
    private final List<Message> messages;
    private ChatOptions chatOptions;
}

Prompt 實現(xiàn)了 ModelRequest 接口，并且包含了 messages 和 chatOptions 屬性，其中：

• messages：包含多個 Message 對象，每個消息代表對話中的一個部分。
• chatOptions：配置選項，用于設(shè)置模型的某些屬性。

Message API 關(guān)系圖

Message 對象是 Content 的子類，Spring AI Message API 關(guān)系如下圖所示：

圖片

Prompt 角色分類

Prompt 中的主要角色（Role）包括以下幾個：

• 系統(tǒng)角色（System Role）：設(shè)定 AI 行為邊界。指導(dǎo) AI 的行為和響應(yīng)方式，設(shè)置 AI 如何解釋和回復(fù)輸入的參數(shù)或規(guī)則。
• 用戶角色（User Role）：接收用戶原始輸入。代表用戶的輸入他們向 AI 提出的問題、命令或陳述。這個角色至關(guān)重要，因為它構(gòu)成了 AI 響應(yīng)的基礎(chǔ)。
• 助手角色（Assistant Role）：AI 返回的響應(yīng)信息，定義為“助手角色”消息。用它可以確保上下文能夠連貫的交互。
• 工具/功能角色（Tool/Function Role）：橋接外部服務(wù)，可以進(jìn)行函數(shù)調(diào)用如，支付/數(shù)據(jù)查詢等操作。

角色在 Spring AI 枚舉中被定義，如下源碼所示：

public enum MessageType {
    USER("user"),
    ASSISTANT("assistant"),
    SYSTEM("system"),
    TOOL("tool");
    // .....
}

系統(tǒng)和用戶角色使用

import org.springframework.ai.chat.client.ChatClient;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;

@RestController
@RequestMapping("/prompt")
publicclass PromptController {
    privatefinal ChatClient chatClient;
    public PromptController(ChatClient.Builder builder) {
        this.chatClient = builder.build();
    }
    @RequestMapping("/system")
    public String system(@RequestParam String city) {
        String result = chatClient.prompt()
        .system("你是一個旅行規(guī)劃助手")
        .user(city)
        .call()
        .content();
        System.out.println(result);
        return result;
    }
}

以上程序執(zhí)行結(jié)果如下：

圖片

助手角色使用

AssistantMessage 助手消息類型可用于接收上次執(zhí)行結(jié)果，并實現(xiàn)上下文連續(xù)對話，實現(xiàn)代碼如下：

import org.springframework.ai.chat.client.ChatClient;
import org.springframework.ai.chat.messages.AssistantMessage;
import org.springframework.ai.chat.messages.Message;
import org.springframework.ai.chat.messages.UserMessage;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;

import java.util.ArrayList;
import java.util.List;

@RestController
@RequestMapping("/prompt")
publicclass PromptController {
    privatefinal ChatClient chatClient;
    //使用集合記錄消息歷史
    List<Message> messages = new ArrayList<>();

    public PromptController(ChatClient.Builder builder) {
        this.chatClient = builder.build();
    }

    @RequestMapping("/assistant")
    public String assistant(@RequestParam String msg) {
        messages.add(new UserMessage(msg));
        // 助手消息
        AssistantMessage response = chatClient.prompt()
        .messages(messages)
        .call()
        .chatResponse()
        .getResult()
        .getOutput();
        messages.add(response);
        return response.getText();
    }
}

程序執(zhí)行結(jié)果如下：

圖片

從結(jié)果可以看出，第二次交互是在第一次交互的基礎(chǔ)上執(zhí)行的。

小結(jié)

除了 Prompt 以上內(nèi)容之外，還有 PromptTemplate 以及 Prompt 使用技巧，例如為模型提供輸出樣例、設(shè)定完成任務(wù)步驟、使用思維鏈（Chain of Thought，COT）引導(dǎo)模型“思考”等具體技巧，咱們后期文章再慢慢聊。