前言

最近在調(diào)試大模型應(yīng)用過(guò)程中，遇到了如下問(wèn)題：

當(dāng)用戶輸入指令：“請(qǐng)生成 10 個(gè)天氣相關(guān)的英語(yǔ)單詞”

大模型首次生成內(nèi)容與「重新生成」兩次返回的內(nèi)容近乎完全相同，幾乎沒(méi)有體現(xiàn)出任何差異性。

面對(duì)這種情況，造成大模型輸出高度相似的原因是什么呢？

我們又該采取怎樣的調(diào)整策略，才能使重新生成的內(nèi)容與前次存在明顯差異，提升輸出的多樣性呢？

本文來(lái)跟大家一起學(xué)習(xí)探索下~

一、重復(fù)生成的根源探析

要解決重復(fù)問(wèn)題，需先理解其輸入與模型處理機(jī)制。

大模型建模概率一般是一個(gè)條件概率：

p(xt|x1,x2,...,xt?1)

即 大模型通過(guò)前 t-1 個(gè) token 作為條件，來(lái)預(yù)測(cè)第 t 個(gè) token 的是哪一個(gè)。

當(dāng)你的前面的條件文本過(guò)長(zhǎng)時(shí)，大模型的輸出的幾個(gè)短文本會(huì)被原始的很長(zhǎng)的條件文本淹沒(méi)，繼續(xù)預(yù)測(cè)下一個(gè)token的話，在模型看起來(lái)可能條件仍然是差不多的，此時(shí)如果使用greedy search，只選擇概率最大的一個(gè)token，模型極大可能會(huì)將前面已經(jīng)生成的短文本重新預(yù)測(cè)成概率最大的文本，以此類推，會(huì)一直重復(fù)下去。

二、重復(fù)輸出現(xiàn)象

在生成式大模型的應(yīng)用中，內(nèi)容重復(fù)輸出的問(wèn)題可以從不同層級(jí)進(jìn)行分析。

具體可分為以下五個(gè)層級(jí)：

1、字符/符號(hào)級(jí)重復(fù)

    單個(gè)字符、標(biāo)點(diǎn)或符號(hào)的重復(fù)堆砌，例如 "哈哈哈哈"、"……" 或 "!!!!!!"

2、詞語(yǔ)/短語(yǔ)級(jí)重復(fù)

    特定詞匯或短語(yǔ)在文本中高頻出現(xiàn)，甚至同一句話多次重復(fù)

3、句子/段落級(jí)重復(fù)

    相同或近似的句子、段落反復(fù)出現(xiàn)，例如多次解釋同一概念或用不同句式重復(fù)同一觀點(diǎn)

4、語(yǔ)義級(jí)重復(fù)

    不同表述但表達(dá)相同含義，例如 "天氣晴朗，陽(yáng)光明媚" 與 "日照充足，萬(wàn)里無(wú)云"

5、邏輯/結(jié)構(gòu)級(jí)重復(fù)

    內(nèi)容整體框架或邏輯鏈的重復(fù)，例如多輪對(duì)話中反復(fù)給出相同建議，或文章結(jié)構(gòu)模板化

圖片

三、高效優(yōu)化策略

3.1提示詞優(yōu)化

在生成式大模型的交互中，提示詞（Prompt）優(yōu)化是控制重復(fù)輸出的核心手段之一?？梢詮囊韵聨讉€(gè)角度進(jìn)行優(yōu)化：

• 明確要求多樣性：直接告訴模型需避免重復(fù)，并強(qiáng)調(diào)內(nèi)容的多樣性

    示例提示詞：

"請(qǐng)生成一段關(guān)于氣候變化影響的描述，要求用不同角度和案例說(shuō)明，避免重復(fù)觀點(diǎn)或句式。" 
"總結(jié)AI技術(shù)的三大優(yōu)勢(shì)，每個(gè)優(yōu)勢(shì)需用不同的例子解釋，禁止重復(fù)用詞或語(yǔ)義重復(fù)。"

• 限制重復(fù)的粒度：通過(guò)量化限制約束重復(fù)行為，覆蓋不同層級(jí)

    示例提示詞：

"用300字介紹量子計(jì)算，要求： 
1）同一詞語(yǔ)出現(xiàn)不超過(guò)3次（專業(yè)術(shù)語(yǔ)除外） 
2）每段開(kāi)頭句式不重復(fù) 
3）語(yǔ)義層面避免相同觀點(diǎn)重復(fù)解釋"

3.2交互方式優(yōu)化

將生成過(guò)程拆解為多步驟，減少單次生成壓力。

• 分段提問(wèn)：用“第一步/第二步”明確流程，將復(fù)雜問(wèn)題拆解為系列子問(wèn)題，逐步獲取結(jié)構(gòu)化答案
• 輸出長(zhǎng)度控制：明確限制字?jǐn)?shù)，同時(shí)配合 “禁止重復(fù)” 指令，提升內(nèi)容精煉度
• 交叉驗(yàn)證：要求模型自我檢查重復(fù)內(nèi)容

示例提示詞：

"第一步：列出5個(gè)不重復(fù)的環(huán)保措施關(guān)鍵詞； 
第二步：針對(duì)每個(gè)關(guān)鍵詞，用不同句式展開(kāi)說(shuō)明； 
第三步：組合成連貫段落，檢查并刪除冗余內(nèi)容。"

3.3模型參數(shù)調(diào)優(yōu)

1）采樣策略組合拳

• 溫度參數(shù)（Temperature）：控制概率分布的平滑度

默認(rèn)值0.7提供了一個(gè)良好的平衡點(diǎn)

值越低（接近0.0），輸出越確定和保守

值越高（接近1.0），輸出越隨機(jī)和創(chuàng)造性

• Top-P 核采樣：動(dòng)態(tài)調(diào)整候選詞范圍

p=0.85-0.95：常規(guī)生成

p<0.8：法律條文、合同生成（強(qiáng)制選擇高概率詞

p>0.95：故事創(chuàng)作（允許低概率詞）

• Top-K 采樣：固定候選詞數(shù)量

K=40-50：通用場(chǎng)景

K=10-20：嚴(yán)格控制輸出

2）懲罰機(jī)制深度干預(yù)

對(duì)已生成token施加對(duì)數(shù)概率懲罰

公式化表示：P'(x_t) = P(x_t) / (1 + α·count(x_t))

其中α為懲罰系數(shù)，OpenAI在GPT-3中采用動(dòng)態(tài)懲罰策略，隨重復(fù)次數(shù)指數(shù)增長(zhǎng)。

• 重復(fù)懲罰系數(shù)（Repetition Penalty）

1.5+：重度懲罰（可能影響連貫性）

1.05-1.2：輕度懲罰（推薦）

• 頻率懲罰（Frequency Penalty）

1.0-2.0：強(qiáng)制生成新詞

0.5-1.0：抑制高頻詞重復(fù)

• 存在懲罰（Presence Penalty）

0.2-0.5：鼓勵(lì)引入新主題

參數(shù)組合參考案例：

#  技術(shù)文檔生成 
parameters = {'temperature': 0.3,'top_p': 0.7,'repetition_penalty': 1.1,'frequency_penalty': 0.8}
 # 創(chuàng)意文案生成 
parameters = {'temperature': 0.9,'top_p': 0.95,'repetition_penalty': 1.05,'frequency_penalty': 0.5}

結(jié)語(yǔ)

通過(guò)系統(tǒng)化調(diào)整提示設(shè)計(jì)、參數(shù)配置與交互策略，可顯著降低大模型的重復(fù)輸出問(wèn)題，實(shí)現(xiàn)更高效、多樣化的內(nèi)容生成。

解決重復(fù)生成問(wèn)題本質(zhì)：在模型創(chuàng)造性與穩(wěn)定性間尋找動(dòng)態(tài)平衡。隨著認(rèn)知建模技術(shù)的進(jìn)步，我們正在從"避免重復(fù)"走向"智能重復(fù)"，讓大模型的輸出既保持連貫性，又充滿意料之外的智慧閃光。