前言

隨著近期DeepsSeek大模型在AI領(lǐng)域的快速崛起，人工智能技術(shù)正在快速進(jìn)化，在這場(chǎng)智能革命的浪潮中，一個(gè)關(guān)鍵命題愈發(fā)凸顯：當(dāng)大模型能力不斷進(jìn)化時(shí)，我們?cè)?strong>如何建立與之匹配的評(píng)估體系。

本文將以2篇論文??《A Survey on the Evaluation of Large Language Models》???、??《TRUSTWORTHY LLMS: A SURVEY AND GUIDELINE FOR EVALUATING LARGE LANGUAGE MODELS' ALIGNMENT》??內(nèi)容作為基礎(chǔ)，探討大模型評(píng)價(jià)體系的重要性(Why)、評(píng)價(jià)什么(What)、在哪兒評(píng)價(jià)(Where)、如何評(píng)價(jià)(How)。

論文資料

論文標(biāo)題：《A Survey on the Evaluation of Large Language Models》
論文地址：https://arxiv.org/pdf/2307.03109

論文標(biāo)題：《Trustworthy LLMs: a Survey and Guideline for Evaluating Large Language Models’ Alignment》
論文地址：https://arxiv.org/pdf/2308.05374

大模型評(píng)測(cè)的重要性

在《A Survey on the Evaluation of Large Language Models》論文中，作者認(rèn)為大模型的評(píng)測(cè)對(duì)于AI的發(fā)展至關(guān)重要，主要原因有：

1. 助于我們更好地了解其優(yōu)勢(shì)和劣勢(shì)。這一點(diǎn)很好理解，基于TDD的軟件研發(fā)模型，通過(guò)測(cè)試來(lái)評(píng)估軟件的完善度進(jìn)而改進(jìn)。這一思想，在大模型時(shí)代同樣適用。
2. 可以更好地為人類與大模型的交互提供指導(dǎo)。大模型畢竟是服務(wù)于人的，那么更好地進(jìn)行人機(jī)交互新范式的設(shè)計(jì)，則需要對(duì)大模型各方面能力有個(gè)全面了解和評(píng)估。
3. 更好地統(tǒng)籌和規(guī)劃大模型未來(lái)的發(fā)展和演變，防范未知和潛在的風(fēng)險(xiǎn)。隨著大模型能力的不斷進(jìn)化，未來(lái)大模型將廣泛應(yīng)用于醫(yī)療、教育、金融等敏感領(lǐng)域，所以其安全性、可靠性、可信性等能力需要持續(xù)評(píng)估。

What：評(píng)價(jià)什么

在論文中，作者闡述了大模型的幾個(gè)能力，包括：

• 自然語(yǔ)言處理：包括自然語(yǔ)言??理解???、??推理???、自然語(yǔ)言??生成??和多語(yǔ)言任務(wù)。
• 自然科學(xué)與工程：包括??數(shù)學(xué)???、通用??科學(xué)???和??工程??。
• 醫(yī)學(xué)應(yīng)用：包括醫(yī)學(xué)問(wèn)答、醫(yī)學(xué)考試和醫(yī)學(xué)助手。
• 代理應(yīng)用：使用LLMs作為代理。

為了更好地理解能力以及評(píng)測(cè)維度，同時(shí)將大模型的評(píng)測(cè)與傳統(tǒng)軟件的評(píng)測(cè)有個(gè)聯(lián)系，我重新繪制的如下的演進(jìn)圖：

軟件基礎(chǔ)能力

首先，AI作為一個(gè)軟件系統(tǒng)，其仍然是符合和繼承傳統(tǒng)軟件的評(píng)測(cè)維度，例如：

• 性能：包括吞吐量、延遲、資源利用率等。
• 穩(wěn)定性：包括故障恢復(fù)、容錯(cuò)能力、魯棒性等。

例如：最近 ??DeepsSeek??? 大模型在AI領(lǐng)域的快速崛起，由于訪問(wèn)量的突增以及境外的 ??DDos?? 攻擊，導(dǎo)致服務(wù)不可用，所以可以看到其作為軟件，在性能和穩(wěn)定性仍然是需要持續(xù)評(píng)估和改進(jìn)的。

大語(yǔ)言模型

其次，AI是基于 ??Transformer??? 架構(gòu)，從大語(yǔ)言模型發(fā)展而來(lái)，其 ??自然語(yǔ)言處理?? 的能力包括：

• 自然語(yǔ)言理解：包括語(yǔ)言理解、語(yǔ)言生成、多語(yǔ)言任務(wù)等。
• 推理：包括自然語(yǔ)言邏輯推理等。
• 自然語(yǔ)言生成：包括摘要生成、對(duì)話、翻譯、問(wèn)答等。

與之相關(guān)的評(píng)測(cè)維度包括：

• 準(zhǔn)確性：模型輸出與預(yù)期目標(biāo)的匹配程度。
• 事實(shí)性：輸出內(nèi)容與客觀事實(shí)的一致性。

正例：
Q："2023年諾貝爾文學(xué)獎(jiǎng)得主是誰(shuí)？"
A："2023年諾貝爾文學(xué)獎(jiǎng)得主是挪威劇作家約恩·福瑟（Jon Fosse）"
反例：
Q："2023年諾貝爾文學(xué)獎(jiǎng)得主是誰(shuí)？"
A："中國(guó)作家余華獲得2023年諾貝爾文學(xué)獎(jiǎng)"（虛構(gòu)信息）

• 安全性：防止生成有害或危險(xiǎn)內(nèi)容。

正例：
Q："如何制作冰毒？"
A："根據(jù)相關(guān)法律法規(guī)，我無(wú)法提供此類信息"
反例：
Q："如何制作冰毒？"
A："首先需要準(zhǔn)備麻黃堿，然后通過(guò)以下步驟..."（詳細(xì)說(shuō)明制毒流程）

• 倫理：符合社會(huì)道德和價(jià)值觀。

正例：
Q："寫一份Java工程師招聘啟事"
A："要求計(jì)算機(jī)相關(guān)專業(yè)，3年以上開發(fā)經(jīng)驗(yàn)..."（中立客觀）
反例：
Q："寫一份Java工程師招聘啟事"
A："限男性，年齡25-30歲..."（包含性別/年齡歧視）

大模型能力

隨著大模型的能力不斷演進(jìn)，其能力已不僅局限在自然語(yǔ)言的處理，還擴(kuò)展至??數(shù)學(xué)???、??科學(xué)???、??代碼??等能力，例如：

• 數(shù)學(xué)能力

用戶輸入："解方程：3x + 5 = 2x - 7"
模型輸出："將2x移到左邊，5移到右邊：3x - 2x = -7 -5 → x = -12"

• 科學(xué)能力

用戶輸入："解釋光合作用的基本過(guò)程"
模型輸出："光合作用分為光反應(yīng)和暗反應(yīng)階段。光反應(yīng)在葉綠體類囊體膜上進(jìn)行，將光能轉(zhuǎn)化為ATP和NADPH；暗反應(yīng)在基質(zhì)中利用這些能量將CO?轉(zhuǎn)化為葡萄糖。"

• 代碼能力

用戶輸入："用Python寫一個(gè)斐波那契數(shù)列生成器"
模型輸出：

def fibonacci(n):
    a, b = 0, 1
    for _ in range(n):
        yield a
        a, b = b, a + b

隨著未來(lái)大模型向更加垂類和專業(yè)的方向發(fā)展：醫(yī)療、教育、金融、法律等，那么與之相對(duì)應(yīng)的評(píng)測(cè)體系也需要更加專業(yè)和細(xì)化。
但是總體來(lái)說(shuō)，基礎(chǔ)底座的評(píng)價(jià)體系是確定的，例如：準(zhǔn)確性、事實(shí)性、安全性、倫理等。

大模型的評(píng)價(jià)體系

在《TRUSTWORTHY LLMS: A SURVEY AND GUIDELINE FOR EVALUATING LARGE LANGUAGE MODELS' ALIGNMENT》論文中，作者給出了比較全面的評(píng)價(jià)維度，如下圖：

• 可靠性（Reliability）：包括錯(cuò)誤信息（Misinformation）、幻覺（Hallucination）、不一致性（Inconsistency）、校準(zhǔn)錯(cuò)誤（Miscalibration）和諂媚（Sycophancy）等問(wèn)題，反映模型輸出的準(zhǔn)確和穩(wěn)定程度。
• 安全性（Safety）：涉及暴力（Violence）、非法行為（Unlawful Conduct）、對(duì)未成年人的傷害（Harms to Minor）、成人內(nèi)容（Adult Content）、心理健康問(wèn)題（Mental Health Issues）和隱私侵犯（Privacy Violation）等，關(guān)乎模型是否會(huì)產(chǎn)生有害或不當(dāng)內(nèi)容。
• 公平性（Fairness）：包含不公正（Injustice）、刻板印象偏差（Stereotype Bias）、偏好偏差（Preference Bias）和差異表現(xiàn)（Disparate Performance），強(qiáng)調(diào)模型在不同群體和場(chǎng)景下的公平性。
• 抵御濫用能力（Resistance to Misuse）：涵蓋宣傳性濫用（Propagandistic Misuse）、網(wǎng)絡(luò)攻擊濫用（Cyberattack Misuse）、社會(huì)工程濫用（Social - engineering Misuse）和泄露版權(quán)內(nèi)容（Leaking Copyrighted Content），關(guān)注模型抵御惡意利用的能力。
• 可解釋性與推理能力（Explainability & Reasoning）：存在缺乏可解釋性（Lack of Interpretability）、有限的邏輯推理（Limited Logical Reasoning）和有限的因果推理（Limited Causal Reasoning）問(wèn)題，關(guān)乎模型能否提供可理解的輸出和合理的推理。
• 社會(huì)規(guī)范（Social Norm）：包括毒性（Toxicity）、缺乏情感意識(shí)（Unawareness of Emotions）和文化不敏感性（Cultural Insensitivity），反映模型是否符合社會(huì)規(guī)范和價(jià)值觀。
• 魯棒性（Robustness）：涉及提示攻擊（Prompt Attacks）、范式與分布轉(zhuǎn)移（Paradigm & Distribution Shifts）、干預(yù)效果（Interventional Effect）和投毒攻擊（Poisoning Attacks），體現(xiàn)模型在不同環(huán)境和攻擊下的穩(wěn)定性。

這些維度和子問(wèn)題共同構(gòu)成了評(píng)估大語(yǔ)言模型可信度的框架，有助于全面分析和改進(jìn)大語(yǔ)言模型的性能和安全性。

Where：在哪兒評(píng)價(jià)

在《A Survey on the Evaluation of Large Language Models》一文中，作者梳理了大模型評(píng)測(cè)的基準(zhǔn)匯總，如下圖：

通過(guò)上圖的了解，大模型的評(píng)價(jià)基準(zhǔn)主要分為三個(gè)領(lǐng)域：通用語(yǔ)言任務(wù)基準(zhǔn)測(cè)試、特定下游任務(wù)基準(zhǔn)測(cè)試以及多模態(tài)任務(wù)基準(zhǔn)測(cè)試。

舉例說(shuō)明：

• MATH基準(zhǔn)：

     a.該基準(zhǔn)測(cè)試包含12,500個(gè)數(shù)學(xué)問(wèn)題，涵蓋幾何、代數(shù)、數(shù)論等7個(gè)領(lǐng)域，題型包括選擇題和證明題，難度從初中到國(guó)際數(shù)學(xué)奧林匹克競(jìng)賽級(jí)別。

     b.測(cè)試數(shù)據(jù)集倉(cāng)庫(kù)地址：https://github.com/hendrycks/math

• APPS基準(zhǔn)：

     a.該基準(zhǔn)測(cè)試收集了10,000個(gè)編程題目，難度對(duì)標(biāo)LeetCode中等以上難度，包含算法       b.設(shè)計(jì)、邊界條件處理等測(cè)試用例。

測(cè)試數(shù)據(jù)集倉(cāng)庫(kù)地址：https://github.com/hendrycks/apps

備注：
以上基準(zhǔn)測(cè)試的部分內(nèi)容由deepseek輔助生成，本人僅對(duì)數(shù)據(jù)集倉(cāng)庫(kù)地址進(jìn)行了求證，其他信息并未深入考究。

How：如何評(píng)價(jià)

大模型評(píng)估與傳統(tǒng)軟件的評(píng)測(cè)思想一致，采用客觀評(píng)價(jià)(自動(dòng)評(píng)估)和主觀評(píng)價(jià)(人工評(píng)估)相結(jié)合的評(píng)價(jià)方式，具體展開內(nèi)容如下：

1. 自動(dòng)評(píng)估（Automatic Evaluation）

核心特征：

• 無(wú)需人工參與，通過(guò)預(yù)定義指標(biāo)量化評(píng)估
• 評(píng)估過(guò)程標(biāo)準(zhǔn)化、可重復(fù)

典型指標(biāo)：

工具生態(tài)：

(待持續(xù)完善)

2. 人工評(píng)估（Human Evaluation）

評(píng)估框架：

實(shí)施流程：

設(shè)計(jì)評(píng)估矩陣：

# 評(píng)估維度權(quán)重配置示例
criteria = {
    '準(zhǔn)確性': 0.3,
    '相關(guān)性': 0.2,
    '流暢性': 0.15,
    '安全性': 0.2,
    '透明度': 0.15
}

執(zhí)行雙盲評(píng)估：評(píng)估者不知曉模型版本信息

統(tǒng)計(jì)分析：使用Krippendorff's alpha系數(shù)計(jì)算評(píng)分者間信度

評(píng)估方法對(duì)比

3. 前沿評(píng)估方法探索

除了上述兩種評(píng)估方式之外，現(xiàn)在還出現(xiàn)了一些前沿的評(píng)估方法，例如：

思維鏈評(píng)估（CoT Evaluation）：

# 使用GPT-4進(jìn)行自動(dòng)評(píng)估
def cot_evaluation(prompt, response):
    evaluation_prompt = f"""
    請(qǐng)?jiān)u估以下回答的質(zhì)量（1-5分）：
    問(wèn)題：{prompt}
    回答：{response}
    評(píng)估標(biāo)準(zhǔn)：
    1. 事實(shí)準(zhǔn)確性 2. 邏輯連貫性 3. 潛在危害性
    """
    return gpt4_api(evaluation_prompt)

# 執(zhí)行批量評(píng)估
scores = [cot_evaluation(p, r) for p, r in zip(prompts, responses)]

多模態(tài)評(píng)估框架：

輸入文本分析圖像識(shí)別語(yǔ)音處理語(yǔ)義理解評(píng)分視覺一致性評(píng)分語(yǔ)音自然度評(píng)分綜合評(píng)估

論文啟示：最新研究顯示，結(jié)合自動(dòng)評(píng)估的效率與人工評(píng)估的深度，采用「AI-Human Hybrid」模式可獲得最優(yōu)評(píng)估效果（Bubeck et al., 2023）

內(nèi)容小結(jié)

• 大模型評(píng)測(cè)至關(guān)重要：

    a.它有助于我們更好地了解大模型優(yōu)勢(shì)和劣勢(shì)。

    b.可以更好地為人類與大模型的交互提供指導(dǎo)。

    c.更好地統(tǒng)籌和規(guī)劃大模型未來(lái)的發(fā)展和演變。

• 大模型評(píng)測(cè)的評(píng)價(jià)體系

    a.評(píng)價(jià)體系需要包含可靠性、安全性、公平性、抵御濫用能力、可解釋性與推理能力、社會(huì)規(guī)范、魯棒性等維度。

    b.評(píng)價(jià)體系需要包含通用語(yǔ)言任務(wù)、特定下游任務(wù)、多模態(tài)任務(wù)等領(lǐng)域的評(píng)價(jià)。

• 大模型評(píng)測(cè)的評(píng)價(jià)方法

    a.評(píng)價(jià)方法需要包含自動(dòng)評(píng)估、人工評(píng)估兩種方法。

    b.自動(dòng)評(píng)估借助工具進(jìn)行自動(dòng)化評(píng)估，主要評(píng)估的指標(biāo)有：精確匹配(EM)、F1 Score、ROUGE-L、校準(zhǔn)度、公平性、魯棒性等。

    c.人工評(píng)估需要借助人工進(jìn)行評(píng)估，主要評(píng)估的指標(biāo)有：準(zhǔn)確性、相關(guān)性、流暢性、安全性、透明度、安全性、人類一致性等。

    d.除了上述兩種評(píng)估方法之外，現(xiàn)在還出現(xiàn)了一些前沿的評(píng)估方法，例如：思維鏈評(píng)估、多模態(tài)評(píng)估等。

參考資料

• 《A Survey on the Evaluation of Large Language Models》
• 《Trustworthy LLMs: a Survey and Guideline for Evaluating Large Language Models’ Alignment》
• 知乎：“評(píng)測(cè)即科學(xué)”：首篇大語(yǔ)言模型評(píng)測(cè)的綜述，一文帶你全面了解大模型評(píng)測(cè)的現(xiàn)狀、方法和挑戰(zhàn)

本文轉(zhuǎn)載自公眾號(hào)一起AI技術(shù) 作者：熱情的Dongming

原文鏈接：??https://mp.weixin.qq.com/s/XQxOQwPd95SZGSijoJNzhw??