之前朋友做過(guò)的智能客服項(xiàng)目，今天整理脫敏出來(lái)幫大家做一個(gè)項(xiàng)目參考，整個(gè)工作流已經(jīng)細(xì)分好，大家跟著自己實(shí)操做一遍，完善并且補(bǔ)充自己的項(xiàng)目經(jīng)歷，提高簡(jiǎn)歷的含金量和通過(guò)率！
? 需求分析：隨著 TiDB 和 TiDB Cloud 用戶的增長(zhǎng)，支持人員數(shù)量不足，超過(guò) 50% 的用戶問(wèn)題可在官方文檔中找到答案，但文檔內(nèi)容繁多，用戶難以找到所需信息，因此需要構(gòu)建集成官方文檔知識(shí)的機(jī)器人。
??了解 LLM 的能力與限制：能力：包括理解語(yǔ)義、邏輯推理、嘗試回答所有問(wèn)題、具備通用知識(shí)和多輪對(duì)話的能力。
??限制：被動(dòng)觸發(fā)、知識(shí)過(guò)期、存在細(xì)分領(lǐng)域的幻覺(jué)、對(duì)話長(zhǎng)度有限，且本身無(wú)法主動(dòng)發(fā)起交互。
?需求實(shí)現(xiàn)的差距與解決方案：

需求一：采取多輪對(duì)話形式，理解用戶提問(wèn)并給出回答，LLM 本身具備此能力。
需求二：回答的內(nèi)容中關(guān)于 TiDB、TiDB Cloud 的內(nèi)容需要正確無(wú)誤。通過(guò)利用向量數(shù)據(jù)庫(kù)的空間相似度搜索功能來(lái)實(shí)現(xiàn)，具體步驟為：文檔預(yù)處理與裁剪，將 TiDB 的相關(guān)文檔轉(zhuǎn)化為干凈、易理解的文本格式，并進(jìn)行裁剪以滿足長(zhǎng)度需求。
搜索相關(guān)文本內(nèi)容：用戶提問(wèn)時(shí)，將對(duì)話 Embedding 生成向量，與向量數(shù)據(jù)庫(kù)中的預(yù)料進(jìn)行查詢，利用相似度算法計(jì)算出最相似的領(lǐng)域知識(shí)向量，提取文本內(nèi)容。提供給 LLM 回答：將任務(wù)目標(biāo)、相關(guān)領(lǐng)域知識(shí)和聊天記錄一起提供給 LLM，得到特定回答。.
需求三：不能回答與 TiDB、TiDB Cloud 無(wú)關(guān)的內(nèi)容。通過(guò)限定領(lǐng)域的判斷來(lái)實(shí)現(xiàn)，包括對(duì)用戶原始提問(wèn)進(jìn)行判斷，根據(jù)判斷結(jié)果進(jìn)行異常流程和正常流程的處理。
問(wèn)題分析與優(yōu)化：?jiǎn)栴}分類：包括不準(zhǔn)確的不良（毒性）內(nèi)容識(shí)別、上下文理解失誤、語(yǔ)義搜索結(jié)果不精確、文檔信息不足或過(guò)時(shí)優(yōu)化方法：對(duì)于不準(zhǔn)確的不良（毒性）內(nèi)容識(shí)別，通過(guò)收集線上和測(cè)試中所有相關(guān)問(wèn)題，進(jìn)行毒性標(biāo)記和清洗，放入向量數(shù)據(jù)庫(kù)中。讓 LLM 模型根據(jù)最相關(guān)的示例給出準(zhǔn)確答案對(duì)于上下文理解失誤，讓 LLM 在系統(tǒng)進(jìn)行領(lǐng)域知識(shí)搜索前對(duì)用戶的原始提問(wèn)進(jìn)行改寫，補(bǔ)充詳細(xì)信息，保證系統(tǒng)面對(duì)的用戶問(wèn)題一致對(duì)于語(yǔ)義搜索結(jié)果不精確，采用直接調(diào)整領(lǐng)域內(nèi)容和提問(wèn)之間的向量距離或在召回領(lǐng)域知識(shí)的內(nèi)容之外額外召回特定內(nèi)容的示例的方法，最終選擇了不影響原有向量空間、相對(duì)解耦且自由度高的方法。

本文轉(zhuǎn)載自公眾號(hào)數(shù)字化助推器  作者：天涯咫尺TGH

原文鏈接：??https://mp.weixin.qq.com/s/fReYeX1fg8TKzrh7uEffwA??