AI語言模型中的ChatGPT近期在互聯(lián)網(wǎng)平臺上引起了廣泛的討論。那么，如果想將這個大型語言模型應(yīng)用在智能客服產(chǎn)品中，或者將其在ToB SaaS應(yīng)用軟件領(lǐng)域落地，應(yīng)該采用哪種構(gòu)建策略？

現(xiàn)在ChatGPT這個大型語言模型已經(jīng)在各種平臺獲得了廣泛的關(guān)注。那么，如果在ToB SaaS應(yīng)用軟件領(lǐng)域中想要將LLM大語言模型應(yīng)用于智能客服產(chǎn)品中，應(yīng)該如何實(shí)現(xiàn)呢？

首先，我們需要解決一個問題：在智能客服領(lǐng)域，是否值得使用LLM大語言模型進(jìn)行智能化產(chǎn)品改造？

讓我們先綜合考慮一下智能客服產(chǎn)品的幾個典型特征：

人力密集：

智能客服是高度依賴人工操作的系統(tǒng)，需要解放生產(chǎn)力，提高效率。

數(shù)據(jù)密集：

智能客服產(chǎn)品能夠沉淀大量過程性數(shù)據(jù)，例如會話信息、通話記錄、錄音和操作日志。這種數(shù)據(jù)能夠?yàn)槿斯ぶ悄軕?yīng)用提供基礎(chǔ)。

流程可定義：

這類產(chǎn)品往往可以通過業(yè)務(wù)流程抽象來實(shí)現(xiàn)，例如IVR語音交互、外呼任務(wù)和工單流轉(zhuǎn)等。

有智能化應(yīng)用基礎(chǔ)：

智能客服早已成為人工智能技術(shù)的先鋒之一，例如文本機(jī)器人、語音機(jī)器人和智能質(zhì)檢等應(yīng)用已經(jīng)非常成熟。客戶和用戶對此也已經(jīng)接受并習(xí)慣。

綜上所述，如果某個行業(yè)擁有相對落后的生產(chǎn)工具、標(biāo)準(zhǔn)的生產(chǎn)流程、大量未充分處理的數(shù)據(jù)且不排斥人工智能技術(shù)，那么這個行業(yè)無疑是值得LLM大語言模型落地生根的沃土。

如果值得做，那么如何做？

雖然LLM大語言模型在智能客服產(chǎn)品中的應(yīng)用前途廣闊，但現(xiàn)階段看來，其應(yīng)用仍處于不成熟的階段。

這就是一個見仁見智的問題了，大家的產(chǎn)品架構(gòu)不同，目標(biāo)客群不同、業(yè)務(wù)規(guī)模不同、主打產(chǎn)品各異。

我們可以假設(shè)，已經(jīng)有了一套得到驗(yàn)證，穩(wěn)定運(yùn)營的成熟產(chǎn)品，不希望引入LLM帶來現(xiàn)有產(chǎn)品的巨大變化，進(jìn)而影響客戶體驗(yàn)。如何搞？

提倡擁抱變化，嘴上鼓吹A(chǔ)GI通用人工智能帶來行業(yè)巨變，這些都沒問題，真要不破不立，付出真金白銀的代價來決策，去執(zhí)行，還是一個很難抉擇的命題。

1、架構(gòu)設(shè)計問題

考慮我們的產(chǎn)品架構(gòu)是否能夠支持LLM大語言模型的應(yīng)用。目前我們的主打產(chǎn)品架構(gòu)由于歷史原因顯得陳舊，模塊化解耦不完善，性能瓶頸難以解決。雖然我們有很多生產(chǎn)客戶，但這也使得我們難以輕易地改動架構(gòu)。在這種情況下，如果將ChatGPT整合到我們的架構(gòu)中，將會帶來更多的沉重壓力。

因此，我們需要先確定我們的下一步行動是優(yōu)化當(dāng)前架構(gòu)還是探索新的LLM應(yīng)用方案。這就好比對待老房子改造，我們需要先施工打好基礎(chǔ)，或者簡單裝修打造軟裝。如果歷史包袱較重，我們也可以另起爐灶，組建一支精銳團(tuán)隊進(jìn)行探索。這也可以看作是給原有池塘投入一只鯰魚。

2、工具設(shè)計問題

設(shè)計頂層應(yīng)用之前，我們需要先梳理一下我們需要的工具，例如AI引擎管理、數(shù)據(jù)建模工具、意圖管理、標(biāo)簽標(biāo)注和管理、流程生成工具、業(yè)務(wù)構(gòu)建工具等等。

引入ChatGPT的能力，相對于以前智能客服產(chǎn)品所使用的自然語言處理、語義理解、意圖識別、關(guān)鍵字和正則處理等方式，帶來了顛覆性的改變。借助其能力，我們可以使用上下文關(guān)聯(lián)、邏輯鏈提示處理等方式，擺脫以前的手把手定義流程、字詞句填槽的舊模式，從而實(shí)現(xiàn)極大的改進(jìn)。

如果以前構(gòu)建復(fù)雜的AI應(yīng)用需要半編程化的方式，那么使用ChatGPT就更像是RPG游戲編程工具，通過場景搭建、角色扮演、提示格式化、邏輯化等方式來構(gòu)建應(yīng)用，并輔以人工反饋監(jiān)督。

這種方式是可行的。如果我們做得足夠好用，我們甚至可以邀請用戶參與“游戲”開發(fā)。

此外，很多工具本身也可以通過借助ChatGPT進(jìn)行智能化改造，以更高效、智能的方式來處理數(shù)據(jù)、生成數(shù)據(jù)。例如，我們可以通過自動訓(xùn)練和標(biāo)注、知識庫的自動化擴(kuò)充來代替語料手工標(biāo)注，代替?zhèn)鹘y(tǒng)問答對的低效人力處理，并給出標(biāo)準(zhǔn)問題，自動擴(kuò)展相似問題等等。

3、應(yīng)用設(shè)計問題

最后讓我們討論一下智能客服應(yīng)用的設(shè)計，這個層面是用戶能夠感知到的界面和內(nèi)容。

為了更好地體現(xiàn)ChatGPT的優(yōu)勢能力，我們可以以智能客服的典型場景為例，探討其所能帶來的富有創(chuàng)意的改變。

（1）增強(qiáng)型對話能力

ChatGPT無疑帶來了非常強(qiáng)大的對話能力，我們十分期待并開始思考它加入智能客服對話中的效果。

然而，在智能客服產(chǎn)品領(lǐng)域中，對話通常是限定于特定業(yè)務(wù)領(lǐng)域和任務(wù)驅(qū)動的需求。我們的客戶并不希望訪客進(jìn)來只是為了尋找一個超級智能、善解人意、會寫會畫的陪聊機(jī)器人。對話內(nèi)容必須在企業(yè)業(yè)務(wù)范疇內(nèi)收斂，服務(wù)于客服和營銷場景，解決和處理問題，不要浪費(fèi)寶貴的資源。

直接將ChatGPT引入客服領(lǐng)域而不加控制，就好比你回家發(fā)現(xiàn)掃地機(jī)器人不工作，而隔壁的智能吸塵器卻會和你侃侃而談，你會感到很失望！

因此，構(gòu)建增強(qiáng)型對話能力的過程中，我們一方面可以借助ChatGPT簡化對話流程的設(shè)計。以前需要設(shè)置無數(shù)個意圖和上下文才能實(shí)現(xiàn)的方式，現(xiàn)在可以使用開箱即用的自然語言對話獲取和格式化提示，完成限定任務(wù)并收集訪客數(shù)據(jù)和意向。另一方面，我們可以通過私有化訓(xùn)練和公共文本數(shù)據(jù)的結(jié)合，為訪客提供不僵化、更優(yōu)質(zhì)的回答體驗(yàn)。

將ChatGPT與傳統(tǒng)的文本和語音機(jī)器人能力結(jié)合起來，將為智能客服機(jī)器人服務(wù)能力帶來質(zhì)的飛躍。

（2）智能質(zhì)檢

雖然傳統(tǒng)智能質(zhì)檢已經(jīng)非常成熟，但是通過結(jié)合ChatGPT的預(yù)訓(xùn)練能力和業(yè)務(wù)規(guī)則定義，可以實(shí)現(xiàn)更智能的質(zhì)檢結(jié)果輸出，而無需復(fù)雜的設(shè)置。

我們可以將一定數(shù)量的優(yōu)質(zhì)錄音和文本投入模型中，并告知ChatGPT哪些因素可以提高質(zhì)檢分?jǐn)?shù)，從而讓模型自動判斷生產(chǎn)數(shù)據(jù)的質(zhì)量。接著，我們可以通過手動質(zhì)檢來進(jìn)行對齊和調(diào)優(yōu)，讓ChatGPT不斷學(xué)習(xí)和改進(jìn)。

（3）智能化輔助

同樣地，我們可以通過提供優(yōu)質(zhì)的數(shù)據(jù)樣本、定義正確的流程和加分因子，不斷地讓ChatGPT在數(shù)據(jù)的滋養(yǎng)下，為座席提供更好的智能輔助功能。雖然原有的輔助功能框架可以保留，但是在內(nèi)部，它將成為一個不斷進(jìn)化、自動學(xué)習(xí)的“業(yè)務(wù)助理”。

（4）內(nèi)訓(xùn)機(jī)器人

基于智能質(zhì)檢和智能輔助的基本能力，針對企業(yè)內(nèi)部培訓(xùn)場景，我們可以利用現(xiàn)有數(shù)據(jù)樣本，更自動化地生成一個內(nèi)訓(xùn)"教官"。業(yè)務(wù)管理人員可以針對不同的崗前培訓(xùn)、業(yè)務(wù)流程、服務(wù)過程等設(shè)置不同的內(nèi)訓(xùn)主題，讓內(nèi)訓(xùn)機(jī)器人在訓(xùn)練過程中獲得足夠的標(biāo)準(zhǔn)語料，從而指導(dǎo)座席進(jìn)行自我訓(xùn)練。這種方案對于注重學(xué)習(xí)能力和管理能力的運(yùn)營型客戶具有很強(qiáng)的吸引力。

（5）智能填單類

在智能客服應(yīng)用中，需要手動輸入大量表單，如客戶資料、跟進(jìn)記錄和服務(wù)工單。目前，有一些CRM產(chǎn)品已經(jīng)嘗試使用ChatGPT進(jìn)行智能填單的實(shí)驗(yàn)應(yīng)用。以往的實(shí)現(xiàn)方式需要進(jìn)行復(fù)雜的工程化設(shè)計，實(shí)時匹配會話文本，進(jìn)行詞性分析、語義分析和關(guān)鍵字查找等操作，但是這些方法的表現(xiàn)經(jīng)常不盡如人意。隨著LLM大語言模型的出現(xiàn)，我們可以期待它的超強(qiáng)能力可以有效提升這類產(chǎn)品的實(shí)用性。

（6）從幫助中心到座席助理

全功能的智能客服產(chǎn)品是一個非常復(fù)雜的產(chǎn)品，擁有眾多功能和高上手難度。

許多設(shè)計需要操作者進(jìn)行復(fù)雜的操作、跳轉(zhuǎn)、配置和調(diào)整。以前的幫助方式通常是簡單的頁面提示或者是像維基一樣龐大的在線幫助頁面，對用戶來說不夠友好，對開發(fā)者來說也有沉重的更新和維護(hù)負(fù)擔(dān)。

但是，使用智能助理模式的在線幫助，不同角色的用戶可以通過簡單的對話式體驗(yàn)實(shí)時獲得幫助，甚至進(jìn)行功能性的配置和要求，智能助理可以精準(zhǔn)理解用戶的對話，直接進(jìn)行配置和修改。

例如，系統(tǒng)管理員喚起智能配置助理：

“小M小M，請幫我查找近半個月名字叫做***的客戶的所有訪問和對話記錄?！?/p>

對于小M的能力來說，這是小菜一碟。

“小M小M，我需要設(shè)置一個清明節(jié)的IVR語音導(dǎo)航，所有清明節(jié)時間呼入的電話都要播放這樣一句話：***?！?/p>

這個需求有一定的風(fēng)險，出于謹(jǐn)慎的目的，小C需要反復(fù)確認(rèn)一些關(guān)鍵配置要素，以確保沒有誤操作。

（7）AIGC知識庫

智能客服產(chǎn)品中，最需要內(nèi)容生產(chǎn)能力的地方，莫過于知識庫。

產(chǎn)品必備的知識庫通常分幾類：內(nèi)部知識庫、機(jī)器人知識庫和外部知識庫。

• 內(nèi)部知識庫

對于內(nèi)部知識庫，這是提供給座席使用者，實(shí)時定位查詢使用的知識庫。由于企業(yè)的業(yè)務(wù)變化頻繁，知識庫的調(diào)整需要及時到位。一般需要專人進(jìn)行上傳、編輯、整理，這是一個非常耗費(fèi)工作量的事情。引入ChatGPT，可以協(xié)助高效智能的歸類和自動生成知識庫類目、明細(xì)。如果增加對外部數(shù)據(jù)源的引用，知識庫還可以自動關(guān)聯(lián)，減少知識庫同步的操作。使用者在應(yīng)用中，可以給與知識點(diǎn)反饋，幫助知識庫進(jìn)行權(quán)重自動調(diào)節(jié)。

機(jī)器人知識庫是文本和語音機(jī)器人能夠回答訪客問題的核心所在。機(jī)器人知識庫的有效內(nèi)容對于機(jī)器人的表現(xiàn)至關(guān)重要。對于未知問題的整理，需要智能客服使用者大量投入工作量。借助用戶反饋對未知問題進(jìn)行自動整理和關(guān)聯(lián)，能節(jié)省很多知識庫維護(hù)者的工作。同時，通過多機(jī)器人組合的方式，在一通會話中接力棒一般服務(wù)于客戶的不同場景，ChatGPT專屬機(jī)器人也可以在特定的場合發(fā)揮能力，并逐步替代一些以往模式僵化的問答型機(jī)器人。

• 外部知識庫

外部知識庫需要整合在智能客服產(chǎn)品中，將已整理的知識內(nèi)容轉(zhuǎn)化為輸出產(chǎn)物，更方便生成知識文章、圖片、甚至音視頻。基于ChatGPT的多模態(tài)的AIGC能力，可以快速生成一個個性化的知識空間。

• 數(shù)據(jù)預(yù)測類應(yīng)用

數(shù)據(jù)預(yù)測類應(yīng)用是基于對智能客服數(shù)據(jù)的預(yù)測分析。建設(shè)數(shù)據(jù)預(yù)測類產(chǎn)品可能需要很重的CDP數(shù)據(jù)平臺建設(shè)，CEM客戶體驗(yàn)管理等方式，但如果ChatGPT可以更高效精準(zhǔn)的進(jìn)行銷售意向，行為，成交概率的預(yù)測，對利潤中心導(dǎo)向的智能客服產(chǎn)品，將具有很大價值。

4、商業(yè)化前景

以上內(nèi)容充滿了構(gòu)想和想象，但如果要真正將這些想法付諸實(shí)踐，我們必須同時考慮以下幾個問題：

• 投入產(chǎn)出比：我們需要思考成本與效益之間的平衡，確保投入產(chǎn)生的價值能夠超過成本。
• 可衡量的客戶認(rèn)可和價值體現(xiàn)：我們需要衡量客戶對產(chǎn)品的認(rèn)可程度，并確保產(chǎn)品能夠?yàn)榭蛻魩韺?shí)際的價值和好處。
• 通用性與行業(yè)性：我們需要考慮產(chǎn)品在不同行業(yè)和場景中的適用性，以及如何保持產(chǎn)品的通用性和靈活性。
• 數(shù)據(jù)風(fēng)險和監(jiān)管安全：我們需要確保產(chǎn)品能夠保護(hù)客戶數(shù)據(jù)的隱私和安全，同時遵守相關(guān)的法律和規(guī)定。

這些問題只是冰山一角，我們需要深入研究和思考，才能確保產(chǎn)品能夠真正落地，并為客戶帶來價值。

最后，我們期待與大家進(jìn)行深入交流，分享更多的想法和經(jīng)驗(yàn)，共同探索ChatGPT等技術(shù)的應(yīng)用和發(fā)展。同時，我們也期待ChatGPT和文心一言能夠?yàn)槲覀兘獯鸶嗟膯栴}和提供更多的幫助。