本次分享題目為貨拉拉利用大模型打造多場(chǎng)景個(gè)人、辦公助理實(shí)踐，主講老師楊丹來(lái)自貨拉拉。

貨拉拉是一家專注于物流和貨運(yùn)的科技公司，自成立以來(lái)一直致力于通過(guò)科技手段提升物流效率。

近年來(lái)，貨拉拉積極探索并應(yīng)用人工智能技術(shù)，以大模型為基礎(chǔ)，開(kāi)發(fā)出多場(chǎng)景的個(gè)人及辦公助理，以期在各類應(yīng)用場(chǎng)景中為用戶提供更加智能、高效的服務(wù)。

一、AI 助理與大模型

談到 AI 助理，大家首先想到的問(wèn)題可能是，AI 助理到底能做什么、AI 助理有什么優(yōu)勢(shì) 、AI 助理應(yīng)該具備什么樣的功能？

目前大多數(shù) AI 助理功能聚焦在智能對(duì)話、智能問(wèn)答、智能查詢以及 AIGC（人工智能生成內(nèi)容）。在現(xiàn)有 AI 技術(shù)，大模型、RAG（Retrieval-Augmented Generation）以及 Agent 等技術(shù)下實(shí)現(xiàn)的 AI 助理，更能夠深刻理解用戶需求、專業(yè)高效、且可以實(shí)現(xiàn) 24 小時(shí)不間斷服務(wù)，幫助用戶解決各種業(yè)務(wù)問(wèn)題。

AI 助力優(yōu)勢(shì)明顯，但為什么我們需要用大模型來(lái)實(shí)現(xiàn)這些功能？這是因?yàn)榇竽Ｐ驮诓粩嗟凶兊迷絹?lái)越智能，更像人了。

目前大模型不僅知識(shí)淵博，能夠回答許多我們不知道的問(wèn)題，還具備聽(tīng)、說(shuō)、理解和生成的能力。例如，大模型能夠處理語(yǔ)音輸入并生成語(yǔ)音輸出，進(jìn)行復(fù)雜的角色化交流，甚至進(jìn)行情感識(shí)別和回應(yīng)。這些能力使得大模型在許多應(yīng)用場(chǎng)景中比人類更加高效和可靠。

貨拉拉也基于 LLM 在探索 AI 助理的落地應(yīng)用。目前已在多個(gè)業(yè)務(wù)場(chǎng)景探索，例如，司乘溝通問(wèn)題挖掘助手、流量回放智能客服、小拉智能客服等司內(nèi)真實(shí)業(yè)務(wù)需求，旨在通過(guò) AI 技術(shù)提升業(yè)務(wù)效率和用戶體驗(yàn)。

貨拉拉的 AI 助理應(yīng)用探索主要有以下三個(gè)特點(diǎn)：

• 簡(jiǎn)單直接：AI 問(wèn)答是最基本的功能，需求最為強(qiáng)烈，也是應(yīng)用最多的功能。
• 真實(shí)細(xì)致：每一個(gè)應(yīng)用場(chǎng)景的出發(fā)點(diǎn)都是真實(shí)的業(yè)務(wù)痛點(diǎn)。
• 應(yīng)用廣泛：在 14 個(gè)場(chǎng)景，涵蓋 48 個(gè)真實(shí)業(yè)務(wù)需求進(jìn)行 AI 助理的探索，應(yīng)用范圍廣泛。

基于上述特點(diǎn)，我們重新定義 AI 助理：凡是能夠幫助業(yè)務(wù)提升效率的 AI 應(yīng)用，均可以稱為 AI 助理。

二、多場(chǎng)景助理的落地方案

接下來(lái)將介紹貨拉拉多場(chǎng)景助理的落地方案。在貨拉拉面臨多業(yè)務(wù)場(chǎng)景高效落地的挑戰(zhàn)，在 AI 助理的搭建過(guò)程中也遇到了一些痛點(diǎn)，主要包括三個(gè)方面：

• 落地場(chǎng)景眾多：如前所述，在 14 個(gè)以上的場(chǎng)景中進(jìn)行探索；
• 業(yè)務(wù)訴求多樣：在這些場(chǎng)景中，面臨著 48 個(gè)以上的真實(shí)業(yè)務(wù)需求；
• 落地效率低：業(yè)務(wù)需求多樣，如果每個(gè)都單獨(dú)開(kāi)發(fā)和落地，將會(huì)耗費(fèi)大量時(shí)間和人力，導(dǎo)致整體的落地成本高且效率低。

為了應(yīng)對(duì)這些挑戰(zhàn)，我們自研了大模型應(yīng)用平臺(tái)——悟空平臺(tái)。這個(gè)平臺(tái)的核心優(yōu)勢(shì)在于可以靈活應(yīng)用大模型，支持直接或間接調(diào)用大模型進(jìn)行開(kāi)發(fā)。無(wú)論是直接調(diào)用大模型，還是構(gòu)建 Chain 或 Agent，悟空平臺(tái)都能勝任。此外，該平臺(tái)在數(shù)據(jù)安全方面表現(xiàn)優(yōu)異，確保沒(méi)有數(shù)據(jù)外傳的風(fēng)險(xiǎn)，并且可以根據(jù)需求進(jìn)行定制化開(kāi)發(fā)，同時(shí)支持高效的業(yè)務(wù)落地。

平臺(tái)上提供了多種對(duì)接形式，以滿足不同業(yè)務(wù)需求。例如，有些業(yè)務(wù)希望使用飛書(shū)機(jī)器人對(duì)接到飛書(shū)群，我們可以快速支持實(shí)現(xiàn)這一需求。還有些業(yè)務(wù)需要對(duì)接到瀏覽器插件“l(fā)alabot”，通過(guò)瀏覽器右鍵操作即可解決問(wèn)題。此外，平臺(tái)還支持直接提供 API 接口，方便直接對(duì)接到業(yè)務(wù)系統(tǒng)。

在自研 LLM 應(yīng)用平臺(tái)賦能的加持下，可以在多個(gè)場(chǎng)景中高效落地。例如，在教育引擎、教育培訓(xùn)、HR、PMO 等 14 個(gè)以上的場(chǎng)景中，我們可以快速搭建并實(shí)現(xiàn)高效落地。同時(shí)，平臺(tái)也在不斷迭代，從最初的文本處理逐步發(fā)展到多模態(tài)處理，我們進(jìn)行了持續(xù)地探索和改進(jìn)。

三、AI 驅(qū)動(dòng)，業(yè)務(wù)賦能

在第三部分中分享如何在 AI 驅(qū)動(dòng)下實(shí)現(xiàn)業(yè)務(wù)賦能。

從去年開(kāi)始到現(xiàn)在，AI 應(yīng)用的發(fā)展速度驚人，覆蓋范圍也越來(lái)越廣泛，我們涉及的業(yè)務(wù)需求也越來(lái)越多樣，業(yè)務(wù)訴求也逐漸進(jìn)階；具體可分為以下 5 個(gè)階段：

• 階段 1-專業(yè)助手：隨著大模型應(yīng)用日益廣泛，最常見(jiàn)的問(wèn)題是大模型是否真的能夠解決專業(yè)問(wèn)題？例如，這里的 3 個(gè)示例，是否可以使用大模型來(lái)自動(dòng)排查容器問(wèn)題，或是識(shí)別漏洞攻擊，以及 SIEM 系統(tǒng)中的準(zhǔn)實(shí)時(shí)異常行為檢測(cè)。大模型能否實(shí)時(shí)檢測(cè)并提高效率，真實(shí)幫助我們解決專業(yè)問(wèn)題？
• 階段 2-AI 問(wèn)答助手：大模型除了能解決專業(yè)問(wèn)題，能否實(shí)現(xiàn)基于文檔或已有知識(shí)庫(kù)進(jìn)行 AI 問(wèn)答。例如，是否可以基于標(biāo)準(zhǔn)的 QA 文檔，對(duì)用戶提出的類似問(wèn)題給出精準(zhǔn)回答。
• 階段 3-周報(bào)生成助手：大模型能解決專業(yè)問(wèn)題，能做 AI 問(wèn)答，那能處理數(shù)據(jù)并生成報(bào)告嗎？這便是第三階段——周報(bào)生成助手。用戶希望 AI 能夠撈取數(shù)據(jù)、分析數(shù)據(jù)、生成圖表，并最終生成周報(bào)。這不僅需要 AI 具備數(shù)據(jù)獲取和分析的能力，還需要生成圖表和報(bào)告的能力。
• 階段 4-多模態(tài)的 AI 助手：在上述功能的基礎(chǔ)上，用戶問(wèn)能否處理多模態(tài)信息，做多模態(tài)的 AI 助手。用戶希望 AI 不僅能理解文本，還能處理圖片和語(yǔ)音，提供多模態(tài)的 AI 助手。這一階段的需求更為復(fù)雜，需要 AI 具備綜合處理多種信息形式的能力。
• 階段 5-Muti-agent 助手：至此，前幾個(gè)階段基本都是通過(guò)單一 Agent 或功能性模塊實(shí)現(xiàn)的。然而，隨著業(yè)務(wù)需求的發(fā)展，用戶希望多個(gè)場(chǎng)景的問(wèn)題能夠融合，提供一個(gè)綜合的解決方案。這就進(jìn)入了第五階段——多 Agent 助手。在這一階段，我們需要將多個(gè)場(chǎng)景下的 AI 助手進(jìn)行整合，提供一個(gè)綜合的解決方案。

接下來(lái)，將逐一介紹每一個(gè)階段的業(yè)務(wù)應(yīng)用實(shí)例及其解決方案。

1. 專業(yè)助手

大模型能解決專業(yè)問(wèn)題嗎？這是一個(gè)很關(guān)鍵的問(wèn)題，例如，大模型自動(dòng)排查容器問(wèn)題嗎，容器中出現(xiàn)報(bào)錯(cuò)信息，大模型能否評(píng)估并提供解決方案？能否根據(jù)事件列表針對(duì)每個(gè)事件分析給出溯源報(bào)告，進(jìn)行漏洞利用與攻擊分析？大模型是否能夠分析告警信息判斷是否誤報(bào)，進(jìn)行 IDS 入侵研判？

實(shí)踐發(fā)現(xiàn)“大模型知道的遠(yuǎn)比我們想象的多”，通過(guò) prompt 和大模型結(jié)合就可以解決這些專業(yè)問(wèn)題。問(wèn)題解決的關(guān)鍵在于 prompt，高質(zhì)量的 prompt 可以讓大模型更好地理解并提取出有效信息，從而解決專業(yè)問(wèn)題。

我們總結(jié)了一個(gè) 80 分 prompt 的框架和原則：清晰明了地提供業(yè)務(wù)背景和角色定位，簡(jiǎn)單直接地描述任務(wù)，清晰羅列業(yè)務(wù)特殊情況，并提供必要的引導(dǎo)。這些要素結(jié)合起來(lái)，能夠使大模型更好地解決專業(yè)問(wèn)題。當(dāng)然 prompt“沒(méi)有最好，只有更好”，需要我們持續(xù)地學(xué)習(xí)實(shí)踐。

2. AI 問(wèn)答助手

第二個(gè)實(shí)例是 AI 問(wèn)答助手。AI 問(wèn)答助手可以分為兩類：無(wú)標(biāo)準(zhǔn)答案（綜合問(wèn)答）、有標(biāo)準(zhǔn)答案（精準(zhǔn)問(wèn)答）。基于 LLM 的 AI 問(wèn)答助手業(yè)界有搭建范式“業(yè)務(wù)知識(shí)庫(kù)+RAG+LLM = AI 問(wèn)答助手”，搭建范式可以解決大多“無(wú)標(biāo)準(zhǔn)答案”的搭建問(wèn)題，但針對(duì)“有標(biāo)準(zhǔn)搭建”的精準(zhǔn)問(wèn)答效果差。

針對(duì)這個(gè)問(wèn)題，我們做了綜合提效，精確率&效率 tradeofff，實(shí)現(xiàn)“精準(zhǔn)問(wèn)答”業(yè)務(wù)精確率 90%+。具體地，將助手分類（是否需要問(wèn)答、有無(wú)標(biāo)準(zhǔn)答案、是否需要精準(zhǔn)問(wèn)答），結(jié)合個(gè)性化 RAG，對(duì)于標(biāo)準(zhǔn)問(wèn)答單獨(dú)處理，提升業(yè)務(wù)業(yè)務(wù)精確率，針對(duì)其他的日常處理側(cè)重提升效率；同時(shí)結(jié)合 prompt 針對(duì)性優(yōu)化，強(qiáng)調(diào)信息準(zhǔn)確提取，設(shè)置兜底回復(fù)，綜上幾方面即可以實(shí)現(xiàn) AI 問(wèn)答助手的綜合提效。

3. 周報(bào)生成助手

第三個(gè)實(shí)例是周報(bào)生成助手。LLM 真的能幫我們寫(xiě)周報(bào)嗎？LLM 用 1 句話生成的周報(bào)真的可以用嗎？

回答這兩個(gè)問(wèn)題之前，我們先看下怎么寫(xiě)一份周報(bào)，周報(bào)生成的核心要素為“3有”：

• 有數(shù)：真實(shí)數(shù)據(jù)情況，心中有數(shù)。
• 有圖：多形式觀測(cè)驗(yàn)證，包括餅圖、趨勢(shì)圖、分布圖等。
• 有結(jié)論：能理解、可分析、會(huì)總結(jié)。

如何用 LLM 生成周報(bào)呢？我們需要搭建周報(bào) Agent，做到有數(shù)、有圖、有結(jié)論。具體地

• 有數(shù)：真實(shí)數(shù)據(jù)情況，心中有數(shù)；可連接數(shù)據(jù)庫(kù)或 API，獲取真實(shí)數(shù)據(jù)。
• 有圖：可結(jié)合 Code Interpreter 工具生成圖表。
• 有結(jié)論：結(jié)合 LLM 能分析會(huì)總結(jié)的能力，提供最終結(jié)論。

通過(guò)綜合應(yīng)用這些技術(shù)可以搭建周報(bào)生成 Agent，實(shí)現(xiàn)數(shù)據(jù)獲取、圖表生成和結(jié)論分析。

同時(shí)有零代碼平臺(tái)可高效搭建周報(bào)生成 Agent 快速?gòu)?fù)用，只需三步操作：描述目標(biāo)、配置工具、調(diào)試上線，即可高效搭建周報(bào)生成 Agent。

4. 多模態(tài) AI 助手

第四階段是多模態(tài) AI 助手。貨拉拉在這方面的探索包括車(chē)險(xiǎn)報(bào)價(jià)方案生成助手和培訓(xùn)對(duì)練助手。這些 AI 助手需要具備聽(tīng)、說(shuō)、理解的能力。

（1）車(chē)險(xiǎn)報(bào)價(jià)方案生成助手

車(chē)險(xiǎn)報(bào)價(jià)方案生成，業(yè)務(wù)需要處理多個(gè)公司圖片形式的報(bào)價(jià)單，對(duì)比圖片中的內(nèi)容生成報(bào)價(jià)方案。前面聊 LLM 可以解決專業(yè)問(wèn)題，可以支持 AI 問(wèn)答，那只用 LLM 能實(shí)現(xiàn)車(chē)險(xiǎn)報(bào)價(jià)方案嗎？

基于 LLM 生成的車(chē)險(xiǎn)報(bào)價(jià)方案，挑戰(zhàn)在于敏感信息識(shí)別&處理（保單中有姓名、車(chē)牌號(hào)等敏感信息需要前置處理）、精確率提升（復(fù)雜表格、多圖處理、LLM 數(shù)據(jù)提取偏差）、解決方案自動(dòng)生成（理解總結(jié)給解決方案）。

要做一個(gè)車(chē)險(xiǎn)報(bào)價(jià)助手，只用 LLM 不行，不用 LLM 不行；車(chē)險(xiǎn)報(bào)價(jià) agent 需要具備六個(gè)關(guān)鍵能力：

• 敏感信息的處理能力：能識(shí)別并過(guò)濾敏感信息。
• 圖片理解：線下手機(jī)多個(gè)公司報(bào)價(jià)圖，需能理解圖片內(nèi)容。
• 表格理解：報(bào)價(jià)單信息基本均為表格，且不同公司的格式不同。
• 關(guān)鍵信息識(shí)別：提取每個(gè)圖中所需的關(guān)鍵信息字段。
• 信息匯總提煉：提取的信息匯總后提煉。
• 報(bào)價(jià)方案生成：理解數(shù)據(jù)和內(nèi)容，自動(dòng)生成報(bào)價(jià)方案。

基于我們探索了工具加大模型以及多模態(tài)綜合理解提升精確率。具體地，首先用 OCR 提取信息，然后對(duì)敏感信息進(jìn)行處理，再用大模型提取信息，最后結(jié)合多模態(tài)綜合理解生成最終報(bào)價(jià)方案，進(jìn)一步提升業(yè)務(wù)準(zhǔn)確率。

（2）AI 培訓(xùn)對(duì)練助手

另一個(gè)應(yīng)用示例是 AI 培訓(xùn)對(duì)練助手，它需要具備聽(tīng)、說(shuō)、理解的能力，可以幫助運(yùn)營(yíng)和管理人員提升業(yè)務(wù)能力。融合了數(shù)字人、大模型、ASR 和 TTS 提供智能化 AI 培訓(xùn)服務(wù)，實(shí)現(xiàn)了在線學(xué)習(xí)、練習(xí)和考試，綜合提升業(yè)務(wù)能力。

5. 多 Agent 助手

最后一個(gè)階段是 multi-agent 助手，multi-agent 可分為合作型和對(duì)抗型，我們探索了多場(chǎng)景融合的合作型 multi-agent 助手。在 IT 助手場(chǎng)景中，我們針對(duì)各業(yè)務(wù)場(chǎng)景搭建獨(dú)立 agent 聚焦各自場(chǎng)景問(wèn)題問(wèn)答，例如，辦公設(shè)備 agent（聚焦解決 vpn 相關(guān)問(wèn)題）、郵箱 agent（聚焦郵箱相關(guān)問(wèn)題）、網(wǎng)絡(luò) agent（聚焦網(wǎng)絡(luò)相關(guān)問(wèn)題）；采用路由 agent 硬控，提升業(yè)務(wù)整體精確率。這種多 Agent 協(xié)同的工作方式，使得我們能夠更高效地應(yīng)對(duì)復(fù)雜的業(yè)務(wù)需求，提供全面的解決方案。

以上通過(guò)對(duì)不同階段 AI 助手的應(yīng)用實(shí)例的逐一介紹，展示了貨拉拉在 AI 驅(qū)動(dòng)業(yè)務(wù)賦能方面的深度探索與實(shí)踐。大模型的廣泛應(yīng)用不僅提升了業(yè)務(wù)效率，也為未來(lái)的智能化發(fā)展奠定了堅(jiān)實(shí)的基礎(chǔ)。

四、展望

整個(gè) AI 行業(yè)一直在快速發(fā)展，未來(lái)五年、十年物流行業(yè)與 AI 結(jié)合后的發(fā)展前景令人遐想。在 AI 技術(shù)的加持下，物流行業(yè)將會(huì)更加智能化、高效化，為各類用戶提供更優(yōu)質(zhì)的服務(wù)和體驗(yàn)。

五、問(wèn)答環(huán)節(jié)

Q：在第二個(gè)案例中智能問(wèn)答助手，最開(kāi)始有一個(gè)助手分類，即判斷用戶問(wèn)題是否有標(biāo)準(zhǔn)答案，決定是否需要精準(zhǔn)回答。我想問(wèn)一下，這個(gè)分類是依賴大模型來(lái)完成，還是通過(guò)一些語(yǔ)義匹配來(lái)進(jìn)行的？

A：目前這個(gè)是由業(yè)務(wù)根據(jù)場(chǎng)景決定是否需要精準(zhǔn)問(wèn)答，這暫時(shí)沒(méi)有讓大模型來(lái)判斷，因?yàn)榇竽Ｐ驮谶@方面判斷可能會(huì)出現(xiàn)偏差。