一、大模型時代，AI 技術在金融行業(yè)的應用趨勢

首先，介紹一下 AI 技術的發(fā)展歷程，及其在金融行業(yè)的應用趨勢。

從機器學習與 AI 工程化開始，企業(yè)通過構建各類機器學習和深度學習場景，逐步實現(xiàn)數(shù)字化創(chuàng)新。隨著場景復雜度的提升和多模態(tài)模型以及融合模型的出現(xiàn)，出現(xiàn)了更多 OCR 結構化數(shù)據(jù)與自然語言數(shù)據(jù)結合的場景，以及機器學習預測與運籌優(yōu)化相匹配的場景。這些模型結合的場景使我們對 AI 基礎平臺的要求從模型開發(fā)升級到了 ModelOps 階段。在構建 ModelOps 系統(tǒng)時，企業(yè)的數(shù)智化能力也達到了新的高度。近期，AIGC 的出現(xiàn)利用自然語言而非機器代碼構建數(shù)據(jù)和信息搜索、分析和挖掘，為企業(yè)以 AI 低門檻進入數(shù)智文化新階段鋪平了道路。

可以看到，AIGC 的出現(xiàn)，使得企業(yè)原本分散的 AI 能力開始向上發(fā)展到企業(yè)經(jīng)營的各個方面，甚至決策層。這種變革是自頂向下的，是前所未有的。隨著人工智能技術的發(fā)展，AI 在金融行業(yè)的應用也逐漸成為了一個行業(yè)熱點。從智慧營銷、智慧風控到信貸審批，AI 技術正在改變金融行業(yè)的傳統(tǒng)業(yè)務模式，提高服務效率，降低運營成本，同時為消費者帶來更加便捷和個性化的金融服務。

例如，在營銷領域，AI 技術通過大數(shù)據(jù)及機器學習方法分析營銷客戶的消費行為和購買歷史，更好地了解客戶需求，制定更準確的營銷策略，并向客戶提供更有針對性的產(chǎn)品和服務，從而提高了客戶滿意度和營銷效果。

在風控領域，AI 技術通過知識圖譜及機器學習方法，實時分析海量的交易數(shù)據(jù)，挖掘潛在的異常交易行為，從而有效識別欺詐風險。相較于傳統(tǒng)的人工審核方式，AI 技術在反欺詐領域的應用大大提高了識別速度和準確性，降低了金融風險。

而在運營領域，AI 技術通過對借款人的信用報告、消費行為等數(shù)據(jù)進行深度挖掘，實現(xiàn)快速準確的信用評估。這不僅有助于金融行業(yè)降低壞賬率，提高貸款審批效率，還能為借款人提供更加公平合理的貸款利率。隨著 AI 技術的不斷演進，近期大模型技術的出現(xiàn)將對金融行業(yè)的未來應用產(chǎn)生深遠的影響。

下面從三個方面分析大模型技術如何影響金融行業(yè)的場景應用。

首先，大模型技術變革的核心對象是知識，它將降低知識的獲取成本，提升知識的應用能力，并輻射到更廣泛的專業(yè)領域。對于金融行業(yè)這樣一個知識密集型行業(yè)來說，這將帶來巨大的影響。

其次，大模型的應用將逐步滲透到包括客服、營銷、風控等業(yè)務創(chuàng)新的多個領域。大模型表現(xiàn)出的上下文學習泛化性以及復雜推理能力，將重塑文字、數(shù)據(jù)、圖像等處理工具，帶來支持工作者的效率、體驗以及價值的提升。這也意味著金融從業(yè)人員的專業(yè)工作方式和方法可能會發(fā)生很大的變化。通過 AI 大模型賦能金融從業(yè)者，可以提高工作效率并降低成本。

最后，大模型的出現(xiàn)大幅降低了 AI 技術的應用門檻，這也可能重塑未來的人機交互體驗。在金融行業(yè)，大模型未來可能將提供更智能、個性化、高效的交互方式，甚至顛覆金融行業(yè)的客戶服務模式。

從宏觀角度看，通過大模型助手的應用，銀行業(yè)在單人節(jié)、單人、單人產(chǎn)能等核心競爭力環(huán)節(jié)有望實現(xiàn)大幅提升。微觀層面上，大模型可以在銀行業(yè)的前中后各個環(huán)節(jié)實現(xiàn)規(guī)?；当驹鲂А?/span>

具體來說，在前臺，大模型可以應用于分支行人員的聊天機器人和知識中心，幫助他們減少業(yè)務制度和業(yè)務條款的搜索時間。在中臺，大模型可以為運營和風控人員生成風險報告，使他們能夠更高效地訪問數(shù)據(jù)和分析報告來進行決策。在后臺，大模型可以作為代碼生成工具，幫助科技人員提升開發(fā)效率和質量。

傳統(tǒng) AI 模型與大模型在金融行業(yè)中的應用各有優(yōu)劣。傳統(tǒng) AI 模型在處理特定任務時表現(xiàn)出較高的精確度，且訓練和運行所需的計算資源相對較少。相比之下，大模型在學習能力和泛化能力上具有顯著優(yōu)勢，可以處理更復雜的任務，甚至可以處理多類型的多模態(tài)任務。然而，大模型的劣勢在于其參數(shù)量巨大，導致訓練和運行需要大量的計算資源。此外，大模型的工程化難度也遠高于傳統(tǒng) AI 模型。因此，在實際應用中，選擇使用傳統(tǒng) AI 模型還是大模型需要進行全面的權衡和評估。

大模型在金融行業(yè)的實際應用中存在三個主要難點。首先，大模型的工程化難度較高，目前尚無成熟的技術框架可供參考。其次，由于金融行業(yè)對應用的可靠性和準確性要求極高，大模型在這方面的表現(xiàn)可能會受到影響。第三個問題是性價比。大模型的資源消耗巨大，但其單個應用的用戶量可能受限，因此如何平衡大模型的投入與產(chǎn)出關系需要仔細衡量。為了實現(xiàn)大模型在金融行業(yè)的廣泛應用，我們需要盡量降低大模型落地的難度，以實現(xiàn)規(guī)?；漠a(chǎn)業(yè)應用。

·

金融行業(yè) AI 基礎軟件的演進路線可劃分為四個階段。早期階段，AI 能力零散，應用建設與垂直領域建模能力逐步加強。隨后，逐漸更加關注并加強工具能力平臺建設，統(tǒng)一數(shù)據(jù)算力、工程化能力、資產(chǎn)和運營，實現(xiàn) AI 體系的治理和運營。

隨著大模型的出現(xiàn)，我們已進入第四個階段，即大模型適配的 AI 基礎軟件。通過建設白盒大模型訓練和微調能力，企業(yè)可以持續(xù)構建 AI 和 AIGC，將智能化作為企業(yè)持續(xù)創(chuàng)新的核心競爭力。這有助于降低 AI 建設與應用的門檻，逐步轉向智能化，并引領金融行業(yè)的經(jīng)營與運營。

二、大模型時代，AI 基礎軟件在金融行業(yè)的設計思路

金融行業(yè) AI 技術軟件在進入大模型時代后，需要一種新的設計思路，以適應大模型在金融行業(yè)的應用需求。

在金融行業(yè) AI 技術軟件演進的第四個階段，我們提出了一種基于大模型的新的 AI 設計模式，主要包括以下四個方面：

• AIaaS 和數(shù)據(jù)驅動：大模型強調數(shù)據(jù)驅動，因此整個 AI 基礎軟件的架構需要構建一個數(shù)據(jù)管道清洗系統(tǒng)，以支持模型的訓練和更新。
• 知識管理系統(tǒng)：通過知識圖譜或知識庫來支持模型的知識獲取和沉淀。
• 可解釋性工具：由于大模型需要可解釋性，而生成結果存在不可靠性，需要可解釋工具來支持大模型的可解釋性和監(jiān)督工作。
• 調優(yōu)自動化：大模型需要通過自動機器學習的方式來實現(xiàn)模型的優(yōu)化和智能化調優(yōu)。

為了應對大模型對數(shù)據(jù)驅動的需求，在原有的基礎平臺中增加了向量數(shù)據(jù)庫，構建了大模型所需的知識管理能力，并增強了數(shù)據(jù)準備、標注以及數(shù)據(jù)增強能力。為了更好地服務基礎模型層，我們搭建了一套大模型工具鏈，其中包括提示詞管理、多種 PEFT 微調方法的集成以及一鍵式 RLHF。這些工具旨在構建大模型的自動化調優(yōu)能力。最后，在模型服務模塊中，我們增加了大模塊的支持，以便保證大模型的可解釋性和監(jiān)督。這些工具的增加使得我們的 AI 基礎軟件設計目標更加完善，為大模型的應用提供了強有力的技術支持。

為了實現(xiàn)上述 AI 基礎軟件設計目標，我們構建了一套完整的 AI 基礎軟件設計架構。該架構的底層是算力資源層，包括各類高性能異構 GPU 資源、高性能存儲資源和高性能網(wǎng)絡資源。之上是功能強化的 AI 技術平臺，包括算力資源存儲和管理調度模塊，以及從數(shù)據(jù)標注到模型訓練再到模型推理的全套 ModelOps 九章云極DataCanvas APS 機器學習產(chǎn)品模塊。這兩個模塊確保了 AI 模型在開發(fā)和訓練過程中的穩(wěn)定高效，構成了 AI 中臺的初始兩層模塊。

為了使大模型更好地支持業(yè)務場景應用，增加了模型能力層、模型工具層和應用支撐層。模型能力層包括已引入的基礎開源或商用大模型、未來可能引入的行業(yè)大模型以及根據(jù)行內語料預訓練的企業(yè)大模型。這些大模型為上層大模型應用提供了基礎支撐。大模型工具層則包含大模型優(yōu)化及應用擴展能力，使大模型能夠更有針對性地服務特定應用。應用支撐層最上層，提供了一個大小模型結合乃至多個大模型返回結果的決策引擎，使多個大模型能夠支撐業(yè)務應用并返回最佳結果。小模型輔助大模型生成結果，從而提高大模型生成結果的準確性和可控性。

大模型工具層的 6 個主要功能模塊包括：提示詞管理器、微調訓練工具、樣本數(shù)據(jù)生成器、大模型后評估、向量數(shù)據(jù)庫、大模型訓練框架。

上圖展示了整個 AI 基礎軟件如何通過大模型的語言能力、知識能力、邏輯與復雜問題推理能力，以及通用任務能力等關鍵能力，實現(xiàn)敏捷業(yè)務賦能。通過上述 AI 基礎軟件的架構和大模型擴展能力，進一步創(chuàng)造出服務于場景的協(xié)同辦公、知識管理、內容生成以及數(shù)據(jù)分析能力。這些能力在營銷、風控、運營、研發(fā)、財務以及投顧等場景中實現(xiàn)了業(yè)務的敏捷賦能。

三、大模型時代，AI 基礎軟件在金融行業(yè)的部署應用暢想

在 AI 基礎軟件的應用過程中，我們不僅使用了大型模型，還使用了小型模型。通過大小模型的結合，能夠更好地服務金融行業(yè)，實現(xiàn) AI 基礎軟件對金融業(yè)務的快速賦能。

展望未來，大模型時代的 AI 基礎軟件將在金融行業(yè)部署應用方面產(chǎn)生深遠影響。我們可以預見，AI 技術軟件將在交互方式變革、產(chǎn)品種類豐富以及商業(yè)模式創(chuàng)新三個方面，進一步對金融行業(yè)產(chǎn)生影響。通過構建一個新興的生態(tài)平臺，實現(xiàn)一個超級應用，該應用可以覆蓋金融行業(yè)的所有應用場景，提供統(tǒng)一的入口，從而實現(xiàn) AI 技術軟件對金融行業(yè)的迅速賦能。