編輯｜言征

出品 | 51CTO技術棧（微信號：blog51cto）

現(xiàn)代企業(yè)中有一個無名英雄：工作流程。它有時被稱為規(guī)則引擎、流程流、單狀態(tài)機或軟件定義的工作流程。在用戶界面（UI）中，它是一個“向?qū)А?。開發(fā)者通常（有些輕蔑地）稱它為“業(yè)務邏輯”。

各位這里不妨花點時間來欣賞這個無名英雄的獨特威嚴，因為我們即將把硅谷炙手可熱的關注之光投向它的門檻：AI代理。

關于AI、大型語言模型（LLMs）和代理應用程序已經(jīng)有很多的討論，很難相信我們中有多少人（包括我）仍然對它們感到困惑。但我們有一個很好的理由：AI代理是我們安靜業(yè)務英雄——工作流程的實施細節(jié)。

1.代理是方式工作流是內(nèi)容

這個區(qū)別很關鍵，因為AI代理可以被定義得相當直接：你的業(yè)務應用程序在整個工作流程中使用基礎模型。我們在Anthropic的朋友區(qū)分代理工作流程和代理，其中代理可以循環(huán)和分支，并且可以某種程度上自主。根據(jù)我的經(jīng)驗，業(yè)務工作流程也這樣做；這是一個模糊的界限。

2.讓我們談談AI如何改變工作流應用

一個代理應用程序使用基礎模型來識別在工作流程中進行干預的位置。例如：基礎模型可以是出色的分類器，用更靈活、開箱即用且性能更高的模型取代費盡心思編碼的規(guī)則集或監(jiān)督學習模型。

指向一個基礎模型到一個電子郵件收件箱或賬戶摘要，并開始詢問：當前情況是應用程序知道如何處理的嗎？根據(jù)非技術業(yè)務專家編寫的規(guī)則，這個案例應該升級嗎？這個項目應該進入專業(yè)質(zhì)量控制（QC）流程，還是默認的QC流程？這封電子郵件是垃圾郵件嗎？騷擾？銷售機會？客戶流失風險？

這里的模型輸出是“是”或“否”，這比聊天機器人呈現(xiàn)的準確性風險要小得多。這是你現(xiàn)在就可以發(fā)貨的東西，安全且結果可衡量。

有效、廉價的自然語言分類器的突然出現(xiàn)將加速許多企業(yè)應用程序，因為業(yè)務需求與編碼到軟件中的規(guī)則之間的距離目前是財富500強公司中人類痛苦的主要來源。事情被聽錯。事情衰敗并失去同步。技術限制向上游流動并被編碼到業(yè)務流程中。

代理應用程序彌合了我們的意圖與我們的軟件之間的這一差距，因為大部分業(yè)務邏輯可以用自然語言表示，邀請新的參與者和貢獻者進入軟件開發(fā)過程。這與1985年左右電子表格的到來和2005年左右協(xié)作電子表格的到來一樣，是企業(yè)內(nèi)部權力的重大轉變。

企業(yè)中到處都是小而昂貴的工作流程故障，AI代理為應用開發(fā)者提供了一套強大的工具來應對它們。

但代理對工作流程的意義不僅僅是分類器！它們還可以開始評估輸出（問題真的解決了嗎？），作為文本生成器（這里是將系統(tǒng)事件日志轉換為狀態(tài)更新），有時甚至通過執(zhí)行功能（預訂會議、更新庫存、派遣卡車）來啟動行動。

所有這些都可以通過傳統(tǒng)的業(yè)務軟件和人工勞動隊列來完成，但通常正確執(zhí)行的成本非常高。

低代碼時刻和高代碼未來 AI正在經(jīng)歷一個消費者聊天機器人文化時刻，并且在代碼助手方面也取得了一些進展。我們尚未看到——可能今年會發(fā)生——AI從軟件和其他一些小眾領域擴展到其他商業(yè)領域，特別是那些似乎在企業(yè)內(nèi)部產(chǎn)生最多定制應用程序的運營層。

根據(jù)其財務披露，第一家看到AI投資正回報的公司不是一個純技術流玩家。它是一個運營軟件即服務（SaaS）提供商，ServiceNow。它與Workday和Salesforce一起，提供了一個低代碼橋梁，連接業(yè)務意圖（由非技術主題專家記錄）和軟件自動化。AI正在提供幫助。

向這些率先行動并使這項工作取得成果的人們致敬。我認為這將遵循大多數(shù)低代碼解決方案的模式，它們承諾賦予業(yè)務用戶權力并減少IT支出，但對平臺供應商來說有一個非微不足道的障礙。

我認為下一波將是這些工作流程引擎的高代碼復制，因為實施并不難。開放的基礎模型和現(xiàn)有框架（包括我的團隊維護的Spring AI）可以讓團隊在幾天內(nèi)啟動。這可能看起來像一個大型GUI平臺，用于業(yè)務任務工作流程，但更快、更安全的路徑將是找到小的、可發(fā)貨的干預點……無處不在。今天這看起來比幾年前輕松得多，也快得多。

3.一個假設的代理應用程序：比你想象的要小

想象一個客戶購買了一臺室內(nèi)自行車訓練器，它發(fā)貨了。管理自行車的軟件無法連接。客戶要求退貨，我們就開始郵寄自行車。但如果這是一個已知問題，并且有可用的解決方案呢？更新一些固件，去騎行。

你的人類工人在支持過程中可能會識別出這一點，但并不完美。很難每次都知道每個問題。

所以我們構建了一個小型應用程序來尋找這個問題并修復它。首先，我們構建一個監(jiān)聽器，標記這個已知問題的可能事件。如果它檢測到一個案例，它會在支持系統(tǒng)中插入一條消息，并附上解決方案的鏈接。足夠安全，現(xiàn)在就可以嘗試，結果是可衡量的。一個代理可能會更有主張，并且有良好的記錄。我們能否直接向客戶發(fā)送建議的解決方案？我們能否暫停退貨，除非人類支持確認問題？代理能否開始更密切地識別可能的問題，鏈接到特定的固件版本或以其他方式改善對客戶的信息傳遞？

企業(yè)中到處都是小而昂貴的工作流程故障，AI代理為應用開發(fā)者提供了一套強大的工具來應對它們。

你需要一個平臺 那么我們?nèi)绾胃咏粋€世界，讓你的應用開發(fā)者能夠在整個業(yè)務中部署小型助手呢？

你可以從問為什么他們不能快速部署小型實驗開始，而不需要大型語言模型。這通?？雌饋硐袷情_發(fā)體驗故事：自助服務配置、文檔齊全的黃金路徑到生產(chǎn)、強大的測試自動化，以及為安全和法律監(jiān)督預先批準的通道。如果應用團隊被授權進行小型、持續(xù)的改進，并且外部依賴最小，事情就會進展得很快。

4.我們?nèi)绾螌⒋藨糜谖覀兊拇響梦磥恚?/h3>

首先，我們需要將這種自助模式和開發(fā)者授權圍繞我們的新好朋友，基礎模型。我們正在看到數(shù)據(jù)科學或AI工作組和全棧應用開發(fā)團隊之間出現(xiàn)能力分離。在我看來，這是健康的角色專業(yè)化：有模型提供者，有機器學習（ML）操作模型基礎設施團隊，以及消耗這些資源的應用程序。前兩者可能是作為服務的外部供應商；應用團隊不會是。

為了讓模型提供者和應用團隊之間的這種抽象工作，你需要處理反饋、可觀察性、版本控制和其他問題；至少需要一個正式的API或至少一個好的工作協(xié)議。你不希望你的每個應用團隊孤立解決這個問題；你可能需要一個AI框架，但你不需要50個競爭的、資源不足的AI框架。

我也認為，像AI網(wǎng)關這樣的中間件平臺也有作用，它促進了整個組織中的配置、可觀察性、模型反饋和隱私防護措施。

5.未來：從微服務到輕量工作流

如果配置和平臺化得到解決，我們正朝著一個世界前進，我們有很多非常薄的包裝器圍繞著許多以前被鎖定的企業(yè)數(shù)據(jù)，代理應用程序可以巧妙地訪問它們。小型解決方案開始在各處開花。

代碼塊就是一個非常輕量級工具包裝器的示例，具有自然語言指令，說明基礎模型如何與之交互。放大查看 一個非常輕量級工具包裝器的示例，具有自然語言指令，說明基礎模型如何與之交互。

這與我們擁有的云原生架構和通過API通信的微服務的故事相同。新的東西是努力的規(guī)模；我們正在從微到Nano轉移。非常薄的包裝器，如模型上下文協(xié)議，讓基礎模型請求數(shù)據(jù)并執(zhí)行操作。非常輕量的工作流應用程序讓業(yè)務用戶用自然語言解釋應該發(fā)生什么。平臺按需提供安全性、安全性和適當?shù)哪Ｐ?。幾天?nèi)就可以啟動它，用戶可以快速迭代直到它工作。

這里的要點是，代理應用程序革命不是一個將改變尖端科技公司的故事。這是一個現(xiàn)代化故事；一個用你已有的團隊解決現(xiàn)有企業(yè)中的小問題的機會。

本文轉載自??51CTO技術棧??，作者：言征