Agent實踐之如何在京東LLM落地 原創(chuàng)
大模型缺少在最少的人類監(jiān)督下自主行動的能力，以及在復雜環(huán)境中適應和執(zhí)行目標的能力，而AI Agent不僅能自動執(zhí)行任務，還具有一定程度的代理能力。AI Agent被認為是走向通用人工智能(AGI)的關鍵路徑之一。
根據(jù)用戶群體的不同，AI Agent可分為面向C端用戶和B端企業(yè)這兩類：
面向C端用戶，AI Agent的定位是“個人助理”，提供個性化的日常任務輔助和智能交互服務。通過學習用戶偏好來定制服務，如日程管理、信息搜索和娛樂互動，同時注重用戶隱私保護，確保數(shù)據(jù)安全。
面向B端企業(yè)，AI Agent的定位是“數(shù)字員工”，專注于自動化工作流程、數(shù)據(jù)分析和客戶服務等。通過提高效率、輔助決策、風險管理和跨部門協(xié)作來增強企業(yè)運營。AI Agent的架構可以與現(xiàn)有系統(tǒng)集成，具有高度的可擴展性和成本效益，能夠持續(xù)優(yōu)化以適應企業(yè)需求。
無論是作為個人助理還是數(shù)字員工，AI Agent的核心價值都在于提高效率、降低成本、提供決策支持，并在與用戶的互動中創(chuàng)造更好的體驗。
當前，AI Agent的落地應用仍處于初期階段，企業(yè)在實踐過程中會遇到專業(yè)性、協(xié)作性、可靠性、安全性等來自多方面的挑戰(zhàn)。
隨著技術的進步，AI Agent的能力將越來越強大，能夠承擔更多的角色和責任，但當前企業(yè)在落地AI Agent時，應采取如下策略：
第一，將AI Agent作為輔助，增強現(xiàn)有工具，而不是獨立自主的提供服務;
第二，采用人機協(xié)同(human-in-the-loop)的運作方式，AI Agent處理大量數(shù)據(jù)和執(zhí)行重復性任務，而人類則負責決策和處理復雜或模糊的情況;
第三，建立清晰的流程防護欄，確保AI Agent實施的安全和可靠，圍繞自主權、責任、穩(wěn)健的安全措施和數(shù)據(jù)隱私協(xié)議制定法律和道德準則。同時，確保集成先進的安全協(xié)議，例如端到端加密和多因素身份驗證;
第四，避免對AI Agent的過度預期，明確AI Agent的適用場景。
京東LLM based Agent應用，比較典型的是京粉智能推廣助手機器人。
其重點主要是三個部分：
Agent架構：核心大模型識別、可擴展且安全可控的架構
記憶：大模型對用戶的理解
快捷回復：用戶意圖路徑規(guī)劃
具體實踐同樣是三步：
實戰(zhàn)1：AI Agent對應技術方案主要是工具識別、Agent實現(xiàn)、合理的架構
實戰(zhàn)2：記憶對應技術方案主要是短期記憶、長期記憶、垂類領域知識
實戰(zhàn)3：快捷回復對應實現(xiàn)方案主要是通過歷史信息借助大模型續(xù)寫、結合應用功能預設問題、根據(jù)應用業(yè)務目標規(guī)劃用戶使用路徑圖。
根據(jù)京東的整體實踐，通過對AI Agent+工具+memory+快捷回復可以解決通用大模型應用的常見問題。
本文轉載自公眾號數(shù)字化助推器 作者：天涯咫尺TGH
