論文《Generative AI for Self-Adaptive Systems: State of the Art and Research Roadmap》的作者包括來自早稻田大學博士及研究助理 李家隆、西南大學講師 張明悅、中關村國家實驗室助理研究員 李念語（通訊作者）、魯汶大學教授 Danny Weyns、北京大學教授 金芝以及東京工業(yè)大學長聘副教授 Kenji Tei。

• 論文地址：https://dl.acm.org/doi/10.1145/3686803
• GenAI4SAS 論文列表：https://github.com/545659928/GenAI4SAS

自適應系統(tǒng)在動態(tài)和不確定的環(huán)境中具有關鍵作用，廣泛應用于自動駕駛、智能制造、網(wǎng)絡安全和智能醫(yī)療等領域。例如，無人駕駛系統(tǒng)需要實時感知環(huán)境變化并調(diào)整策略以確保安全與效率；智能制造生產(chǎn)線根據(jù)需求變化或設備故障自動調(diào)整；網(wǎng)絡安全系統(tǒng)則通過自動檢測和適應新威脅來應對不斷變化的攻擊方式。這些系統(tǒng)通過自我調(diào)整機制，實現(xiàn)自我管理和優(yōu)化。

圖 具有 MAPE-K 反饋循環(huán)的自適應系統(tǒng)

自適應系統(tǒng)依賴反饋回路，無需人為干預即可實現(xiàn)自動調(diào)整，核心功能包括：監(jiān)控環(huán)境和系統(tǒng)狀態(tài)、分析情況、制定調(diào)整計劃并執(zhí)行。其優(yōu)勢在于根據(jù)外部環(huán)境和內(nèi)部狀態(tài)的變化，維持系統(tǒng)穩(wěn)定和高效運行。

生成式人工智能（GenAI）通過 AI 技術從數(shù)據(jù)中學習模式，生成與原始數(shù)據(jù)相似的新數(shù)據(jù)。Transformer 技術的突破使得 GenAI 在多個領域廣泛應用，尤其是大型語言模型（LLMs）在語言理解和邏輯推理方面表現(xiàn)突出，為自適應系統(tǒng)提供了新的可能性。

GenAI 與自適應系統(tǒng)的核心功能相結合，能夠顯著增強系統(tǒng)的自適應能力。例如，GenAI 可以分析并規(guī)劃系統(tǒng)策略，自動調(diào)整配置以應對環(huán)境變化。盡管已有一些研究探索了 GenAI 在自適應系統(tǒng)中的應用，但該領域尚缺乏系統(tǒng)性和深入的研究。因此，本論文旨在為研究人員和從業(yè)者提供生成式人工智能（GenAI）在自適應系統(tǒng)中的應用潛力及面臨挑戰(zhàn)的全面概覽。

GenAI 在自適應系統(tǒng)中的應用潛力

我們從 2017 年至 2024 年 6 月的頂級會議中篩選出 5874 篇文獻，最終篩選出 219 篇與 GenAI 和自適應系統(tǒng)相關的研究。篩選后的文獻從兩種視角展開分析：第一個視角聚焦于 GenAI 在增強自適應系統(tǒng)功能和自主性方面的潛力，探討其在監(jiān)控、分析、規(guī)劃、執(zhí)行等核心模塊中的應用及知識共享。第二個視角探討了在 “人類監(jiān)督自適應系統(tǒng)”（HOTL）中，GenAI 如何改善人與系統(tǒng)的互動。雖然自適應系統(tǒng)原本希望減少人為干預，但引入人類決策可以提高系統(tǒng)的可信度和效率。重點關注用戶偏好獲取、系統(tǒng)透明度和人機協(xié)作，以提升用戶滿意度、系統(tǒng)解釋性和效率。

圖：GenAI 在自適應系統(tǒng)中的應用潛力概覽

監(jiān)控功能：GenAI，特別是 LLMs，在上下文理解和預測方面顯著增強了自適應系統(tǒng)的監(jiān)控能力。LLMs 可將監(jiān)控收集的非結構化數(shù)據(jù)進行結構化處理，輔助異常檢測；在上下文預測方面，基于 LLM 和擴散模型的時間序列和事件序列預測可識別潛在的目標違規(guī)風險。

分析和規(guī)劃功能：GenAI 在自適應系統(tǒng)的分析和規(guī)劃中有巨大潛力。LLMs 支持架構和需求驅(qū)動的適應，擴展了系統(tǒng)處理自然語言和非結構化數(shù)據(jù)的能力。LLMs 和 Diffusion 模型還能生成先驗知識，提升模型性能并降低成本。新興的規(guī)劃方法包括：基于 Transformer 的規(guī)劃適合離線學習和大規(guī)模系統(tǒng)；集體智能模式促進多智能體協(xié)作；經(jīng)驗積累模式支持自我反思和進化；擴散模型支持復雜約束的高維規(guī)劃。

執(zhí)行功能：雖然自適應系統(tǒng)的執(zhí)行通常較簡單，但 LLMs 在復雜情況下的執(zhí)行轉換中仍有潛力，尤其是在機器人領域中，LLMs 展現(xiàn)了在不確定環(huán)境下成功執(zhí)行規(guī)劃的能力。

知識管理：LLMs 有兩個主要優(yōu)勢：一是利用其廣泛的知識構建模型，盡管這些模型可能需要通過反饋調(diào)整以貼近現(xiàn)實；二是通過 LLMs 的翻譯能力將自然語言轉化為專用領域建模語言（DSML），大幅減少手動建模成本。

偏好獲取：LLMs 通過其常識和語言理解能力，能夠從用戶反饋或行為歷史中推斷出硬性約束、效用函數(shù)或個性化需求。然而，如何處理多目標環(huán)境下的偏好沖突（如成本與效率的平衡）仍需進一步探索。

透明性：LLMs 具有解釋代碼、決策模型和系統(tǒng)日志的潛力，并能生成更直觀的可視化展示。目前代碼動態(tài)行為的解釋較為有限，改進方向包括為不同類型的決策模型提供適當上下文信息，并利用運行結果提高解釋的準確性。LLMs 還可用于模型解釋性研究，如使用決策樹作為代理模型解釋復雜的深度學習模型，輔助特征選擇和重要性分析。

協(xié)作：LLMs 初步應用于任務分配、協(xié)作行為和用戶糾正，推斷用戶意圖并規(guī)劃協(xié)作模式。未來的研究可以深入探索高級意圖推斷、多模態(tài)輸入輸出，以及分析用戶參與的影響，以優(yōu)化人機協(xié)作的自適應能力。

圖：路線圖展示了自適應系統(tǒng)中的軟件工程關鍵點（左側）與 LLMs 在自適應系統(tǒng)中的應用挑戰(zhàn)（中間）之間的對應關系，以及這些挑戰(zhàn)與自適應系統(tǒng)關鍵功能（右側）的映射關系。

當前研究的不足和未來的發(fā)展方向：

設計時方法應用于運行時：設計時方法側重初始設計，依賴歷史數(shù)據(jù)和專家知識；運行時則需實時調(diào)整在線數(shù)據(jù)，并要求 GenAI 做出自主決策。改進提示工程、明確任務與上下文、驗證模型穩(wěn)健性是解決方案。

LLM 即服務（LLMaaS）：LLMaaS 將 LLMs 作為按需提供針對特定領域的云服務。自適應系統(tǒng)需要將 LLMs 作為系統(tǒng)組件進行集成和管理，類似于 API 和微服務。其次，由于 LLMs 的輸出具有概率性，可能對相同輸入產(chǎn)生不同結果，如何在適應過程中管理這些不確定性成為關鍵問題。

觀察和表示：自適應系統(tǒng)通過監(jiān)控收集數(shù)據(jù)，并進行概念化、存儲和利用。多模態(tài) LLMs 處理多種數(shù)據(jù)，但其復雜性增加了設計難度。不同格式（如 HTML、XML、JSON）的表示效果差異，需要在語境質(zhì)量與推理成本之間找到平衡。

LLM 增強的分散控制：LLMs 在多代理系統(tǒng)（LLM-MAS）中可提升集體智能，但代理間的經(jīng)驗共享不足影響效率，且隨代理數(shù)量增加，通信成本升高。未來需開發(fā)高效的通信協(xié)議和多代理協(xié)作技術。

自適應與個性化交互：LLMs 可幫助定制化交互界面，深入理解用戶偏好，增強人類在回路（HOTL）的應用，但仍需解決用戶知識差異和互動能力不足的問題。

倫理與責任：隨著 GenAI 自主性增強，責任歸屬變得模糊，特別是在自適應系統(tǒng)和自動決策中，如何界定 GenAI 與人類責任是未來的研究重點。

評估工件：評估工件（如數(shù)據(jù)集、基準和示例）對自適應系統(tǒng)研究至關重要，但現(xiàn)有示例（如 DeltaIoT、DARTSim）在評估 LLM 時面臨兩大挑戰(zhàn)：觀察空間與 LLM 需求不匹配，且缺乏知識模塊。未來示例應保留 LLM 所需的觀察空間并模塊化知識組件。雖然 LLM 可作為端到端模型使用，但通常作為模塊集成，評估面臨提示魯棒性和輸出質(zhì)量等問題，需專門的評估工具。

自我測試：自我測試在自適應系統(tǒng)中面臨兩個挑戰(zhàn)：復雜的配置和無法預見的運行時變化。雖然傳統(tǒng)離線測試部分緩解問題，但在線、運行時和現(xiàn)場測試正逐步探索。LLMs 已用于故障定位、漏洞檢測、生成測試用例和模糊測試，但應用于自適應系統(tǒng)仍有限。Ceprot 是唯一相關研究，自動更新過時測試用例。自我測試可視為 MAPE-K 循環(huán)的一部分，LLMs 的能力有望推動其進一步發(fā)展。

自我進化：軟件進化指持續(xù)更新軟件以修復問題或提升性能?，F(xiàn)有研究多利用 LLMs 進行漏洞修復和自動化程序修復，但自適應系統(tǒng)中的自動化進化研究有限。LLMs 可以通過集體智能（如 metaGPT 自動化開發(fā)流程）以及自主學習（學習新技能以應對運行時的變化）實現(xiàn)自我進化。同時，系統(tǒng)的自我進化可能會伴隨專用領域建模語言（DSML）的演進，以便更有效地描述系統(tǒng)的新特性。未來的研究應重點關注這種系統(tǒng)進化與 DSML 進化的協(xié)同關系。