近期，快速進化的生成式AI(Generative AI)技術引起人們的廣泛關注，預計將對多個領域產(chǎn)生巨大影響。OpenAI公司的ChatGPT和Stability AI公司的Stable Diffusion允許公眾訪問，這對近年來廣泛研究的生成式AI模型造成了巨大沖擊，目前越來越多的機構(gòu)和公司發(fā)布與AI有關的系統(tǒng)和服務。與此同時，公眾對生成式AI在學習過程中的數(shù)據(jù)處理隱患以及對惡意使用生成式AI的擔憂不斷增加。

生成式AI是一項十分具有潛力的技術，目前正處于爆發(fā)的前夜。正是因為它的強大，公眾對如何積極地利用生成式AI、新使用方式的開發(fā)、謹慎使用生成式AI等話題展開熱烈討論。

但無論是選擇積極擁抱生成式AI，還是對其抱有懷疑態(tài)度，生成式AI的發(fā)展都將給企業(yè)帶來極大影響，各大企業(yè)均需直面“如何面對生成式AI”這一命題。

本文基于這一命題，從“企業(yè)運用生成式AI的風險”角度出發(fā)，搭建整理生成式AI相關的情報信息框架，基于適應快速變化對象風險管理的敏捷治理思路，整理生成式AI風險的整體情況，論述企業(yè)使用生成式AI的適應性管理方法，幫助企業(yè)更好地理解生成式AI的特性并進行有效的信息分析。

生成式AI的進化和著眼要點

什么是生成式AI

生成式AI是指具有自動生成文章和圖像等功能的AI總稱，主要是實用化的識別AI(Discriminative AI)，執(zhí)行非法檢測、按照規(guī)定格式進行數(shù)值預測和分類等任務。生成式AI擅長分析輸入數(shù)據(jù)的結(jié)構(gòu)，根據(jù)關聯(lián)性高的訓練數(shù)據(jù)生成新的內(nèi)容。

生成式AI急劇進化

2015年，生成式AI進入急劇進化階段，進化的一個契機是獲得強有力的模型表達，通過Diffusion Model 2和Transformer 3等新模型研發(fā)，讓學習效率和圖像、聲音等內(nèi)容的生成品質(zhì)均得到了突破性提高;另一個契機是海量數(shù)據(jù)的學習和大規(guī)模模型的建立。以自然語言處理為例，通過采用Transformer模型，可以更有效地實現(xiàn)大量數(shù)據(jù)的學習訓練，例如BERT 4、GPT-5，其利用大規(guī)模語言模型(LLM)學習了數(shù)十億字的龐大數(shù)據(jù)。更重要的是，LLM的參數(shù)量增加到一定程度后，其性能也將急劇提高，當初BERT和GPT-1的參數(shù)量是1億多，與此相對，近年來主流的PaLM和GPT-3.5參數(shù)量達到了數(shù)千億。生成式AI性能的快速提升為其掀起人工智能變革打下了強大的技術基礎。

AI進入普及和應用階段

當前，生成式AI已達到面向大眾的應用水平，進入普及和應用發(fā)展階段。除直接參與AI開發(fā)的企業(yè)之外，還將有更多企業(yè)接觸生成式AI，不斷加深人工智能與自身業(yè)務的聯(lián)系。而企業(yè)在考慮運用生成式AI的同時，還需考慮幾個關鍵的概念和要點，通過了解AI系統(tǒng)的結(jié)構(gòu)區(qū)分考慮AI模型、AI系統(tǒng)和AI服務，讓自身業(yè)務與人工智能的結(jié)合變得更加簡便。AI模型是由數(shù)據(jù)學習訓練的參數(shù)組成的框架，以AI模型為組成部分，根據(jù)用途編入應用程序的系統(tǒng)被稱為AI系統(tǒng)或AI服務(如圖1所示)。

圖1 AI系統(tǒng)的框架

例如，Open AI的ChatGPT以GPT-3.5或GPT-4為基礎，通過將AI模型嵌入具備對話功能的應用軟件中，提供作為AI服務的ChatGPT應用。同樣，谷歌的Bard則是將以LaMDA和PaLM為基礎的模型編入對話型應用程序中。

近年來，AI模型的性能得到了大幅度提高，最近明顯的例子就是聊天應用中的LLM，這一模型能夠在極廣的范圍內(nèi)高精度地完成文本生成這一通用任務。當前的趨勢是，文本生成功能以具有高可訪問性接口的應用程序向公眾開放，并以此為起點，通過應用程序向在線搜索集成和代碼生成等不斷拓展。

值得關注的是，AI模型的開發(fā)人員和應用程序的開發(fā)人員不必是同一批人，實際開發(fā)LLM的公司可通過API提供模型服務，如Meta公司的LLaMA8;開發(fā)應用程序的企業(yè)則可以使用精細微調(diào)的方法，以大規(guī)模數(shù)據(jù)預先學習的模型為基礎，通過學習適合特定任務的追加數(shù)據(jù)對AI模型進行參數(shù)微調(diào)(如圖2所示)。

圖2 AI模型的應用模式

從應用的角度來看，生成式AI目前只是發(fā)揮了其潛力的一小部分，今后各種利益相關者將開發(fā)和提供適合各種用途的生成式AI服務。但是，生成式AI的風險也引起了廣泛討論。

雖然AI模型自身也有望進一步改善，但由于學習數(shù)據(jù)枯竭問題以及規(guī)模擴大遇到的性能限制和挑戰(zhàn)，AI模型基本性能的提高必須加快步伐，成本的改善將成為工作重點。而隨著技術、應用的不斷發(fā)展，行業(yè)今后需更關注生成式AI普及的進展和應用情況，企業(yè)也要盡最大努力應對生成式AI帶來的各類風險。

敏捷治理以適應生成式AI的頻繁變化

當前，生成式AI技術發(fā)展日新月異，引發(fā)了新一輪智能化浪潮，在更多行業(yè)發(fā)揮了更大勢能。從企業(yè)角度來看，生成式AI的應用范圍非常廣泛，但基于法律規(guī)定程序?qū)ι墒紸I等快速變化事物的管控會相對滯后。相比之下，敏捷治理是一種更為適用的方法。敏捷治理是指根據(jù)不斷變化的環(huán)境和目標提供最佳解決方案，通過“環(huán)境風險分析”“目標設定”“系統(tǒng)設計”“運用”“評價”和“改善”等多個“支架”持續(xù)且高速地運轉(zhuǎn)，形成一種治理模式(如圖3所示)。

圖3 敏捷治理的基本組件

從企業(yè)角度看，使用生成式AI要結(jié)合治理系統(tǒng)的運用和監(jiān)控，遇到問題及時改善，同時根據(jù)環(huán)境的變化等因素，不斷重新審視目標，快速捕捉生成式AI周圍環(huán)境的變化，通過分析系統(tǒng)持續(xù)監(jiān)測預警生成式AI相關的風險，最大程度地從創(chuàng)新中獲得利潤。

生成式AI的風險管理矩陣

為幫助企業(yè)通過敏捷治理的方法最大限度地使用生成式AI，本文將介紹一種風險管理矩陣。由于相關信息非常廣泛且更新頻繁，公司對商業(yè)環(huán)境和風險的分析需求緊迫，使用矩陣目的在于解決當下存在的問題。其基本思路是將與生成式AI相關的機會、風險，以及構(gòu)成生成式AI生態(tài)系統(tǒng)的利益相關者的風險分為兩組，同時將與生成式AI相關的每個信息對企業(yè)控制目標的影響可視化。

有觀點認為，生成式AI相關的機會和風險源于自身，但另一方面，政府的法規(guī)或許也將成為生成式AI應用中的風險來源(如表1所示)。

表1 AI應用中的風險來源

結(jié)合生成式AI普及初期遇到的機會和風險，按照商業(yè)活動、倫理和社會責任、版權許可等類別，提煉出對各方的影響，如表2所示。

表2 生成式AI風險管理矩陣

本表的活用方法有三個。一是整理風險的總體情況：企業(yè)的風險管理者可以充分利用本表更新生成式AI的事業(yè)環(huán)境和風險分析情況，隨時收集新的信息，增加新的風險點，避免重復或遺漏。根據(jù)整理的信息，為敏捷治理提供幫助，實施環(huán)境風險分析，使目標的設定和評價運用等后續(xù)研究成為可能。

二是檢查負責人以及確認應參與審查的人員：對于風險管理者新捕捉到的風險，在考慮應對審查人員時可以使用本表，對個別信息和對象進行詳細的風險分析和管理策略探討，分配合適的負責人和主管部門。

三是分析和驗證措施的有效性和完整性：負責詳細分析每個風險的人員可以將本表用于確認分析觀點的有效性和完整性。除了創(chuàng)新的機會，企業(yè)還將面臨道德、社會影響、版權、隱私安全等相關問題，需要全面確認并驗證業(yè)務策略的有效性，并根據(jù)整理的風險情況，挑選研究所需的人員并進行措施分析。

結(jié)語

本文深入探討了一套全面且實用的風險整理方法論，以應對生成式AI技術的迅速普及。生成式AI作為一種強大的創(chuàng)新力量，正在重塑現(xiàn)代社會、經(jīng)濟和生活方式，但也帶來了巨大的風險。對于企業(yè)而言，如何積極利用生成式AI技術，同時有效管理和控制伴隨而來的風險，已成為一個不可忽視的課題。為了使企業(yè)在生成式AI的變革中保持領先，并適應這種急速變化的風險環(huán)境，企業(yè)需要采用周期性的風險管理模式，以期在面臨不確定性和變化時，幫助其迅速識別、評估和管理風險。

生成式AI的風險管理矩陣是一種強大的工具，它可以作為風險管理負責人的輔助決策依據(jù)。通過這種方法論，企業(yè)可以避免在風險管理過程中出現(xiàn)人員混亂和管理無序的情況，從而更加高效地進行風險管理和控制。同時，這種方法論也強調(diào)了構(gòu)建必要人才體系和分析討論周期的重要性，通過這些周期，企業(yè)可以更加深入地理解和評估風險，從而作出更加穩(wěn)健和明智的決策。

總得來說，生成式AI風險矩陣不僅提供了一種實用的工具，也為企業(yè)管理風險提供了一種全新的視角和思考方式，幫助企業(yè)在生成式AI的變革中保持領先，并更加靈活、高效地進行風險管理。