4月11日，國家互聯(lián)網(wǎng)信息辦公室(以下簡稱“網(wǎng)信辦”)起草發(fā)布了《生成式人工智能服務(wù)管理辦法(征求意見稿)》，并向社會公眾展開為期一個月的意見征求。

這份管理辦法(征求意見稿)共計21條，從適用范圍看，既包括了提供生成式人工智能服務(wù)的主體，也包括使用這些服務(wù)的組織和個人;管理辦法覆蓋了生成式人工智能輸出內(nèi)容的價值導(dǎo)向、服務(wù)提供方的訓(xùn)練原則、隱私權(quán)/知識產(chǎn)權(quán)等各項權(quán)利的保護等等。

GPT類生成式自然語言大模型及產(chǎn)品出現(xiàn)后，既讓公眾體驗到了人工智能的飛躍式進步，也暴露出安全風(fēng)險，包括產(chǎn)生帶偏見和歧視性的內(nèi)容、數(shù)據(jù)泄露、侵犯隱私、AI造假等問題。全球范圍，各國對人工智能的監(jiān)管漸成趨勢。

在中國，《生成式人工智能服務(wù)管理辦法》一旦出臺，國內(nèi)生成式AI的大模型及產(chǎn)品提供方不能再無序亂“卷”了，采用者使用生成式AI時也有了規(guī)范圈。

1.為生成內(nèi)容設(shè)“禁區(qū)”

“研發(fā)、利用生成式人工智能產(chǎn)品，面向中華人民共和國境內(nèi)公眾提供服務(wù)的，適用本辦法。

本辦法所稱生成式人工智能，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)?！?/p>

4月11日，網(wǎng)信辦公布的《生成式人工智能服務(wù)管理辦法(征求意見稿)》(以下簡稱《辦法》)在第二條中明確了《辦法》的適用主體和“生成式人工智能”的定義。

從該條內(nèi)容看，諸如百度、阿里、騰訊、華為等目前已經(jīng)公開表示有生成式大模型及產(chǎn)品的公司，如果對中國境內(nèi)用戶提供服務(wù)，將在《辦法》的管理范圍內(nèi)，而用戶使用相關(guān)產(chǎn)品和服務(wù)，也需要遵守《辦法》的規(guī)定。

《辦法》也強調(diào)了，國家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源。

在這一前提下，《辦法》為生成式人工智能產(chǎn)品或服務(wù)的提供方劃定了“禁區(qū)”，包括生成的內(nèi)容和研發(fā)的基本原則。

在內(nèi)容上，《辦法》要求：利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會主義核心價值觀，不得含有顛覆國家政權(quán)、推翻社會主義制度，煽動分裂國家、破壞國家統(tǒng)一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經(jīng)濟秩序和社會秩序的內(nèi)容;利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實準(zhǔn)確，采取措施防止生成虛假信息。

在研發(fā)上，《辦法》要求提供方在算法設(shè)計、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取措施防止出現(xiàn)種族、民族、信仰、國別、地域、性別、年齡、職業(yè)等歧視。

從這些要求看，《辦法》基本涵蓋了市面上的自然語言大模型產(chǎn)品在用戶實操中暴露出來的安全及倫理問題，包括產(chǎn)生歧視性偏見、虛假信息等內(nèi)容

人類借由生成式AI產(chǎn)出的問題內(nèi)容已經(jīng)層出不窮地出現(xiàn)在網(wǎng)絡(luò)上。

比如，ChatGPT曾為用戶咨詢“如何入店行竊”時提供過步驟，盡管附上了“入店行竊違法的提示”;它的“角色扮演”功能曾被用戶誘導(dǎo)以DAN(Do Anyting Now)身份回答問題，給出的答案里出現(xiàn)了“爆粗口”的情況;還有人用ChatGPT測試的假消息在國內(nèi)傳播，成了“辟謠”的內(nèi)容。

微軟集合進搜素引擎Bing的聊天機器人，被海外媒體人曝光“辱罵用戶”;AI生圖應(yīng)用Midjourney更是被人利用造出過“教皇穿巴黎世家羽絨服”、“馬斯克與通用汽車CEO約會”的假圖，甚至還有人用它制造了各種不存在的地震歷史和太陽風(fēng)暴災(zāi)害等等。

有關(guān)教皇(左)與馬斯克的假圖

針對虛假信息、辨別AI生成內(nèi)容層面，《辦法》要求提供者從源頭上“能夠保數(shù)據(jù)的真實性、準(zhǔn)確性、客觀性、多樣性”;應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對生成式的圖片、視頻等內(nèi)容進行標(biāo)識;而生成式人工智能產(chǎn)品研制中采用人工標(biāo)注時，提供者應(yīng)當(dāng)制定符合本辦法要求，清晰、具體、可操作的標(biāo)注規(guī)則，對標(biāo)注人員進行必要培訓(xùn)，抽樣核驗標(biāo)注內(nèi)容的正確性。

中國監(jiān)管為生成式人工智能的內(nèi)容設(shè)置禁區(qū)，某種程度上也是在要求提供大模型及產(chǎn)品的企業(yè)把好預(yù)訓(xùn)練和數(shù)據(jù)的關(guān)。

2.強調(diào)數(shù)據(jù)來源和個人信息保護

除了對生成內(nèi)容強調(diào)價值觀導(dǎo)向、社會公德、遵守法律及反歧視外，《辦法》也對生成式人工智能相關(guān)的預(yù)訓(xùn)練及數(shù)據(jù)來源、個人信息保護等權(quán)益做出要求。

例如，《辦法》要求，提供者應(yīng)當(dāng)對生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé)，不含有侵犯知識產(chǎn)權(quán)的內(nèi)容;數(shù)據(jù)包含個人信息的，應(yīng)當(dāng)征得個人信息主體同意;對用戶輸入信息和使用記錄承擔(dān)保護義務(wù)，不得非法留存能夠判斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息。

生成式AI產(chǎn)生的數(shù)據(jù)侵權(quán)問題也確實存在，比如，用戶在使用對話式機器人滿足一些工作需求時，難免會上傳公司的資料，如不注意，很可能造成商業(yè)秘密的泄露。此前，韓國電子巨頭三星在對ChatGPT提出“限問令”后就表示，內(nèi)部數(shù)據(jù)因員工與該應(yīng)用的交互而出現(xiàn)泄露。

《辦法》不僅指向生成式人工智能產(chǎn)品和服務(wù)的提供者，也對產(chǎn)品和服務(wù)使用者劃定了原則。

比如，不利用生成內(nèi)容損害他人形象、名譽及其他合法權(quán)益，不進行商業(yè)炒作、不正當(dāng)營銷。

由于《辦法》時根據(jù)上位法《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》等法律、行政法規(guī)制定，這些法律法規(guī)將適用于違反《辦法》的行為，包括侵犯知識產(chǎn)權(quán)、侵犯個人信息等違法行為。

《辦法》共計21條，其中有13條明確針對 “提供者”，即利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個人。

公眾可通過三條途徑反饋意見

由此可見，《辦法》一旦正式出臺，國內(nèi)做生成式大模型及產(chǎn)品的企業(yè)及采用方將須在規(guī)則范圍內(nèi)行事。據(jù)網(wǎng)信辦官網(wǎng)顯示，公眾可以通過三個渠道提出反饋意見，反饋的截至日期為2023年5月10日。