近日，國家網(wǎng)信辦公布《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡稱《生成式AI意見稿》），擬就類似ChatGPT等基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)進(jìn)行相應(yīng)規(guī)范。根據(jù)《生成式AI意見稿》的規(guī)范要求，我國支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源。同時，《生成式AI意見稿》提出，提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會公德、公序良俗，并應(yīng)符合五項(xiàng)要求，包括利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會主義核心價值觀，防止出現(xiàn)種族、民族、信仰、國別、地域、性別、年齡、職業(yè)等歧視，防止生成虛假信息，防止傷害他人身心健康，防止損害肖像權(quán)、名譽(yù)權(quán)和個人隱私，防止侵犯知識產(chǎn)權(quán)，禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密等。

 筆者認(rèn)為，生成式AI在其發(fā)展進(jìn)程中面臨的最大問題不是技術(shù)本身，而是生成式AI的技術(shù)倫理和法律問題。筆者建議《生成式AI意見稿》中應(yīng)當(dāng)增加生成式AI相關(guān)倫理規(guī)范的規(guī)定，特別是在生成式人AI全生命周期各環(huán)節(jié)自省自律，加強(qiáng)生成式AI問責(zé)機(jī)制。生成式AI的倫理是AI技術(shù)創(chuàng)新和科研活動中人與社會、人與自然以及人與人關(guān)系的思想與行為準(zhǔn)則，它不只是涉及生成式AI科學(xué)研究中的倫理，也不只是生成式AI科研人員要遵守的科技倫理，還包括生成式AI成果應(yīng)用中的倫理。

生成式人工智能應(yīng)用安全風(fēng)險引起全球關(guān)注

 人工智能在經(jīng)歷前期技術(shù)積累和迭代后，逐漸突破傳統(tǒng)分析型AI領(lǐng)域，迎來生成式AI的爆發(fā)期。從2012年至今，生成式AI極速發(fā)展，其源頭就是DNN算法的升級，實(shí)現(xiàn)了語音和圖像識別等功能。生成式AI（Generative AI 或AIGC）是基于算法、模型、規(guī)則，利用現(xiàn)有文本、圖像、代碼、音視頻文件生成和創(chuàng)建新內(nèi)容的技術(shù)。生成式AI即人工智能生產(chǎn)內(nèi)容，可用于代碼生成、文本問答、圖像生成等。火爆全球的ChatGPT就是一種生成式AI的特定實(shí)現(xiàn)，能理解并生成文字，屬于生成式AI技術(shù)應(yīng)用中的文本生成模態(tài)應(yīng)用模型。

 當(dāng)前，ChatGPT的應(yīng)用所引發(fā)的安全風(fēng)險，已經(jīng)引起全球?qū)ι墒紸I倫理和安全問題的高度關(guān)注。3月30日，非營利組織人工智能與數(shù)字政策中心（CAIDP）向美國聯(lián)邦貿(mào)易委員會（FTC）投訴稱：GPT-4“有偏見性、欺騙性，對隱私和公共安全構(gòu)成風(fēng)險”。CAIDP認(rèn)為，OpenAI違反了FTC對人工智能（AI）產(chǎn)品的指導(dǎo)，并違反了FTC法案第5條，該法案禁止不公平和欺騙性的商業(yè)行為。3月29日，一份由1000多名科技專家簽署的題為《暫停大型人工智能研究》的公開信引起了全球的廣泛關(guān)注，這些科技專家包括圖靈獎得主約書亞·本吉奧（Yoshua Bengio）、特斯拉CEO埃隆·馬斯克（Elon Musk）、蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）、DeepMind高級研究科學(xué)家扎卡里·肯頓（Zachary Kenton）等AI領(lǐng)域的企業(yè)家、學(xué)者、高管。

 筆者注意到，這些AI專家在信中強(qiáng)烈呼吁：所有AI研究室立刻暫停訓(xùn)練比GPT-4更加強(qiáng)大的AI系統(tǒng)，為期至少6個月，并建議各大企業(yè)、機(jī)構(gòu)共同開發(fā)一份適用于AI研發(fā)的安全協(xié)議，同時信中還提到各國政府應(yīng)當(dāng)在必要的時候介入其中。公開信中指出，目前AI技術(shù)在很多領(lǐng)域已經(jīng)取得了很大的進(jìn)展，但是這些進(jìn)展也帶來了一些潛在的危險。一些研究人員擔(dān)心，超強(qiáng)的AI可能在未來對人類產(chǎn)生威脅，因此需要對這項(xiàng)技術(shù)進(jìn)行更加深入的研究和探討。此外，公開信中還提到了AI技術(shù)可能給社會帶來的影響。多數(shù)人擔(dān)心AI技術(shù)可能取代很多人類工作，從而導(dǎo)致失業(yè)率的上升。此外，一些人還擔(dān)心AI技術(shù)會對社會的隱私和安全造成威脅。這份公開信呼吁暫停大型的AI項(xiàng)目，以便對這項(xiàng)技術(shù)進(jìn)行深入研究和探討。此外，這份公開信還呼吁政府、學(xué)術(shù)界和產(chǎn)業(yè)界等各方加強(qiáng)對AI技術(shù)的監(jiān)管和控制，以確保這項(xiàng)技術(shù)能夠更好地服務(wù)于人類，而不是對人類產(chǎn)生威脅。

ChatGPT的應(yīng)用對社會結(jié)構(gòu)構(gòu)成三大威脅

 事實(shí)上，ChatGPT的應(yīng)用正在對社會結(jié)構(gòu)構(gòu)成真實(shí)而迫在眉睫的三大威脅：一是數(shù)據(jù)安全的威脅。ChatGPT以海量信息“為食”，數(shù)據(jù)量越大、數(shù)據(jù)越新，其功能性越好。這意味著要保證良好的用戶體驗(yàn)，它必須在社會各領(lǐng)域中獲取足夠多和準(zhǔn)確的知識與信息，但問題在于，許多信息涉及國家機(jī)密、商業(yè)機(jī)密和個人隱私，獲取和利用這些信息本身存在合法性問題，一旦重要數(shù)據(jù)泄露，造成的損失到底是由泄露數(shù)據(jù)的人承擔(dān)，還是由披露數(shù)據(jù)的ChatGPT承擔(dān)，尚無定論。二是對人才教育的威脅。ChatGPT被學(xué)生用于完成作業(yè)和撰寫論文，對教育界和學(xué)術(shù)界造成了重大的沖擊。調(diào)查顯示，美國有89%的學(xué)生用ChatGPT寫作業(yè)，目前尚未研究出可準(zhǔn)確檢測這種作弊行為的技術(shù)。利用ChatGPT完成學(xué)習(xí)任務(wù)的高質(zhì)量和高效率遠(yuǎn)超此前的系列解題軟件，它可以完美避開查重等問題，這使其極具誘惑力。人類教育的意義本來就是為了培養(yǎng)社會人才、推進(jìn)人類歷史的進(jìn)步，而ChatGPT作為當(dāng)前智能機(jī)器人的一個前沿成果，卻替代人類完成人才培養(yǎng)的任務(wù)，這是極其可怕的。三是意識形態(tài)滲透的威脅。ChatGPT的數(shù)據(jù)輸出功能承載著后臺技術(shù)操控者的話語權(quán)，用戶越多、使用范圍越廣就意味著其話語權(quán)越大、價值滲透力越強(qiáng)。ChatGPT是有政治立場和價值取向的，操控者的價值觀存在歷史和文化的偏見、歧視，就會通過ChatGPT的“放大鏡”昭然于世，誤導(dǎo)用戶，扭曲大眾價值觀，引起社會動蕩，妨害社會公平正義。在國際競爭日益激烈的背景下，各種社會思潮此起彼伏。ChatGPT 一旦面向大眾，勢必會成為意識形態(tài)滲透的重要工具。

 目前，世界多國教育系統(tǒng)及相關(guān)從業(yè)者已公開抵制ChatGPT。美國多所大學(xué)已宣布計(jì)劃減少居家評估，增加手寫論文和口試。紐約、巴爾的摩和洛杉磯的學(xué)區(qū)都叫停了學(xué)校管理的網(wǎng)絡(luò)訪問聊天機(jī)器人。在澳大利亞，一些大學(xué)表示他們將恢復(fù)只使用監(jiān)考的筆試考試來評估學(xué)生。法國頂尖學(xué)府之一的巴黎政治學(xué)院也宣布禁止使用ChatGPT。3月31日，意大利個人數(shù)據(jù)保護(hù)局（DPA）發(fā)表聲明，禁止在意大利使用人工智能聊天平臺ChatGPT。意大利DPA指責(zé)ChatGPT系統(tǒng)違反了歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR），并已對OpenAI這家美國科技公司展開進(jìn)一步調(diào)查，在歐洲第一個以國家名義禁用ChatGPT。

科技創(chuàng)新和成果不能損傷人、損害生物和破壞環(huán)境

 應(yīng)當(dāng)指出，科技倫理是理性的產(chǎn)物，其底層邏輯要求科技創(chuàng)新和成果只能有益于或最大限度地有益于人、生物和環(huán)境，而不能損傷人、損害生物和破壞環(huán)境，即便不可避免會不同程度地?fù)p人毀物——如藥物的副作用，也要把這種副作用減到最低，甚至為零。在具體的倫理規(guī)則上，還應(yīng)兩利相權(quán)取其重、兩害相權(quán)取其輕。

 早在2016年，標(biāo)準(zhǔn)制定組織IEEE就發(fā)布了一份題為《利用人工智能和自主系統(tǒng)（AI/AS）最大化人類福祉的愿景》的報告，該報告提出了一個發(fā)展人工智能的一般性原則，主要涉及AI可靠性以及高層次的倫理問題，該報告認(rèn)為，人工智能發(fā)展的一般性原則將適用于所有類型的人工智能和自主系統(tǒng)。在確定一般性原則時，主要考慮三大因素：一是體現(xiàn)人權(quán)；二是優(yōu)先考慮最大化對人類和自然環(huán)境的好處；三是削弱人工智能的風(fēng)險和負(fù)面影響。

 筆者建議，各國在研發(fā)生成式AI時，應(yīng)當(dāng)建立健全公開透明的AI監(jiān)管體系，重點(diǎn)在生成式AI的設(shè)計(jì)問責(zé)和應(yīng)用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu)上做充分的準(zhǔn)備，實(shí)現(xiàn)對AI算法設(shè)計(jì)、產(chǎn)品開發(fā)和成果應(yīng)用等的全過程監(jiān)管。促進(jìn)生成式AI行業(yè)和企業(yè)自律，切實(shí)加強(qiáng)生成式AI協(xié)同一體化的管理，加大對生成式AI領(lǐng)域數(shù)據(jù)濫用、算法陷阱、侵犯個人隱私、違背倫理道德等行為的懲戒力度。

 在生成式AI技術(shù)研發(fā)的同時，要加強(qiáng)人工智能相關(guān)法律、倫理和社會問題的同步研究，尤其要關(guān)注生成式AI模仿人類傳播錯誤信息或?qū)⑸虡I(yè)無人機(jī)轉(zhuǎn)化為目標(biāo)武器攻擊人類，建立和優(yōu)化保障生成式AI健康發(fā)展的法律法規(guī)和倫理道德框架。法律研究領(lǐng)域要開展與生成式AI應(yīng)用相關(guān)的民事與刑事責(zé)任確認(rèn)、隱私和產(chǎn)權(quán)保護(hù)、機(jī)器倫理與破壞力評價等倫理與法律問題的交叉研究，建立生成式AI的可追溯和問責(zé)制度，明確人工智能的設(shè)計(jì)者、控制者、使用者等相關(guān)法律主體的權(quán)利、義務(wù)和責(zé)任。

 我國《生成式AI意見稿》為全球探索生成式AI治理提供了有益借鑒。建議各國積極構(gòu)建生成式AI相關(guān)法律、倫理和社會問題的國際合作和交流平臺，建立保障生成式AI健康發(fā)展的法律法規(guī)和倫理道德框架，確保生成式AI在倫理規(guī)范和法律框架下健康發(fā)展，鼓勵跨學(xué)科、跨領(lǐng)域、跨地區(qū)、跨國界的交流與合作，推動形成具有廣泛共識的生成式AI倫理國際治理框架和標(biāo)準(zhǔn)規(guī)范。

作者系：浙江大學(xué)網(wǎng)絡(luò)空間安全學(xué)院教授、中國科協(xié)網(wǎng)絡(luò)與數(shù)據(jù)法治決策咨詢首席專家、工信部信息通信經(jīng)濟(jì)專家委員會委員。

關(guān)注本公眾號：