自去年 11 月 30 日發(fā)布以來(lái)，OpenAI 的 ChatGPT 已經(jīng)在短短的三個(gè)月內(nèi)席卷了各個(gè)社會(huì)領(lǐng)域：普通人用它當(dāng)搜索引擎；辦公室文員用它來(lái)寫文案、做會(huì)議紀(jì)要，程序員用它來(lái)寫代碼。

但是，令人擔(dān)憂的是，學(xué)生們也會(huì)用它來(lái)寫作業(yè)。前段時(shí)間的一項(xiàng)調(diào)查表明，美國(guó)近 9 成的學(xué)生已經(jīng)在用 ChatGPT 寫作業(yè)了，有篇 ChatGPT 生成的論文甚至拿到了全班第一。對(duì)于學(xué)校老師來(lái)說(shuō)，這一變化來(lái)得過(guò)于突然。在還沒(méi)想出對(duì)策之前，有些學(xué)校直接選擇了禁用。

同樣給 ChatGPT 下了禁令的還有一些公司，包括花旗、高盛、摩根大通等華爾街金融機(jī)構(gòu)，因?yàn)樗麄儞?dān)心員工在使用 ChatGPT 的時(shí)候會(huì)泄露公司敏感信息。

這些手忙腳亂的應(yīng)對(duì)措施反映出一個(gè)問(wèn)題：我們這個(gè)社會(huì)還沒(méi)有為 ChatGPT 這類 AI 生成模型的到來(lái)做好準(zhǔn)備，相關(guān)問(wèn)題的討論需要被提上日程?；蛟S這也是近期舉辦的全球人工智能開(kāi)發(fā)者先鋒大會(huì)「由知道智：AI 安全與倫理洞察主題論壇」座無(wú)虛席的原因。

雖然大會(huì)的主題是「A 安全與倫理洞察」，但嘉賓的討論范圍沒(méi)有局限于此，而是加入了多個(gè)維度的討論，從 ChatGPT 等 AI 生成模型對(duì)基礎(chǔ)研究的影響到它的應(yīng)用問(wèn)題再到新時(shí)代人才培養(yǎng)思路，各個(gè)角度都展開(kāi)了深入探討。透過(guò)這個(gè)論壇，大家試圖勾勒出一個(gè)問(wèn)題的答案：在已經(jīng)到來(lái)的 AIGC 時(shí)代，我們要如何應(yīng)對(duì)？

ChatGPT 給科研領(lǐng)域帶來(lái)了哪些啟發(fā)和挑戰(zhàn)？

今年 1 月份，因?yàn)閷?duì) ChatGPT 的評(píng)價(jià)過(guò)于苛刻，圖靈獎(jiǎng)得主 Yann LeCun 被送上了熱搜。在他看來(lái)，「就底層技術(shù)而言，ChatGPT 并沒(méi)有什么特別的創(chuàng)新，」也不是「什么革命性的東西」，只能算一個(gè)像樣的工程實(shí)例。

「ChatGPT 是否具有革命性」是個(gè)充滿爭(zhēng)議的話題。但毋庸置疑，它確實(shí)是一個(gè)工程上的杰作。在現(xiàn)場(chǎng)，中國(guó)科學(xué)院院士鄂維南也指出了這一點(diǎn)。

他還強(qiáng)調(diào)，這一杰作是 OpenAI 逐步驗(yàn)證、集中投入的結(jié)果。其中，「集中投入」這點(diǎn)是非常重要的。因?yàn)?OpenAI 的成功表明，以往那種「小作坊、項(xiàng)目制」的 AI 賦能方式正在成為歷史，而「AI 工程化、平臺(tái)化」正成為釋放人工智能技術(shù)紅利的重要支撐。如果能夠適應(yīng)這種變化，AI 在自然語(yǔ)言領(lǐng)域所取得的成功，有望在基礎(chǔ)科學(xué)研究領(lǐng)域被復(fù)制。這也是鄂維南院士所從事的 AI for Science 領(lǐng)域的工作。

當(dāng)然，這項(xiàng)工作并不容易，需要我們集中力量去構(gòu)建用于基礎(chǔ)科學(xué)研究的平臺(tái)化基礎(chǔ)設(shè)施，包括數(shù)據(jù)、基礎(chǔ)軟件工具、算力平臺(tái)、智能化科研平臺(tái)等。在過(guò)去的幾年，鄂院士已經(jīng)帶領(lǐng)團(tuán)隊(duì)做了一些這方面的工作，發(fā)布了原子間勢(shì)能函數(shù)預(yù)訓(xùn)練模型等重要成果。

不過(guò)，他們的工作還面臨很多挑戰(zhàn)，比如積累的數(shù)據(jù)格式不一、噪聲大，軟件缺乏基本的測(cè)試體系，算力基礎(chǔ)設(shè)施跟不上等等。在鄂院士看來(lái)，這屬于「黎明前的黑暗」，只有敢于在原始創(chuàng)新方向上集中資源，我們才能迎來(lái)曙光。

除了自然科學(xué)，ChatGPT 的出現(xiàn)對(duì)于社會(huì)科學(xué)領(lǐng)域的研究者也有一定的啟發(fā)。對(duì)此，華東師范大學(xué)政治與國(guó)際關(guān)系學(xué)院院長(zhǎng)吳冠軍貢獻(xiàn)了非常有價(jià)值的思路。

吳院長(zhǎng)指出，在 ChatGPT 面前，社會(huì)科學(xué)研究者應(yīng)該有一些危機(jī)感。首先，它的背后是巨量的數(shù)據(jù)，這些數(shù)據(jù)可能是人類學(xué)者靠傳統(tǒng)的田野調(diào)查搜集不到的，而且它能夠在短時(shí)間內(nèi)處理大量數(shù)據(jù)。其次，它「讀」了大量的書，這些書，人可能一輩子也讀不完。

「我們正在面對(duì)（技術(shù)）奇點(diǎn)，但是我們很多學(xué)者卻茫然不知，」吳冠軍說(shuō)到。

這里的技術(shù)奇點(diǎn)指的是一個(gè)根據(jù)技術(shù)發(fā)展史總結(jié)出的觀點(diǎn)，認(rèn)為未來(lái)將要發(fā)生一件不可避免的事件：技術(shù)發(fā)展將會(huì)在很短的時(shí)間內(nèi)發(fā)生極大的接近于無(wú)限的進(jìn)步。屆時(shí)，我們熟悉的知識(shí)、價(jià)值、規(guī)則全部會(huì)失效。

因此，他呼吁，社會(huì)科學(xué)家需要和其他科學(xué)家一起，推進(jìn)對(duì)技術(shù)奇點(diǎn)時(shí)代的研究。這種研究以亞里士多德知識(shí)分類法中的「實(shí)踐性知識(shí)」（比如倫理、政治）為主，因?yàn)樵诹硗鈨深愔R(shí)（生產(chǎn)性知識(shí)和理論性知識(shí)）領(lǐng)域，AI 已經(jīng)開(kāi)始學(xué)習(xí)甚至學(xué)得比人類好了。而在政治等實(shí)踐性知識(shí)領(lǐng)域，AI 還只能復(fù)述，無(wú)法創(chuàng)造新的世界。因此，吳院長(zhǎng)認(rèn)為，人類在這一領(lǐng)域?qū)⒋笥锌蔀椤?/span>

AIGC 市場(chǎng)即將爆發(fā)，應(yīng)用端要如何做好準(zhǔn)備？

前幾天，OpenAI 在千呼萬(wàn)喚中發(fā)布了 ChatGPT 的 API，而且價(jià)格非常便宜，生成百萬(wàn) token 僅需 2 美元。對(duì)于應(yīng)用端來(lái)說(shuō)，這是一個(gè)頗為振奮人心的消息。與此同時(shí)，國(guó)內(nèi)的類 ChatGPT 產(chǎn)品的研發(fā)也在加快，本月也將有新產(chǎn)品問(wèn)世?？梢灶A(yù)見(jiàn)的是，在未來(lái)的一年，由 AIGC 模型支持的應(yīng)用將在國(guó)內(nèi)外集中爆發(fā)。

但與此同時(shí)，我們對(duì)于應(yīng)用端的投入似乎并沒(méi)有跟上，這是德勤中國(guó)主席蔣穎觀察到的現(xiàn)象。

具體來(lái)說(shuō)，她發(fā)現(xiàn)我國(guó)的人工智能發(fā)展對(duì)于研發(fā)供給側(cè)和應(yīng)用需求側(cè)的投入存在失衡現(xiàn)象。這種失衡表現(xiàn)在三個(gè)方面。

首先，在角色方面，當(dāng)前很多的決策組織主要還是由科研機(jī)構(gòu)、科技企業(yè)構(gòu)成，行業(yè)協(xié)會(huì)等應(yīng)用場(chǎng)景的相關(guān)方參與相對(duì)不足。因此，蔣穎認(rèn)為，我們需要建立一個(gè)多方參與的聯(lián)盟，從而進(jìn)一步提升轉(zhuǎn)化需求側(cè)力量在人工智能發(fā)展中的策源作用。

其次，在發(fā)展方面，通過(guò)技術(shù)創(chuàng)新來(lái)提升人工智能發(fā)展已經(jīng)被充分提及并得到大量支持，但模式創(chuàng)新的力量還沒(méi)有得到充分重視。因此，蔣穎提出，我們應(yīng)該鼓勵(lì)人工智能創(chuàng)新商業(yè)模式的實(shí)際運(yùn)用，加大這方面的研究。

最后，在人才培養(yǎng)方面，現(xiàn)在很多高校都設(shè)立了人工智能相關(guān)專業(yè)，但這些專業(yè)大多局限于理工類知識(shí)和技能的培養(yǎng)，導(dǎo)致具備技術(shù)和管理應(yīng)用雙向知識(shí)的人才相對(duì)匱乏。要知道，在實(shí)際應(yīng)用場(chǎng)景中，要想讓 AI 真正發(fā)揮經(jīng)濟(jì)效能，僅僅用它來(lái)完成某個(gè)生產(chǎn)線的工作是不夠的，整個(gè)流程、管理架構(gòu)都需要轉(zhuǎn)變，能滿足這類需求的人才現(xiàn)階段是非常稀缺的。

在應(yīng)用層面，商湯科技智能產(chǎn)業(yè)研究院院長(zhǎng)、上海人工智能研究院副院長(zhǎng)田豐也分享了自己的觀點(diǎn)，不過(guò)他更加關(guān)注的是 AI 應(yīng)用過(guò)程中存在的各種風(fēng)險(xiǎn)，包括模型風(fēng)險(xiǎn)、數(shù)據(jù)風(fēng)險(xiǎn)等等。

具體來(lái)說(shuō)，田豐主張用技術(shù)及管理工具去提升企業(yè) AI 倫理治理能力。在過(guò)去的幾年，商湯科技已經(jīng)自研了一套 AI 倫理風(fēng)險(xiǎn)的治理工具箱，包括數(shù)字水印、數(shù)據(jù)脫敏、數(shù)據(jù)沙箱、模型體檢平臺(tái)等，覆蓋設(shè)計(jì)、開(kāi)發(fā)、部署、上線這樣一個(gè)完整的產(chǎn)品生命周期。

學(xué)生都在用 ChatGPT，老師怎么辦？

在論壇現(xiàn)場(chǎng)，上海大學(xué)副校長(zhǎng)汪小帆被問(wèn)到了一個(gè)問(wèn)題：上海大學(xué)會(huì)禁止學(xué)生用 ChatGPT 嗎？對(duì)此，汪校長(zhǎng)回答說(shuō)：不主張禁用。

在他看來(lái)，ChatGPT 等 AI 工具的出現(xiàn)有其積極的一面。

在教學(xué)實(shí)踐中，它可以為學(xué)生提供即時(shí)的反饋，像 AlphaGo 輔助人類棋手一樣幫助學(xué)生更快地取得進(jìn)步。回想一下，30 年前，我們還在圖書館一本一本地查閱文獻(xiàn)；20 年前，我們開(kāi)始在網(wǎng)上快速檢索文獻(xiàn)；而今天，ChatGPT 已經(jīng)能夠幫我們把文獻(xiàn)整理成摘要或綜述了。這無(wú)疑大大提高了我們學(xué)習(xí)知識(shí)的效率。

在教學(xué)內(nèi)容和方法上，它會(huì)迫使教學(xué)工作者去反思：我們的教育應(yīng)該傳授什么樣的知識(shí)？如何利用 ChatGPT 這類工具讓我們高等教育的「教」和「學(xué)」更加高效？經(jīng)過(guò)這一輪反思和變革，高等教育可能會(huì)更加貼近其本質(zhì)。就像愛(ài)因斯坦所說(shuō)，「大學(xué)教育的價(jià)值不在于記住很多事實(shí)，而是訓(xùn)練大腦會(huì)思考…… 被放在首要位置的永遠(yuǎn)應(yīng)該是獨(dú)立思考和判斷的總體能力的培養(yǎng)，而不是獲取特定的知識(shí)」。

當(dāng)然，ChatGPT 給高校教育帶來(lái)的問(wèn)題也是無(wú)法回避的。對(duì)此，汪校長(zhǎng)提出了三項(xiàng)需要做的工作：一是有章可循，即制定在教學(xué)和研究中使用 AIGC 的指導(dǎo)性原則，并確保學(xué)生和教師都能了解和遵循這些準(zhǔn)則；二是合理使用，即支持在教、學(xué)和研究中合理使用 AIGC，但采取有效舉措禁止抄襲等學(xué)術(shù)不端行為；三是教學(xué)示范，即教師在教學(xué)和研究過(guò)程中起到示范作用，并把合理使用 AIGC 等人工智能技術(shù)納入學(xué)術(shù)誠(chéng)信和倫理道德課程教學(xué)。

人工智能發(fā)展，不能走汽車?yán)下?/h4>

除了嘉賓們的精彩分享，本次論壇還誕生了兩項(xiàng)重要成果。

第一項(xiàng)成果是上海標(biāo)準(zhǔn)《信息技術(shù) 人工智能系統(tǒng)生命周期治理指南》工作組核心專家成員獲頒聘書。該指南將從 AI 算法模型的概念設(shè)計(jì)開(kāi)始，貫穿開(kāi)發(fā)、測(cè)試評(píng)估、部署、運(yùn)行監(jiān)控、退出使用的完整生命周期，為人工智能系統(tǒng)的治理提供指導(dǎo)。這是國(guó)內(nèi)首個(gè)關(guān)于人工智能系統(tǒng)治理的地方標(biāo)準(zhǔn)，旨在以標(biāo)準(zhǔn)規(guī)則促進(jìn)發(fā)展，通過(guò)技術(shù)手段和監(jiān)管措施守住安全和倫理的底線，確保類似 AIGC 等技術(shù)充分發(fā)揮其社會(huì)價(jià)值、經(jīng)濟(jì)價(jià)值，用實(shí)際成效樹(shù)立人工智能發(fā)展的「上海經(jīng)驗(yàn)」。

第二項(xiàng)成果《2023 上海人工智能安全倫理倡議書》的發(fā)布與簽署。《倡議書》以《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》為指導(dǎo)，倡導(dǎo)人工智能開(kāi)發(fā)者向光而行，確保人工智能行業(yè)朝著公平公正、內(nèi)容安全、隱私保護(hù)、互聯(lián)互通、共建共享共治方向不斷前進(jìn)，向上發(fā)展。來(lái)自上海市人工智能行業(yè)協(xié)會(huì)、上海中青年知識(shí)分子聯(lián)誼會(huì)、上海臨港集團(tuán)、信通院華東分院、市軟件開(kāi)發(fā)中心等代表共同簽署了《倡議書》。

為什么要做這兩件事？在演講中，汪校長(zhǎng)提到了一個(gè)冷知識(shí)：汽車是 19 世紀(jì)末被發(fā)明出來(lái)的，但直到 20 世紀(jì)下半葉，不同的國(guó)家才出臺(tái)了強(qiáng)制要求開(kāi)車系安全帶的法規(guī)?？梢韵胂螅@中間必然有多少人白白喪命。

仔細(xì)想一下，現(xiàn)在的我們其實(shí)有點(diǎn)像 19 世紀(jì)那些剛剛接觸汽車的人們：新興的 AIGC 在加速狂飆，但開(kāi)車的人卻沒(méi)有法規(guī)去約束，坐車的人也沒(méi)有安全帶可系。這些問(wèn)題迫在眉睫。

「今天人工智能的發(fā)展，顯然不能走汽車的這條路，」汪校長(zhǎng)語(yǔ)重心長(zhǎng)地說(shuō)。以論壇為起點(diǎn)，社會(huì)各方都在探索一條新的路徑，讓我們能夠從容地應(yīng)對(duì) AIGC 時(shí)代的到來(lái)。