斯蒂芬·霍金曾說過一句名言:“成功創(chuàng)造出有效的人工智能可能是我們文明史上最大的事件，但除非我們學(xué)會如何準(zhǔn)備和避免潛在的風(fēng)險，否則人工智能可能是我們文明史上最糟糕的事件?！?/p>

人工智能以LLM(大型語言模型)的形式出現(xiàn)爆炸式增長?；谂cChatGPT等工具的類似人類的自然語言對話，使許多人認(rèn)為廣泛采用人工智能的時代即將到來。在硬件和軟件上投入了大量資金，希望將許多由“純?nèi)祟悺眻?zhí)行的任務(wù)自動化。最近，谷歌宣布對廣告銷售團隊進行重組，并裁員“數(shù)百名員工”，以實現(xiàn)人工智能流程的自動化，將關(guān)鍵操作交給人工智能代理或工具。這些更高級別的人類與人工智能對話的有效性仍然未知。

包括LLM在內(nèi)的生成式人工智能(GenAI)的一個方面是市場的發(fā)展速度。研究人員多年來一直在開發(fā)新的想法和模型;然而，在過去18個月里，人們對人工智能(尤其是GenAI及LLM)的商業(yè)興趣加速增長，而且沒有顯示出放緩的跡象。霍金的建議再貼切不過了。

鑒于人工智能技術(shù)的快速發(fā)展和未經(jīng)測試的有效性，專業(yè)媒體HPCwire采訪了Intersect360 Research的高級分析師史蒂夫?康威(Steve Conway)，請他評論政府監(jiān)管人工智能的努力，以及這些努力可能對高性能計算(HPC)產(chǎn)生的影響。Conway十多年來一直密切關(guān)注人工智能的進展。他就這一主題發(fā)表了大量演講并發(fā)表了大量文章，其中包括與約翰霍普金斯大學(xué)應(yīng)用物理實驗室合作撰寫的美國高級軍事領(lǐng)導(dǎo)人的人工智能入門。

政府對人工智能的監(jiān)管情況如何?

Conway：2024年和2025年將是世界各國政府人工智能監(jiān)管的重要時期。認(rèn)識到最近的進展，特別是生成式人工智能，可以有力地改變社會和經(jīng)濟，政府正在推動旨在使他們成為人工智能領(lǐng)導(dǎo)者的法規(guī)，同時避免有害的潛在風(fēng)險。就人工智能而言，今天的世界處于興奮和擔(dān)憂之間，法規(guī)的語言反映了這兩種情況。當(dāng)你通讀這些文件時，你會產(chǎn)生巨大的熱情和一種控制風(fēng)險的緊迫感，就好像潘多拉的盒子被打開了一樣。

為什么現(xiàn)在監(jiān)管舉措越來越多?

Conway：主流的方法和學(xué)習(xí)模型非常有用，但它們還不夠透明和可靠。這種情況造成了有意或無意濫用的嚴(yán)重可能性。幾年前，我聽了芝加哥大學(xué)的Rebecca Willett的一場精彩演講，講述了人工智能可能會以多種方式引入錯誤和偏見。生成式人工智能引起了人們的擔(dān)憂，尤其是因為它在匯總和組織數(shù)據(jù)時無法區(qū)分事實和虛構(gòu)。

例如，像Google Duplex這樣的超現(xiàn)實機器人被故意設(shè)計成對人類隱藏它們的人工智能本質(zhì)，甚至在對話中插入“嗯”和“啊”。斯坦福大學(xué)的自適應(yīng)智能體小組提出了人工智能體的口令(Shibboleth)規(guī)則。它說，“如果被任何代理人要求，所有自主的人工智能都必須表明自己的身份，無論是人類還是其他東西?！?/p>

這對HPC社區(qū)意味著什么?

Conway:在人工智能研發(fā)的最前沿，HPC幾乎是不可或缺的，幾乎所有的HPC站點都在開發(fā)或探索人工智能，所以一些正在制定的國家人工智能法規(guī)主要針對科學(xué)研究人員和研究人員所謂的前沿人工智能能力，這并不是偶然的。

對HPC廠商有什么特別的影響嗎?

Conway:許多政府監(jiān)管機構(gòu)都在為前沿人工智能能力設(shè)計和交付技術(shù)，我認(rèn)為包括云服務(wù)提供商在內(nèi)的高性能計算供應(yīng)商應(yīng)該密切關(guān)注降低人工智能風(fēng)險的努力，并考慮直接參與這些努力。包括保護知識產(chǎn)權(quán)和對違規(guī)行為進行嚴(yán)重的經(jīng)濟處罰。供應(yīng)商應(yīng)該密切關(guān)注這一點。

這對研究人員來說意味著什么?

Conway：人工智能的透明度問題意味著，研究人員應(yīng)該繼續(xù)注意何時應(yīng)用人工智能，何時讓人類參與其中。對于重要的應(yīng)用程序，也許人工智能的使用通常應(yīng)該是一個中間步驟，而不是最后一步，只要可行，人工智能的結(jié)果就應(yīng)該由人類來驗證。

世界各地的法規(guī)對人工智能的定義是否相似?

Conway：這些定義通常非常廣泛，通常包括廣泛的領(lǐng)域，從科學(xué)研究到社交媒體、消費電子產(chǎn)品、自動駕駛和半自動駕駛、精準(zhǔn)醫(yī)療、電信等許多領(lǐng)域。各國政府不得不認(rèn)真思考，單一機構(gòu)是否能夠勝任管理如此多樣化領(lǐng)域的人工智能法規(guī)和政策。包括美國、中國和英國在內(nèi)的一些政府似乎正朝著單一機構(gòu)的解決方案邁進，而歐盟正在針對不同的領(lǐng)域?qū)で蟛煌谋O(jiān)管方法。

能否簡要介紹一下主要國家和地區(qū)在人工智能監(jiān)管方面的立場?

Conway：當(dāng)然。我將從中國開始，中國率先采取措施，通過《負(fù)責(zé)任的研究行為準(zhǔn)則》對生成式人工智能進行監(jiān)管。除其他事項外，該指導(dǎo)方針指出，在影響公眾的研究資助項目的申請中，必須明確標(biāo)注人工智能的使用。此外，中國國家互聯(lián)網(wǎng)信息辦公室(CAC)對可能威脅社會的前沿人工智能模型采取了許可制度。重要的是，CAC許可有意鼓勵中小企業(yè)、初創(chuàng)企業(yè)和大公司的創(chuàng)新。全世界都擔(dān)心，大公司可能會試圖阻止這種競爭，并在新興的人工智能市場上成為壟斷企業(yè)，在這個市場上，重要的突破可能來自小公司。

在2023年11月的布萊切利宣言中，包括英國、美國、中國、日本以及歐洲、中東和非洲以及亞太地區(qū)的許多國家在內(nèi)的28個國家同意合作管理與前沿人工智能能力相關(guān)的更高風(fēng)險。預(yù)計將于今年或明年生效的《歐盟人工智能法案》(EU AI Act)被視為全球最全面、最嚴(yán)格的人工智能監(jiān)管嘗試，一些企業(yè)指責(zé)該法案扼殺了創(chuàng)新。歐盟法案規(guī)定，對嚴(yán)重違規(guī)者處以公司上一年度收入7%的罰款，罰款金額可能高達數(shù)百萬歐元。

美國總統(tǒng)拜登2023年10月發(fā)布的行政命令對于制定旨在保護隱私和懲罰歧視的潛在人工智能權(quán)利法案的原則非常重要。然而，美國30個州已經(jīng)通過了針對人工智能潛力和風(fēng)險的法律。在美國，從州一級就聯(lián)邦法規(guī)達成共識并不罕見。

日本采取的方法更像美國，而不是歐洲那種更嚴(yán)格的監(jiān)管。2019年，日本政府發(fā)布了“以人為中心的人工智能社會原則”，隨后又發(fā)布了“人工智能戰(zhàn)略2022”。兩者都是為了在人工智能的進步中保護公民和可持續(xù)發(fā)展的社會?！度斯ぶ悄?、機器學(xué)習(xí)和大數(shù)據(jù)法律法規(guī)2023》以數(shù)據(jù)和知識產(chǎn)權(quán)保護為中心，包括法律責(zé)任。

量子計算是另一項具有潛在社會風(fēng)險的轉(zhuǎn)型技術(shù)。政府是否也在制定有關(guān)量子計算的法規(guī)?

Conway：(這個領(lǐng)域)監(jiān)管活動處于早期階段，因為量子計算的廣泛商業(yè)化在未來還很遙遠。美國金融業(yè)監(jiān)管協(xié)會(FINRA)發(fā)布了與網(wǎng)絡(luò)安全和數(shù)據(jù)治理相關(guān)的量子監(jiān)管考慮，其他一些機構(gòu)也在考慮風(fēng)險。不過，目前的緊迫性主要還是與人工智能有關(guān)。例如，在中國，百度和阿里都已將其量子研究設(shè)施移交給政府，以便更加專注于如今在人工智能領(lǐng)域的競爭。對量子計算風(fēng)險的擔(dān)憂可能很快就會變得更加嚴(yán)重。

HPC社區(qū)可以為人工智能做些什么來降低風(fēng)險，使監(jiān)管不會扼殺創(chuàng)新?

Conway：我認(rèn)為所有與人工智能相關(guān)的大學(xué)課程都應(yīng)該無一例外地設(shè)置倫理課程，而且培訓(xùn)應(yīng)該針對人工智能帶來的風(fēng)險。全球許多知名大學(xué)已經(jīng)開設(shè)了人工智能倫理課程，包括劍橋大學(xué)、澳大利亞國立大學(xué)、佐治亞理工學(xué)院、斯坦福大學(xué)、新澤西理工學(xué)院、東京大學(xué)、斯圖加特大學(xué)、北京大學(xué)等。這方面很重要。