編譯丨諾亞

出品 | 51CTO技術(shù)棧（微信號：blog51cto）

今年是美國大選年，兩黨的對決仿佛“昨日再現(xiàn)”，特朗普和拜登再次站在了擂臺之上。選舉效應(yīng)從來牽連甚廣，而蝴蝶的翅膀已然影響到科技圈。

隨著總選舉的臨近，眾多科技企業(yè)在推出AI系統(tǒng)和大模型時都“拘謹(jǐn)”了不少。這種保守態(tài)度并不出人意料，萬一有人蓄意利用這些技術(shù)進(jìn)行錯誤信息傳播，甚至對選舉流程或成果產(chǎn)生影響，那么必會招致政府的嚴(yán)格監(jiān)管。

OpenAI首席技術(shù)官Mira Murati最近證實，大選是影響GPT-5發(fā)布計劃的一個重要因素。她明確表示，公司不會推出任何可能對全球選舉產(chǎn)生不確定影響的產(chǎn)品，并強調(diào)了這一點的重要性。

此外，該公司的語音合成技術(shù)也因其可能誤導(dǎo)選民的風(fēng)險而成為焦點。這無疑讓情況雪上加霜。“我們認(rèn)識到，生成與人們聲音相似的語音存在嚴(yán)重風(fēng)險，尤其是在選舉年份，這一點尤為重要?！?/p>

早在2022年，一條烏克蘭總統(tǒng)澤連斯基的“視頻”被廣泛傳播，在視頻中，澤連斯基呼吁烏克蘭士兵放下武器。從視頻來看，澤連斯基的臉顯得很不自然，這實際是一款用Deepfake做的換頭“視頻”。

無獨有偶。今年2月，還有美國民主黨內(nèi)部人士承認(rèn)曾使用AI模仿總統(tǒng)拜登向選民撥打電話，以阻礙新罕布什爾州的初選。

圖源：央視網(wǎng)

最近，埃隆·馬斯克的AI聊天機器人Grok錯誤地報道了“莫迪總理被驅(qū)逐出印度政府”，引發(fā)了傳播錯誤信息的爭議。這樣的例子不勝枚舉，只是眾多類似情況中的一小部分。

1.不監(jiān)管是問題，過度監(jiān)管也是問題

盡管濫用現(xiàn)象泛濫，但監(jiān)管進(jìn)展卻慢如蝸牛。

斯坦福大學(xué)以人為本AI研究所高級研究員埃里克·布林約爾松近日警告稱，如果不加以緩解，過度監(jiān)管人工智能可能成為問題。

他在接受CNBC采訪時表示：“明智的監(jiān)管是有益的，甚至可以加快技術(shù)的采用并保護(hù)人們免受傷害。然而，同時，過度監(jiān)管可能有害，并減緩技術(shù)的采納?！?/p>

然而，現(xiàn)實可能是我們正急于走向過度監(jiān)管，這可能會使行業(yè)參與者合規(guī)的夢想變得遙不可及。

2.AI監(jiān)管的現(xiàn)實

上周，眾議員亞當(dāng)·希夫向美國眾議院提交了一項法案，要求企業(yè)在訓(xùn)練人工智能系統(tǒng)時報告任何使用版權(quán)材料的情況。

希夫在介紹該法案時說：“人工智能具有顛覆經(jīng)濟(jì)、政治體系和日常生活的潛力。我們必須在人工智能的巨大潛力與制定倫理準(zhǔn)則和保護(hù)措施的迫切需要之間取得平衡?！?/p>

他們確實做到了平衡。希夫的法案并非針對人工智能的第一項監(jiān)管措施，也肯定不是最后一項。僅去年一年，美國政府內(nèi)部就圍繞人工智能監(jiān)管展開了大量活動。

雖然目前尚未出臺全面的法案，各州立法機構(gòu)迅速提出并通過了與人工智能相關(guān)的法案，已有超過18個州制定了相關(guān)法規(guī)，2023年共提出超過400項人工智能法案。

同時，聯(lián)邦層面也已出臺多項措施，包括人工智能權(quán)利法案藍(lán)圖和關(guān)于國家范圍內(nèi)使用人工智能的行政命令。

認(rèn)為人工智能難以監(jiān)管的情緒似乎促使所有人都躍躍欲試。

然而，目標(biāo)始終是制定一項聯(lián)邦法律，而非多部州級法規(guī)。

加利福尼亞州參議員斯科特·維納表示：“我希望能有一項統(tǒng)一的聯(lián)邦法律，有效解決人工智能安全問題。國會尚未通過這樣的法律。國會甚至遠(yuǎn)未接近通過這樣的法律?！?/p>

缺乏聯(lián)邦法律可能會對整個行業(yè)產(chǎn)生嚴(yán)重影響，因為企業(yè)在努力適應(yīng)多部法規(guī)的同時，還要面對國際監(jiān)管。因此，無論是州政府還是企業(yè)自身，都對這樣的法律有著強烈需求。

3.未來的人工智能監(jiān)管

雖然可能性很大，但是否會發(fā)生還很難說。隨著選舉臨近，民主黨和共和黨這兩黨在人工智能相關(guān)問題上卻保持了相似的立場。

民主黨承諾“動員公共和私營部門確保新產(chǎn)品和新發(fā)現(xiàn)受到法律、倫理和公民自由保護(hù)的約束”。

同樣，共和黨也表達(dá)了對人工智能監(jiān)管的支持，盡管兩黨在應(yīng)以何種標(biāo)準(zhǔn)進(jìn)行監(jiān)管的問題上存在分歧。研究表明，盡管兩黨均支持人工智能監(jiān)管，但民主黨尤為關(guān)注倫理問題，而共和黨則關(guān)心人工智能能力與數(shù)據(jù)權(quán)益。

兩位總統(tǒng)候選人過去幾年來也都積極回應(yīng)了該行業(yè)日益增長的重要性。在任期內(nèi)，共和黨候選人特朗普于2020年簽署了一份行政命令，推動行業(yè)內(nèi)創(chuàng)新。   

隨后不久，國家人工智能倡議辦公室成立。

同樣，拜登政府去年也發(fā)布了確保人工智能“安全、可靠和可信”的行政命令。該命令規(guī)定了使用人工智能的安全標(biāo)準(zhǔn)。

然而，這些都是行政命令。兩黨均未承諾實施一套既易于執(zhí)行又易于理解的政策，至今也未見有關(guān)全面政策的討論。

盡管普遍認(rèn)為人工智能難以監(jiān)管，但持續(xù)不作為可能會對整個生態(tài)體系產(chǎn)生嚴(yán)重影響。

隨著行業(yè)迎來重大更新，如OpenAI的GPT-5，新一屆政府如何選擇監(jiān)管，對于這個行業(yè)，是成就還是摧毀，可能就在一念之間。

4.防不勝防，如何警惕

由于公眾人物的影像、聲音和圖像資料公開廣泛可得，為AI的訓(xùn)練提供了豐富的資源，這使得名人成為AI造假的“重災(zāi)區(qū)”。

行業(yè)專家提到，利用深度偽造技術(shù)生成的內(nèi)容在視覺和聽覺上極為逼真，僅憑肉眼或常規(guī)技術(shù)手段很難區(qū)分真?zhèn)?。攻擊者能夠利用技術(shù)手段掩蓋深度偽造的痕跡，使其難以被察覺。

目前，互聯(lián)網(wǎng)上充斥著大量用于訓(xùn)練深度學(xué)習(xí)模型的圖片和視頻數(shù)據(jù)，這些數(shù)據(jù)同樣被深度偽造技術(shù)所利用。“數(shù)據(jù)集越龐大，模型的精準(zhǔn)度越高，偽造內(nèi)容與真實人物的相似度也就越高。”

在明顯標(biāo)識之外，還可以從技術(shù)層面設(shè)計隱性標(biāo)識，這樣在追蹤和溯源時，也能通過技術(shù)手段識別出內(nèi)容的來源或合成途徑。如果能明確來源和合成路徑，那么風(fēng)險自然變得更加可控。

參考鏈接：

??https://analyticsindiamag.com/gpt-5-likely-to-be-released-after-the-us-elections/??

??https://news.cctv.com/2024/01/31/ARTIF8yjxViHGFxsuWPleO20240131.shtml??

本文轉(zhuǎn)載自??51CTO技術(shù)棧??，作者：諾亞