據(jù)統(tǒng)計(jì)，2024 年預(yù)計(jì)將有 50 多個(gè)國(guó)家舉行大選，虛假信息的威脅成為人們關(guān)注的焦點(diǎn)。

人工智能聊天機(jī)器人 ChatGPT 和圖像生成器 DALL-E 的開(kāi)發(fā)商 OpenAI 近日宣布了一項(xiàng)新的措施，以防止在今年大選之前再次出現(xiàn)虛假信息濫用和誤導(dǎo)事件。

本周一(1月15日)，該公司宣布正在與美國(guó)歷史最悠久的無(wú)黨派公職人員專(zhuān)業(yè)組織——全美國(guó)務(wù)卿協(xié)會(huì)（NASS）合作，防止 ChatGPT 在 11 月美國(guó)總統(tǒng)大選前向用戶(hù)輸出一些錯(cuò)誤信息。

例如，當(dāng)被問(wèn)及有關(guān)選舉的問(wèn)題時(shí)，如在哪里投票，OpenAI 的聊天機(jī)器人將引導(dǎo)用戶(hù)訪問(wèn)美國(guó)投票信息的權(quán)威網(wǎng)站 CanIVote.org。該公司認(rèn)為，這項(xiàng)工作的經(jīng)驗(yàn)教訓(xùn)將為我們?cè)谄渌麌?guó)家和地區(qū)的工作提供借鑒。

利用加密水印打擊深度偽造

為了防止深度偽造，OpenAI 還表示將對(duì)其最新版人工智能圖像生成器 DALL-E 3 生成的圖像實(shí)施內(nèi)容出處和真實(shí)性聯(lián)盟（Coalition for Content Provenance and Authenticity，C2PA）的數(shù)字證書(shū)。

C2PA 是聯(lián)合發(fā)展基金會(huì)（Joint Development Foundation）的一個(gè)項(xiàng)目，該基金會(huì)是一家總部位于華盛頓的非營(yíng)利組織，其主要舉措是內(nèi)容真實(shí)性倡議（CAI）和起源項(xiàng)目，通過(guò)實(shí)施加密內(nèi)容出處標(biāo)準(zhǔn)來(lái)應(yīng)對(duì)數(shù)字時(shí)代的虛假信息和操縱行為。

包括 Adobe、X 和《紐約時(shí)報(bào)》在內(nèi)的幾家大公司都是該聯(lián)盟的成員，并積極支持該標(biāo)準(zhǔn)的制定。

OpenAI 表示，它正在試驗(yàn)一種出處分類(lèi)器，這是一種用于檢測(cè)由 DALL-E 生成的圖像的新工具。據(jù)其內(nèi)部測(cè)試顯示，即使圖像經(jīng)過(guò)常見(jiàn)類(lèi)型的修改，早期結(jié)果也很有希望。他們計(jì)劃將其提供給第一批測(cè)試者--包括記者、平臺(tái)和研究人員--以征求反饋意見(jiàn)。

谷歌 DeepMind 也開(kāi)發(fā)了類(lèi)似的工具，利用 SynthID 對(duì)人工智能生成的圖像和音頻進(jìn)行數(shù)字水印處理。Meta 也在嘗試為其圖像生成器開(kāi)發(fā)類(lèi)似的水印工具，不過(guò)馬克-扎克伯格的公司很少分享相關(guān)信息。

OpenAI 稱(chēng)在發(fā)布新系統(tǒng)之前會(huì)對(duì)其進(jìn)行紅隊(duì)測(cè)試，讓用戶(hù)和外部合作伙伴參與反饋，并建立安全緩解措施，以降低潛在的危害。

打擊虛假信息具有挑戰(zhàn)性

基于人工智能的文本分析平臺(tái) Copyleaks 的聯(lián)合創(chuàng)始人兼首席執(zhí)行官阿隆-亞明（Alon Yamin）在接受 Infosecurity 采訪時(shí)表示十分鼓勵(lì) OpenAI 致力于打擊虛假信息的行為，但實(shí)施起來(lái)可能具有挑戰(zhàn)性。

他表示，今年的大選被認(rèn)為是近代史上最大的選舉年之一，不僅是在美國(guó)，在全世界范圍內(nèi)，人們都非常擔(dān)心人工智能會(huì)被濫用于政治活動(dòng)等，這種擔(dān)心是完全有道理的。但正如我們多年來(lái)在社交媒體上看到的那樣，由于用戶(hù)群規(guī)模龐大，這些行動(dòng)可能難以實(shí)施。

在英國(guó)，下一次大選應(yīng)在 2024 年年中至 2025 年 1 月之間舉行，信息專(zhuān)員辦公室（ICO）于 1 月 15 日啟動(dòng)了關(guān)于生成式人工智能的系列咨詢(xún)。