FBI近日警告稱，惡意行為者制作深度虛假內(nèi)容來(lái)實(shí)施性勒索攻擊的趨勢(shì)正在上升。

性勒索是網(wǎng)絡(luò)勒索形式的其中一種，這些惡意行為者通過公開泄露竊取或脅迫獲得的露點(diǎn)圖像和視頻，來(lái)威脅他們的目標(biāo)，通常是要求這些受害者支付封口費(fèi)。

在許多性勒索案件中，那些泄露的內(nèi)容其實(shí)并非真實(shí)影像，威脅行為者只是假裝自己有訪問權(quán)限，以達(dá)到最終勒索贖金的目的。

FBI警告說，性勒索者現(xiàn)在正在收集他們勒索目標(biāo)的公開圖像，比如發(fā)布在社交媒體平臺(tái)上的無(wú)害圖片和視頻。然后將這些圖像輸入深度偽造內(nèi)容創(chuàng)建工具，將其轉(zhuǎn)化為人工智能生成的露骨色情內(nèi)容。

雖然制作的圖像或視頻都不是真實(shí)的，但它們看起來(lái)非常真實(shí)，威脅行為者只要將這些材料發(fā)送給勒索目標(biāo)的家人，同事等，極可能給受害者帶來(lái)巨大的個(gè)人和聲譽(yù)傷害。

截至2023年4月，F(xiàn)BI發(fā)現(xiàn)性勒索受害者報(bào)告使用虛假圖像或視頻的情況有所增加，而這些圖像或視頻均是基于他們?cè)谏缃幻襟w網(wǎng)站或網(wǎng)頁(yè)上發(fā)布的內(nèi)容創(chuàng)建的，或者是在視頻聊天中捕獲的。

根據(jù)最近的受害者報(bào)告，惡意行為者通常要求：

• 付款(如金錢、禮品卡)，并威脅如果未收到資金，將圖像或視頻分享給家人或社交媒體朋友；
• 受害者發(fā)送真實(shí)的性主題圖片或視頻；

FBI表示，有一些勒索者會(huì)跳過勒索部分，直接將制作好的視頻發(fā)布到色情網(wǎng)站，在受害者不知情或未經(jīng)其同意的情況下，將受害者暴露在大量觀眾面前。

在某些情況下，性勒索者還會(huì)利用這些公開上傳的內(nèi)容來(lái)增加受害者的壓力，要求其支付從網(wǎng)站上刪除發(fā)布的圖像/視頻的費(fèi)用。

FBI報(bào)告稱，不幸的是這種媒體操縱活動(dòng)也影響到了未成年人。

如何保護(hù)自己

強(qiáng)大的人工智能內(nèi)容創(chuàng)建工具正在高速迭代，提供便利的同時(shí)也為所有互聯(lián)網(wǎng)用戶創(chuàng)造了一個(gè)充滿敵意的環(huán)境，尤其是那些敏感類別的用戶。

比如，通過GitHub有多個(gè)免費(fèi)的內(nèi)容創(chuàng)建工具項(xiàng)目，它可以從目標(biāo)面部的單個(gè)圖像創(chuàng)建逼真的視頻，不需要額外的訓(xùn)練或數(shù)據(jù)集。

這些工具中有許多都內(nèi)置了防止濫用的保護(hù)措施，但那些在地下論壇和暗網(wǎng)市場(chǎng)上出售的工具卻沒有。

暗網(wǎng)上提供的色情創(chuàng)作工具（來(lái)源：卡巴斯基）

FBI建議父母監(jiān)控孩子的在線活動(dòng)，并告訴他們?cè)诰€分享個(gè)人信息的風(fēng)險(xiǎn)。此外，家長(zhǎng)最好隔一段時(shí)間就在網(wǎng)上搜索一次，以確定他們的孩子在網(wǎng)上的曝光量，并在必要時(shí)采取行動(dòng)刪除內(nèi)容。

在網(wǎng)上發(fā)布圖片或視頻的成年人應(yīng)該限制在一個(gè)小的私人朋友圈內(nèi)觀看，以減少曝光。同時(shí)，孩子的臉應(yīng)該盡量模糊處理。

最后，如果你在色情網(wǎng)站上發(fā)現(xiàn)了與你相關(guān)的AI虛假合成內(nèi)容，請(qǐng)向有關(guān)部門報(bào)告，并聯(lián)系托管平臺(tái)，要求刪除違規(guī)媒體。

英國(guó)最近以《在線安全法案》(Online Safety Bill)修正案的形式引入了一項(xiàng)法律，將未經(jīng)同意分享深度造假的行為正式列為一種犯罪行為。