研究表明：蘋果CSAM掃描算法很容易“上當(dāng)受騙”
近日，倫敦帝國理工學(xué)院研究小組提出一種新的算法，能在不改變圖像內(nèi)容的情況下，輕松騙過圖像內(nèi)容掃描算法，使得人眼看起來相同的照片在算法面前顯得不同。這其中就包括蘋果的CSAM掃描算法。
什么是CSAM掃描算法?
CSAM(兒童性虐待材料)是蘋果公司今年早些時候推出的一份提案，具體內(nèi)容是為了阻止非法圖像的傳播，蘋果公司專門開發(fā)了一項算法，對用戶私下分享和保存在 iCloud 云端的照片，利用算法進行哈希值比對。一旦與第三方CSAM數(shù)據(jù)庫中的照片比對成功，蘋果將選擇屏蔽這張照片，甚至報警。
因為未經(jīng)授權(quán)訪問用戶圖片信息嚴(yán)重侵犯了用戶隱私，該項提案推出不久便遭到用戶及媒體的強烈反對，最終導(dǎo)致該提案在今年9月被撤回。然而蘋果公司并未放棄CSAM，而是將其推廣時間延遲到2022年，并承諾將對該算法進行進一步的改進。
圖像掃描算法能精準(zhǔn)檢測非法圖像嗎?
針對蘋果提出的CSAM掃描算法能否像它說的那樣，精準(zhǔn)檢測出非法圖像并進行攔截，研究人員在一開始就提出質(zhì)疑。實際研究結(jié)果表明：無論是蘋果的CSAM還是任何其他圖像掃描算法都不能實現(xiàn)非法圖像的精準(zhǔn)檢測。
研究人員解釋說，論文研究針對基于離散余弦變換的算法，提出兩個白盒攻擊和一個黑盒攻擊，成功改變了圖像上的獨特特征，并幫助它躲過算法掃描。
簡單而言，僅需要在圖像上應(yīng)用一種特殊的哈希過濾器，就能使兩張人眼看起來相同的圖像在算法檢測面前顯得不同。
圖片來源：倫敦帝國理工學(xué)院
如何防止圖像掃描算法”上當(dāng)受騙“?
為保障圖像掃描算法做到”有效“工作，不被算法欺騙，研究人員提出兩種方法：一是擴大檢測閾值;二是在圖像ID匹配達到某個閾值后才標(biāo)記用戶。
但這兩種方法都不能從根本上讓圖像掃描結(jié)果變得更可靠，反而會造成更多問題，比如無可避免地侵犯更多用戶隱私。
參考來源：
https://www.bleepingcomputer.com/news/technology/researchers-show-that-apple-s-csam-scanning-can-be-fooled-easily/
