近日，倫敦帝國(guó)理工學(xué)院研究小組提出一種新的算法，能在不改變圖像內(nèi)容的情況下，輕松騙過圖像內(nèi)容掃描算法，使得人眼看起來相同的照片在算法面前顯得不同。這其中就包括蘋果的CSAM掃描算法。

[[434677]]

什么是CSAM掃描算法?

CSAM(兒童性虐待材料)是蘋果公司今年早些時(shí)候推出的一份提案，具體內(nèi)容是為了阻止非法圖像的傳播，蘋果公司專門開發(fā)了一項(xiàng)算法，對(duì)用戶私下分享和保存在 iCloud 云端的照片，利用算法進(jìn)行哈希值比對(duì)。一旦與第三方CSAM數(shù)據(jù)庫中的照片比對(duì)成功，蘋果將選擇屏蔽這張照片，甚至報(bào)警。

因?yàn)槲唇?jīng)授權(quán)訪問用戶圖片信息嚴(yán)重侵犯了用戶隱私，該項(xiàng)提案推出不久便遭到用戶及媒體的強(qiáng)烈反對(duì)，最終導(dǎo)致該提案在今年9月被撤回。然而蘋果公司并未放棄CSAM，而是將其推廣時(shí)間延遲到2022年，并承諾將對(duì)該算法進(jìn)行進(jìn)一步的改進(jìn)。

圖像掃描算法能精準(zhǔn)檢測(cè)非法圖像嗎?

針對(duì)蘋果提出的CSAM掃描算法能否像它說的那樣，精準(zhǔn)檢測(cè)出非法圖像并進(jìn)行攔截，研究人員在一開始就提出質(zhì)疑。實(shí)際研究結(jié)果表明：無論是蘋果的CSAM還是任何其他圖像掃描算法都不能實(shí)現(xiàn)非法圖像的精準(zhǔn)檢測(cè)。

研究人員解釋說，論文研究針對(duì)基于離散余弦變換的算法，提出兩個(gè)白盒攻擊和一個(gè)黑盒攻擊，成功改變了圖像上的獨(dú)特特征，并幫助它躲過算法掃描。

簡(jiǎn)單而言，僅需要在圖像上應(yīng)用一種特殊的哈希過濾器，就能使兩張人眼看起來相同的圖像在算法檢測(cè)面前顯得不同。

圖片來源：倫敦帝國(guó)理工學(xué)院

如何防止圖像掃描算法”上當(dāng)受騙“?

為保障圖像掃描算法做到”有效“工作，不被算法欺騙，研究人員提出兩種方法：一是擴(kuò)大檢測(cè)閾值;二是在圖像ID匹配達(dá)到某個(gè)閾值后才標(biāo)記用戶。

但這兩種方法都不能從根本上讓圖像掃描結(jié)果變得更可靠，反而會(huì)造成更多問題，比如無可避免地侵犯更多用戶隱私。

參考來源：

https://www.bleepingcomputer.com/news/technology/researchers-show-that-apple-s-csam-scanning-can-be-fooled-easily/