消費(fèi)者對(duì)生成式人工智能的認(rèn)識(shí)度

消費(fèi)者對(duì)生成式人工智能和深度偽造的認(rèn)識(shí)度很高——52%的受訪者認(rèn)為他們可以檢測(cè)到深度偽造的視頻。這一結(jié)果反映了消費(fèi)者的過度自信，因?yàn)樯疃葌卧煲呀?jīng)達(dá)到了肉眼無法識(shí)別的復(fù)雜程度。

英國金融部門在最近發(fā)布的一份研究報(bào)告中指出，深度偽造的騙局在2022年給英國造成了1.77億英鎊的損失，這一點(diǎn)令人擔(dān)憂。該報(bào)告特別指出，由于使用了生成式人工智能工具，導(dǎo)致拼寫錯(cuò)誤或虛假網(wǎng)站等警告信號(hào)不那么顯著，使其騙局變得越來越難以發(fā)現(xiàn)，這是造成這種情況的原因。

根據(jù)美國聯(lián)邦貿(mào)易委員會(huì)日前發(fā)布的數(shù)據(jù)，美國的消費(fèi)者在2022年因深度偽造騙局損失了26億美元，高于2021年的24億美元。

深度造假的功能變得越來越強(qiáng)大

Jumio公司的數(shù)據(jù)表明，在全球各個(gè)行業(yè)領(lǐng)域，深度偽造的騙局都一直在增長，尤其在支付和加密領(lǐng)域。

Jumio公司的首席技術(shù)官Stuart Wells表示，“很多人似乎認(rèn)為他們可以發(fā)現(xiàn)和檢測(cè)深度偽造。雖然肯定會(huì)發(fā)現(xiàn)一些跡象，但深度偽造的功能變得越來越強(qiáng)大，而且在沒有人工智能技術(shù)的幫助下，消費(fèi)者越來越難以發(fā)現(xiàn)深度偽造的騙局。”

Wells補(bǔ)充說，“雖然企業(yè)將越來越多地需要人工智能技術(shù)來發(fā)現(xiàn)并保護(hù)他們的網(wǎng)絡(luò)和客戶免受深度偽造的侵害，但消費(fèi)者可以通過懷疑對(duì)待挑釁性的圖像、視頻和音頻來保護(hù)自己。一些快速研究通常會(huì)發(fā)現(xiàn)這是否是偽造的。”

身份盜竊問題

隨著消費(fèi)者越來越了解這些技術(shù)，人們也越來越了解它們?nèi)绾伪挥脕碇L身份盜竊。

57%的人認(rèn)為網(wǎng)絡(luò)身份盜竊將因此變得更容易，新加坡消費(fèi)者對(duì)其潛在的有害用途的了解程度最高(73%)。而在墨西哥(62%)、美國(49%)和英國(43%)的消費(fèi)者中的這一比例較低。

Jumio公司的數(shù)字身份主管Philipp Pointner表示：“企業(yè)有責(zé)任讓客戶了解生成式人工智能技術(shù)的細(xì)微差別，幫助他們對(duì)自己檢測(cè)深度偽造的能力產(chǎn)生了更現(xiàn)實(shí)的期望。

與此同時(shí)，即使是最好的網(wǎng)絡(luò)教育也永遠(yuǎn)無法完全阻止欺詐者使用不斷發(fā)展的技術(shù)。企業(yè)必須考慮實(shí)施多模式、基于生物特征的驗(yàn)證系統(tǒng)，以檢測(cè)深度偽造并防止被盜的個(gè)人信息被使用。令人鼓舞的是，研究表明，消費(fèi)者對(duì)這種形式的身份驗(yàn)證有著濃厚的興趣，企業(yè)應(yīng)該迅速采取行動(dòng)。”

68%的消費(fèi)者愿意使用數(shù)字身份在網(wǎng)上進(jìn)行驗(yàn)證。更喜歡數(shù)字身份而不是實(shí)體身份(例如駕照或護(hù)照)的行業(yè)是金融服務(wù)(43%)、政府(38%)和醫(yī)療保健(35%)等行業(yè)。