我們?nèi)蕴幱谌斯ぶ悄?(AI) 的早期階段，但 AI 正快速成為企業(yè)防御自身的關(guān)鍵方法。利用高級(jí)算法，企業(yè)可以改善事件響應(yīng)，監(jiān)視潛在威脅，識(shí)別威脅信號(hào)。但 AI 的一個(gè)重要優(yōu)勢(shì)被忽略了，人工智能可以發(fā)現(xiàn)人類(lèi)分析師容易忽視的漏洞。

[[311663]]

很多公司企業(yè)都尚未發(fā)揮 AI 在網(wǎng)絡(luò)防御中最為重要的應(yīng)用：缺乏同情心，俗稱(chēng) “沒(méi)人性”。

捕獲你的信任

社會(huì)工程由精于電話或電子郵件技巧的人發(fā)起并執(zhí)行，并不需要高大上的黑客技術(shù)。相反，黑客耍弄的是客服代表或持有所需信息的任何人，騙取雙因子身份驗(yàn)證綁定的手機(jī)號(hào)，或套取有利可圖的游戲賬戶密碼之類(lèi)的信息。FBI 互聯(lián)網(wǎng)犯罪投訴中心聲稱(chēng)，商務(wù)郵件入侵 (BEC)——一種流行的社會(huì)工程方法，僅 2018 年一年就造成了超過(guò) 12 億美元的損失。

盡管銀行和其他高價(jià)值實(shí)體可能是主要目標(biāo)，但沒(méi)人能夠免疫此類(lèi)攻擊。一名婦女在黑客成功迫使其無(wú)線運(yùn)營(yíng)商激活一張新 SIM 卡后，損失了價(jià)值 3 萬(wàn)美元的加密貨幣，因?yàn)槟菑埿驴ū挥糜诒I取她各類(lèi)金融賬戶的雙因子身份驗(yàn)證憑證。另一起事件中，Ubiquiti Networks 遭黑客假冒其高級(jí)員工，說(shuō)服其財(cái)務(wù)部門(mén)完成了大筆資金轉(zhuǎn)賬，損失了 3,910 萬(wàn)美元。

甚至就連獎(jiǎng)勵(lì)計(jì)劃這么無(wú)傷大雅的東西，都有可能招來(lái)惡意黑客的興趣。公司企業(yè)目前通過(guò)培訓(xùn)員工，設(shè)置員工應(yīng)該隨時(shí)遵從的一系列規(guī)程，來(lái)處理該問(wèn)題。

但遺憾的是，網(wǎng)絡(luò)安全鏈中最弱的一環(huán)并不是防火墻，而往往是人本身。客戶服務(wù)業(yè)務(wù)中希望取悅對(duì)方的那些人。他們往往不照著腳本辦事兒，還容易受話術(shù)高明的騙子影響。只要黑客聲稱(chēng)自己遺失了酒店積分卡，申請(qǐng)?jiān)侔l(fā)一張到家中，然后問(wèn)資料中留的是哪個(gè)地址，服務(wù)臺(tái)工作人員可能就為他效勞了。于是，陌生人就掌握了特定客戶的私人信息。

切斷通路

如果在客服人員之前先遇到的是人工智能，尤其是對(duì)話式 AI，那結(jié)果可能就完全不一樣了。全球比較大的游戲公司之一最先體驗(yàn)了這種方式，決定使用對(duì)話式 AI 作為前端聊天代理。該公司以諸多成功視頻游戲版本而聞名，部署了 Amelia 接管客戶的簡(jiǎn)單游戲問(wèn)題。該公司覺(jué)得 Amelia 可以減少客戶等待問(wèn)題解決的時(shí)間，Amelia 也確實(shí)實(shí)現(xiàn)了該公司的這一目的。但工作一段時(shí)間后，Amelia 還注意到通話者有時(shí)候會(huì)在沒(méi)有正確識(shí)別信息的情況下索要賬戶訪問(wèn)權(quán)，由此檢測(cè)出網(wǎng)絡(luò)釣魚(yú)者。游戲世界中置入了真正的金融功能，綁定了金融賬戶信息，風(fēng)險(xiǎn)是相當(dāng)高的。人類(lèi)客服很容易被誘騙交出賬戶憑證。Amelia 卻絕不會(huì)被煽情故事打動(dòng)。

Amelia 嚴(yán)格遵循公司策略做決策，不會(huì)落入社會(huì)工程技巧的陷阱。她僅僅想要證明你是你自己宣稱(chēng)的那個(gè)人，通過(guò)遵照腳本和在遭遇風(fēng)險(xiǎn)行為時(shí)引入新的身份驗(yàn)證方法來(lái)保證這一點(diǎn)。

初始推出即獲成功，至少部分成功。Amelia 解決客戶投訴的耗時(shí)比人類(lèi)員工要少，還在此基礎(chǔ)之上減少了虛假賬戶使用，但是客戶滿意度下降了。消費(fèi)者怎么會(huì)不喜歡可以阻止他們賬戶信息被盜的 AI 呢?

仔細(xì)看過(guò) Amelia 和客戶在正常聊天和升級(jí)聊天過(guò)程中的對(duì)話轉(zhuǎn)錄后，原因就明朗了。Amelia 嚴(yán)格遵從規(guī)程，不讓自己被黑客牽著鼻子走，黑客就故意給差評(píng)，而游戲公司服務(wù)中心則給她好評(píng)。

實(shí)時(shí)才是王道

即使不在客戶服務(wù)環(huán)境中，對(duì)話式 AI 也能給威脅評(píng)估人員帶來(lái)競(jìng)爭(zhēng)優(yōu)勢(shì)。高級(jí)對(duì)話式 AI 不是定期和離線掃描數(shù)據(jù)或監(jiān)視威脅，它能夠?qū)崟r(shí)分析數(shù)據(jù)和行為，捕獲互動(dòng)上下文。如果用戶想要他的余額，高級(jí)對(duì)話式 AI 會(huì)捕獲其正確含義——在基于他所提供的信息驗(yàn)證了其身份之后。由于數(shù)據(jù)在后端在線處理，前端對(duì)話式 AI 能給人一種真實(shí)的一對(duì)一交流的自然感覺(jué)。

AI 能夠?qū)崟r(shí)評(píng)估對(duì)話，具備處理每個(gè)威脅評(píng)估措辭的能力，是個(gè)非常強(qiáng)大的工具。如果可疑客戶的表現(xiàn)偏離常規(guī)太遠(yuǎn)而構(gòu)成風(fēng)險(xiǎn)，對(duì)話式 AI 能夠識(shí)別出來(lái)，并且采取恰當(dāng)?shù)男袆?dòng)。這些行動(dòng)可能僅僅是增加額外的身份驗(yàn)證步驟那么簡(jiǎn)單。

如果沒(méi)有 AI，那可能就只有在對(duì)話結(jié)束后再審查是否有欺詐的跡象了。那時(shí)惡意黑客都可能已經(jīng)卷款逃走了。但如果是由 AI 而不是由真人來(lái)進(jìn)行對(duì)話，AI 就可以觀察所有發(fā)生的事情，分析每個(gè)詞，圍繞威脅、風(fēng)險(xiǎn)和安全作出實(shí)時(shí)決策。

占據(jù)主導(dǎo)

社會(huì)工程跟基于暴力破解算法的軟件攻擊一樣，都是黑客攻擊之源。無(wú)論攻擊的是酒店、游戲發(fā)行商，還是其他什么機(jī)構(gòu)，黑客總在搜索可以讓他們進(jìn)入目標(biāo)網(wǎng)絡(luò)的信息。但他們無(wú)需執(zhí)行高度復(fù)雜的攻擊來(lái)獲取自身所需;他們只需要一個(gè)動(dòng)人的故事，一點(diǎn)點(diǎn)耐心，和一名愿意破例的客服中心工作人員。

通過(guò)讓對(duì)話式 AI 在前端聊天中占據(jù)主導(dǎo)，公司企業(yè)能夠緩解社會(huì)工程導(dǎo)致的潛在破壞。這項(xiàng)工作可以，也應(yīng)該，在對(duì)客戶干擾盡可能少的情況下實(shí)施。事實(shí)上，你的客戶甚至都不應(yīng)該會(huì)去想對(duì)話另一頭的人是誰(shuí)。他們只應(yīng)該簡(jiǎn)單地輸入查詢(xún)問(wèn)題，然后獲得自己想要的，再繼續(xù)其他事項(xiàng)。畢竟，這種便利性不就是我們?cè)O(shè)想的未來(lái)嗎?