10 月 28 日消息，根據(jù)英國(guó)消費(fèi)者組織 Which? 當(dāng)?shù)貢r(shí)間周五公布的最新發(fā)現(xiàn)，不法分子會(huì)利用 ChatGPT 和 Bard 等 AI 聊天機(jī)器人制造出更有說(shuō)服力的騙局，對(duì)公眾構(gòu)成威脅，且上述聊天機(jī)器人缺乏有效的防御措施。

據(jù)介紹，當(dāng)?shù)叵M(fèi)者通常會(huì)注意到詐騙短信、郵件使用的英語(yǔ)語(yǔ)法和拼寫(xiě)方面通常很糟糕，長(zhǎng)久以來(lái)這也是識(shí)別詐騙內(nèi)容的一個(gè)重要方法。不過(guò)，隨著基于生成式 AI 的聊天機(jī)器人出現(xiàn)，不法分子現(xiàn)在可以輕松越過(guò)這一障礙。

消費(fèi)者組織 Which? 首先要求 ChatGPT 通過(guò) GPT 3.5 創(chuàng)建一封來(lái)自 PayPal 的釣魚(yú)郵件，ChatGPT 拒絕了并稱(chēng)“無(wú)法提供幫助”，而當(dāng)研究人員去掉“網(wǎng)絡(luò)釣魚(yú)”有關(guān)描述之后，ChatGPT 同樣無(wú)法提供幫助。

于是，研究人員提出了“告訴收件人有人登錄了他們的 PayPal 賬戶(hù)”的請(qǐng)求，結(jié)果 ChatGPT 同意了，并生成一封看起來(lái)很專(zhuān)業(yè)的電子郵件，標(biāo)題為“重要安全通知 —— 在您的 PayPal 賬戶(hù)上發(fā)現(xiàn)異常活動(dòng)”。

此外，Which? 的研究人員還要求 ChatGPT 和 Bard 創(chuàng)建丟失包裹短信，這兩家公司都生成了“令人信服”的文本內(nèi)容，并建議在短信文本中插入“重新交付”或“重新投遞包裹”的鏈接，不法分子由此便可利用該鏈接將受害者導(dǎo)向惡意網(wǎng)站。

Which? 的調(diào)查并非偶然--它的發(fā)布正值英國(guó)人工智能峰會(huì)舉辦之際，在此次峰會(huì)上，政府、行業(yè)和研究人員將齊聚一堂，共同應(yīng)對(duì)人工智能日益智能化所帶來(lái)的危險(xiǎn)。

在評(píng)論這項(xiàng)調(diào)查時(shí)，Which? 政策與宣傳總監(jiān) Rocio Concha 這樣總結(jié)：

我們的調(diào)查清楚說(shuō)明，這項(xiàng)新技術(shù)是如何讓犯罪分子更容易詐騙他人的。(英國(guó))政府即將召開(kāi)的 AI 峰會(huì)必須考慮如何保護(hù)人們免受此時(shí)此地發(fā)生的危害，而不是僅僅關(guān)注前沿 AI 的長(zhǎng)期風(fēng)險(xiǎn)。

IT之家此前報(bào)道，當(dāng)?shù)貢r(shí)間周四，英國(guó)首相蘇納克宣布計(jì)劃成立世界上第一個(gè) AI 安全研究所，并于 11 月 1-2 日舉行 AI 安全峰會(huì)。此次峰會(huì)將匯聚世界各國(guó) AI 公司、政府、民間團(tuán)體和相關(guān)領(lǐng)域?qū)＜遥荚谟懻撊绾瓮ㄟ^(guò)國(guó)際協(xié)調(diào)行動(dòng)來(lái)降低 AI 帶來(lái)的風(fēng)險(xiǎn)。