殺豬盤被AI大模型套路，倒貼520塊錢，騙子破大防

作者：機(jī)器之心 2022-12-16 15:11:39

一個(gè)爆梗頻出的 AI，讓騙子破了大防。

提起「殺豬盤」，很多人都恨得牙癢癢。這是一種流行于網(wǎng)絡(luò)上的電信詐騙方式。詐騙分子準(zhǔn)備好人設(shè)、交友套路等「豬飼料」，將社交平臺(tái)稱為「豬圈」，在其中尋找被他們稱為「豬」的詐騙對(duì)象，通過建立戀愛關(guān)系，即「養(yǎng)豬」。最后騙取錢財(cái)，即「殺豬」。

由于詐騙分子身處海外，這種詐騙案件通常很難破獲，受害人的幾十萬甚至上百萬錢財(cái)就這么打了水漂，心理也遭受重創(chuàng)。

B 站 up 主 @圖靈的貓表示，最近他也有幾位朋友遭遇了殺豬盤。于是，他決定「用魔法打敗魔法」：利用一個(gè)用 B 站評(píng)論訓(xùn)練出的 AI 和騙子聊天，看看 AI 如何與騙子斗智斗勇。最終，他不僅沒有損失錢財(cái)，反而從騙子手里賺到了 520 塊錢紅包。

視頻地址：https://www.bilibili.com/video/BV1qD4y1h7io/

為了讓騙子上鉤，作者在多個(gè)社交平臺(tái)注冊(cè)了賬號(hào)，并根據(jù)公安部和反詐中心發(fā)布的受害者畫像，為賬號(hào)定位了單身、多金、高學(xué)歷乖乖女等身份標(biāo)簽。這樣的人設(shè)讓他收獲了大量私信。

為了精準(zhǔn)地識(shí)別出騙子，避免誤傷普通人，只有滿足以下條件的人才會(huì)進(jìn)入與 AI 聊天的環(huán)節(jié)：

最終，有 5 位嫌疑人「脫穎而出」。作者展示了 AI 與其中一位嫌疑人的對(duì)話。

第一天的對(duì)話以「摸清家底」為主，嫌疑人和 AI 都向?qū)Ψ秸故玖俗约旱呢?cái)力。其間，AI 爆梗頻出，連「北京爺吉祥」、「師傅，你是做什么工作的」這種梗都知道。最后，嫌疑人玩了一招欲擒故縱，以「主持公司會(huì)議」為由結(jié)束了對(duì)話。

第二天，嫌疑人開啟了套近乎模式，利用從朋友圈找到的蛛絲馬跡找共同話題，雙方從養(yǎng)貓聊到《了不起的蓋茨比》，又聊到哲學(xué)。

對(duì)于這些話題，AI 大部分都能接住，但偶爾也會(huì)露出馬腳，比如在談到《了不起的蓋茨比》時(shí)會(huì)機(jī)械地給出百科信息。不過，嫌疑人似乎并沒有深究這些破綻。

第四天，嫌疑人開始把話題往戀愛方向引，企圖確立關(guān)系。這時(shí)，爆點(diǎn)來了：由于嫌疑人的一句話觸發(fā)了關(guān)鍵詞「只因」，AI 直接拋出了爆梗——「小黑子，露出雞腳了吧」。

然而，嫌疑人還是沒有懷疑……

就這么聊了三周之后，嫌疑人放出了大招：給紅包。對(duì)此，AI 欣然收下并客套了幾句。

但當(dāng)嫌疑人裝可憐，想從 AI 這里得到些關(guān)心時(shí)，AI 的回應(yīng)顯得有些無厘頭。

不過，嫌疑人還是沒有起疑，而是繼續(xù)秀人設(shè)，而 AI 則是繼續(xù)用梗聊天。

最終，圖窮匕見，嫌疑人開始假裝困難，企圖騙 AI 投錢。

在 AI 堅(jiān)持說自己沒錢的過程中，嫌疑人還會(huì)使出各種手段。

在發(fā)現(xiàn)騙術(shù)無法得逞之后，嫌疑人還企圖讓 AI 刪除聊天記錄，以增加警察辦案的難度。

最終，嫌疑人破防，拒收 AI 的所有信息，對(duì)話到此結(jié)束。

當(dāng)然，這種用魔法打敗魔法的事情之前也發(fā)生過。此前，小米手機(jī)上的小愛同學(xué)因?yàn)榻釉p騙電話上過熱搜，在 MIUI 內(nèi)置設(shè)有 AI 通話功能，在通話設(shè)置選項(xiàng)里開啟防騷擾后，若騷擾電話被記錄黃頁且該騷擾電話打進(jìn)來時(shí)，小愛同學(xué)會(huì)自動(dòng)幫機(jī)主接聽，有時(shí)候還能幫你跟騙子聊上好幾分鐘。

用 AI 接騷擾電話看起來就是此類問題的最終解決方法，只不過事物的發(fā)展講究一個(gè)螺旋上升，后來騷擾電話一方也用上了 AI，變成了 AI 對(duì)打，再后來大模型來了，雙方的互動(dòng)變得更加精彩。這個(gè)爆梗頻出的 AI，背后也是由大模型來支撐的。

與騙子斗智斗勇的 AI，背后是如何做到的？

該 AI 是基于源 1.0，其是浪潮人工智能研究院推出的一款中文巨量語言模型，具有 2457 億參數(shù)，包含全球最大的中文數(shù)據(jù)集——5.02TB。源 1.0 可以完成多項(xiàng)任務(wù)，包括對(duì)話、續(xù)寫故事，新聞生成…… 最主要的是，它是開源的。

地址：https://air.inspur.com/

模型搞定了，圖靈的貓又面臨一個(gè)新問題。由于微信聊天是多輪對(duì)話形式，而對(duì)于 AI 來說，它們往往不記得自己或?qū)Ψ缴弦痪湔f了什么，聊起天來前言不搭后語的，很容易讓人懷疑對(duì)方是不是真人。

為了解決這一問題，圖靈的貓表示他參考了序列模型中 LSTM 思想，為系統(tǒng)增加了記憶機(jī)制，這樣一來 AI 能夠?qū)崿F(xiàn)簡(jiǎn)單的長(zhǎng)短期對(duì)話記憶，比如昨天聊過的內(nèi)容、上一輪聊過的內(nèi)容，AI 都會(huì)進(jìn)行參考。

此外，為了讓 AI 說出的話更像真人，圖靈的貓還加入了一種基于 Prompt Example 的先驗(yàn)規(guī)則，引導(dǎo) AI 來針對(duì)性地學(xué)習(xí)如何交流，尤其是在給定詐騙場(chǎng)景的任務(wù)下。

其中 example 語料主要抽取自 B 站和貼吧的熱門評(píng)論，這樣一來，AI 可以學(xué)習(xí)網(wǎng)友的金句和梗，使得在雙方對(duì)話過程中沒有那么生硬。

最后，圖靈的貓使用開源的 Wechaty 框架在云上搭建后端，基于本地的 python 腳本調(diào)用 puppet 服務(wù)，讓 AI 無縫接入微信。只要登錄預(yù)先注冊(cè)好的微信號(hào)，AI 就可以回復(fù)任意私聊或群聊了。

在這當(dāng)中，為了保證 AI 足夠擬人，圖靈的貓還是花了一點(diǎn)心思，做了很多小技巧。比如讓這個(gè) AI 發(fā)布以假亂真的朋友圈；對(duì)每條信息的回復(fù)設(shè)置一下間隔；模擬人類真實(shí)的打字速度；會(huì)用一些聊天表情替換文字（還不支持表情包）；當(dāng)對(duì)方一口氣說了很多話時(shí)，AI 會(huì)進(jìn)行連續(xù)語句拼接，讀取成一句話，然后進(jìn)行回復(fù)。一番優(yōu)化下來，這個(gè) AI 反手從騙子手里賺回 520 塊錢。