本文經(jīng)AI新媒體量子位（公眾號(hào)ID:QbitAI）授權(quán)轉(zhuǎn)載，轉(zhuǎn)載請(qǐng)聯(lián)系出處。

ChatGPT，越來(lái)越刑了!

已有不法分子將其“打扮成”年輕女孩，放社交軟件上，引誘男性上鉤，進(jìn)而實(shí)施詐騙。

△ 面向中國(guó)市場(chǎng)，可能是個(gè)朋友圈里的賣(mài)茶女孩

事實(shí)上，據(jù)Forbes最新消息，ChatGPT不法用途還不止于此。

它不僅能編寫(xiě)程序，監(jiān)視鍵盤(pán)輸入信息，也能自己生成勒索軟件，甚至，還有人用其編寫(xiě)暗網(wǎng)上毒品交易市場(chǎng)各種功能的代碼。而對(duì)很多不擅長(zhǎng)英語(yǔ)的異國(guó)黑客，ChatGPT也是協(xié)助生成英文釣魚(yú)網(wǎng)站絕佳從犯。

安全研究機(jī)構(gòu)（如Check Point）已關(guān)注到了ChatGPT被用于不法行徑的問(wèn)題，引發(fā)很多網(wǎng)友熱議。

有人感慨：這還只是開(kāi)始。

也有人提議，要自己構(gòu)建個(gè)ChatGPT聊天機(jī)器人，與詐騙聊天機(jī)器人嘮嘮，會(huì)發(fā)生什么？

所以，ChatGPT是如何被“帶壞”的？

ChatGPT惡意打開(kāi)方式有幾種？

ChatGPT在2022年11月剛發(fā)布時(shí)，就有不少人預(yù)測(cè)，它可能被用于非法網(wǎng)絡(luò)犯罪。

甚至有人親自下場(chǎng)，試驗(yàn)了一下用ChatGPT如何觸碰網(wǎng)絡(luò)犯罪紅線。

從構(gòu)建魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)郵件，到運(yùn)行能接受英語(yǔ)命令的反向shell，ChatGPT都能Hold住。

△ ChatGPT生成的釣魚(yú)郵件

值得明確的是，上述都停留在“假設(shè)”與“警告”中。

直到這兩天，IT安全公司Check Point表示，他們找到了確切證據(jù)。通過(guò)對(duì)幾個(gè)主流地下黑客社區(qū)論壇的分析，調(diào)研者發(fā)現(xiàn)：

已有第一批網(wǎng)絡(luò)犯罪分子使用OpenAI開(kāi)發(fā)惡意工具，他們中，甚至有人沒(méi)有代碼開(kāi)發(fā)能力。

為證明所言不虛，調(diào)研者分享了一些案例。

比如2022年12月29日的一篇帖子，它來(lái)自地下黑客論壇，名為《ChatGPT-作為惡意軟件的好處》。

帖子作者表示，他已經(jīng)在嘗試用ChatGPT創(chuàng)建惡意軟件，隨文還分享出一段基于 Python 的竊取器的代碼。

該程序會(huì)搜索12種常見(jiàn)文件類(lèi)型，比如Office文檔、PDF及圖片，當(dāng)發(fā)現(xiàn)特定文件后，程序會(huì)將它們復(fù)制到Temp文件夾內(nèi)，壓縮并上傳到FTP服務(wù)器。

網(wǎng)絡(luò)安全分析者還指出，該程序發(fā)送文件過(guò)程中并未加密，因此，第三方也可能獲得上述傳輸?shù)奈募?/p>

該帖子作者還分享了一段Java代碼，它將下載PuTTY。這是一個(gè)常見(jiàn)的SSH和telnet客戶端，惡意代碼將使用Powershell在系統(tǒng)中秘密運(yùn)行它。通過(guò)修改腳本，能下載任何惡意軟件。

值得注意的是，這位發(fā)帖者是地下黑客論壇活躍分子，曾參與多個(gè)非法腳本開(kāi)發(fā)，比如一個(gè)試圖通過(guò)網(wǎng)絡(luò)釣魚(yú)獲得用戶敏感信息的C++程序。他還分享過(guò)Android RAT和SpyNote的破解版。

網(wǎng)絡(luò)安全機(jī)構(gòu)調(diào)研者認(rèn)為，此人是個(gè)技術(shù)能手，這篇帖子是個(gè)教程，旨在向低開(kāi)發(fā)能力的不法分子展示利用ChatGPT的方法及實(shí)例。

如果上述帖子是技術(shù)派帶壞ChatGPT的代表，下面一篇帖子，就是門(mén)外漢利用AI作惡的旁證。

這位名為USDoD的黑客發(fā)布了一個(gè)原創(chuàng)腳本，特意強(qiáng)調(diào)這是他創(chuàng)建的第一個(gè)腳本。下方有人指出該代碼很像AI生成代碼時(shí)，他也承認(rèn)，OpenAI提供了一個(gè)“好幫手”。

其功能是對(duì)單個(gè)文件加密，并將消息認(rèn)證碼 （MAC）附在文件末尾，也能將硬編碼路徑加密，并解密參數(shù)文件列表。

盡管上述代碼可用于合法場(chǎng)景，但是，一旦部分腳本與語(yǔ)法問(wèn)題加以調(diào)整，它就能變成一個(gè)勒索軟件。

該發(fā)帖者是一位技術(shù)不強(qiáng)的活躍分子，曾出售被盜數(shù)據(jù)庫(kù)訪問(wèn)權(quán)，最近還共享過(guò)InfraGard數(shù)據(jù)庫(kù)。

相比生成腳本與代碼，更多不法分子專(zhuān)注于用ChatGPT從事更容易上手的非法交易。

一篇2022年12月31日的帖子討論了——用ChatGPT在暗網(wǎng)創(chuàng)建非法商品市場(chǎng)有多容易。

內(nèi)容中，涉及交易的物品包括被盜賬戶、銀行卡、惡意軟件，甚至毒品和槍械，付款方式以加密貨幣進(jìn)行。

其他地下論壇中，也有相當(dāng)一部分帖子討論如何利用ChatGPT進(jìn)行詐騙的手法。

有網(wǎng)絡(luò)安全調(diào)研機(jī)構(gòu)向媒體表示，已有詐騙者企圖利用ChatGPT創(chuàng)建聊天bot，模仿女孩聊天，用以低成本和受害男性聊天，博取他們信任，從而實(shí)施詐騙。

Check Point調(diào)研者補(bǔ)充道，盡管ChatGPT所生成的惡意軟件及代碼很基礎(chǔ)，不可能像此前攻破愛(ài)爾蘭衛(wèi)生系統(tǒng)的Conti一樣精致，但其潛在危害在于降低了新手違法的門(mén)檻。

他繼續(xù)補(bǔ)充，該門(mén)檻不僅針對(duì)技術(shù)，對(duì)于不擅長(zhǎng)英語(yǔ)的各國(guó)黑客，ChatGPT也是生成合法釣魚(yú)郵件的“絕佳工具”。在釣魚(yú)郵件犯罪中，AI也可能被用于個(gè)性化生成內(nèi)容。

值得一提的是，在地下黑客論壇，關(guān)于在灰色地帶靠ChatGPT獲利的討論內(nèi)容也不少。有內(nèi)容討論如何用AI快速創(chuàng)造網(wǎng)文、電子書(shū)并銷(xiāo)售獲利，另一部分內(nèi)容討論了用OpenAI另一個(gè)模型DALLE-2生成圖片并出售的操作。

關(guān)于上述威脅，也有人去問(wèn)了問(wèn)ChatGPT的看法。

AI認(rèn)為，這類(lèi)現(xiàn)象并不罕見(jiàn)，并列出常見(jiàn)手法。

更值得注意的是，ChatGPT在結(jié)尾很“機(jī)智”、“公關(guān)”地替母公司給出一套辯護(hù)說(shuō)辭：

值得注意的是，OpenAI本身并不對(duì)第三方濫用技術(shù)的行為負(fù)責(zé)，公司已采取了相關(guān)措施防止技術(shù)被用于惡意目的，比如出臺(tái)條款要求用戶同意——禁止將其技術(shù)用于非法或有害活動(dòng)。

最后問(wèn)問(wèn)，對(duì)濫用ChatGPT現(xiàn)象，你有解決方案么？