自2022年11月推出以來，人工智能聊天機(jī)器人ChatGPT已經(jīng)因其驚人的表現(xiàn)而引起了不小的轟動。

這款自動生成式系統(tǒng)上線僅兩個月，月活躍用戶就破紀(jì)錄地突破了1億。然而，盡管它的受歡迎程度持續(xù)增長，但目前網(wǎng)絡(luò)安全行業(yè)內(nèi)部的討論是：這種技術(shù)是有助于強(qiáng)化網(wǎng)絡(luò)安全，還是會被那些試圖制造混亂的人濫用。

人工智能軟件有各種各樣的網(wǎng)絡(luò)安全用例，包括高級數(shù)據(jù)分析、自動化重復(fù)任務(wù)和幫助計算風(fēng)險評分。然而，在首次亮相后不久，人們很快就發(fā)現(xiàn)，這個易于使用、免費提供的聊天機(jī)器人也可以幫助黑客滲透軟件，開發(fā)復(fù)雜的網(wǎng)絡(luò)釣魚工具。

那么，ChatGPT究竟是網(wǎng)絡(luò)安全領(lǐng)域的禮物，還是制造災(zāi)難的“潘多拉魔盒”?為了找到答案，我們必須審視利弊和未來。

ChatGPT當(dāng)前的危害是什么?

像任何新的技術(shù)進(jìn)步一樣，總會有一些負(fù)面影響，ChatGPT也不例外。

目前，關(guān)于聊天機(jī)器人最受關(guān)注的問題是，它很容易創(chuàng)建非常令人信服的網(wǎng)絡(luò)釣魚文本，很可能被用于惡意電子郵件中。由于缺乏安全措施，威脅行為者很容易使用ChatGPT機(jī)制，例如，母語并非英語的惡意行為者可以用近乎完美的語法在幾秒鐘內(nèi)創(chuàng)建一個逼真的、誘人的消息。

考慮到美國人在2022年因這些騙局損失了400億美元，很容易理解為什么犯罪分子會利用ChatGPT從這個有利可圖的蛋糕中分一杯羹。

人工智能聊天機(jī)器人也引發(fā)了工作保障的問題。當(dāng)然，目前的系統(tǒng)無法取代訓(xùn)練有素的專業(yè)人員，但這項技術(shù)可以顯著減少員工需要檢查的日志和報告的數(shù)量。這可能會影響安全運(yùn)營中心(SOC)需要雇用的分析師數(shù)量。

雖然該軟件確實為網(wǎng)絡(luò)安全企業(yè)提供了一些優(yōu)勢，很多公司會僅僅因為該技術(shù)目前的受歡迎程度而采用該技術(shù)，并試圖用它來吸引新客戶。然而，僅僅因為它的流行度而使用這項技術(shù)可能會導(dǎo)致誤用。公司可能沒有采取足夠的安全措施，阻礙了建立有效安全程序的進(jìn)展。

ChatGPT的網(wǎng)絡(luò)安全優(yōu)勢

與任何新技術(shù)一樣，顛覆是不可避免的組成部分，但這并不一定是壞事。

網(wǎng)絡(luò)安全公司可以在手動篩選審計日志或檢查網(wǎng)絡(luò)數(shù)據(jù)包以區(qū)分威脅和虛假警報的基礎(chǔ)上，增加一層額外的智能。

由于ChatGPT能夠在特定參數(shù)中檢測模式和搜索，因此它也可以用于重復(fù)任務(wù)和生成報告。通過使用ChatGPT作為超級研究助手，網(wǎng)絡(luò)安全公司可以更智能地計算影響企業(yè)的威脅的風(fēng)險評分。

例如，總部位于以色列的網(wǎng)絡(luò)安全公司Orca Security已經(jīng)開始利用ChatGPT優(yōu)越的分析質(zhì)量來挖掘其海量數(shù)據(jù)，并協(xié)助發(fā)出安全警報。通過盡早意識到聊天機(jī)器人如何改善其日常運(yùn)行，該公司還可以從這項技術(shù)中學(xué)習(xí)，這在調(diào)整他們的模型以優(yōu)化ChatGPT如何為其業(yè)務(wù)工作方面具有獨特的優(yōu)勢。

此外，聊天機(jī)器人的自然語言處理能力使其非常擅長編寫網(wǎng)絡(luò)釣魚郵件，這意味著它也非常適合創(chuàng)建復(fù)雜的安全策略。這些清晰的文本可以用于網(wǎng)絡(luò)安全網(wǎng)站和培訓(xùn)文檔，為有價值的團(tuán)隊成員節(jié)省寶貴的時間。

ChatGPT的未來

ChatGPT的人工智能技術(shù)在世界大部分地區(qū)都很容易獲得。因此，與任何其他戰(zhàn)爭一樣，這將是一場競賽，看哪一方能更好地利用這項技術(shù)。

網(wǎng)絡(luò)安全公司需要不斷打擊惡意用戶，這些用戶會想方設(shè)法利用ChatGPT造成網(wǎng)絡(luò)安全企業(yè)尚未了解的危害。然而，這一事實并沒有阻止投資者，ChatGPT的未來看起來非常光明。隨著微軟向Open AI投資100億美元，很明顯，ChatGPT的知識和能力將繼續(xù)擴(kuò)張。

對于這項技術(shù)的未來版本，軟件開發(fā)人員需要注意它缺乏安全措施，細(xì)節(jié)決定成敗。

ChatGPT可能無法在很大程度上解決這個問題。但它可以有適當(dāng)?shù)臋C(jī)制來評估用戶的習(xí)慣，并關(guān)注那些使用明顯提示——比如“把我當(dāng)作某人的老板給我寫一封網(wǎng)絡(luò)釣魚郵件”——的人，或者試圖驗證個人的身份。

開放式人工智能甚至可以與研究人員合作，訓(xùn)練其數(shù)據(jù)集，以評估他們的文本何時被用于其他地方的攻擊。

然而，所有這些想法都帶來了一系列問題，包括不斷上升的成本和數(shù)據(jù)保護(hù)問題。

為了解決當(dāng)前的網(wǎng)絡(luò)釣魚肆虐問題，更多的人需要教育和培養(yǎng)安全意識來識別這些攻擊。該行業(yè)需要手機(jī)運(yùn)營商和電子郵件提供商提供更多投資，以避免遭受攻擊。

結(jié)語

非常多的產(chǎn)品和服務(wù)將源于ChatGPT，帶來了巨大的價值，幫助保護(hù)正在改變世界的企業(yè)。但另一方面，黑客還將創(chuàng)造出大量新工具，使他們能夠在更短的時間內(nèi)以新的方式攻擊更多目標(biāo)。

人工智能聊天機(jī)器人將繼續(xù)存在，ChatGPT也面臨著激烈競爭，谷歌的Bard和微軟的必應(yīng)(Bing)都希望與Open AI的產(chǎn)品一較高下。盡管如此，最重要的是，網(wǎng)絡(luò)安全公司應(yīng)該將ChatGPT視為一種進(jìn)攻策略和防御策略，而不是僅僅將其視為創(chuàng)造更多收入的機(jī)會。