近日，國際網絡安全專家解釋了人工智能聊天機器人背后的危險，并分享了如何保持安全的建議。

隨著人工智能聊天機器人的興起，企業必須意識到使用ChatGPT技術的風險。這對企業來說可能是一把雙刃劍，在提供自動化和潛在業務收益的同時，也帶來了獨特的威脅。黑客可能會利用ChatGPT=實施更復雜的攻擊，讓用戶更難發現潛在的網絡攻擊。為了避免業務損失，企業組織必須重新評估他們采取的步驟并了解風險。

ChatGPT被越來越多地用作犯罪工具

根據NordVPN的研究，暗網論壇上關于人工智能工具的新帖子數量從1月份的120個激增到2月份的870個，增長了625%。

在暗網論壇上，ChatGPT的帖子數量在一個月內從37個增加到91個，使得機器人開發成為暗網沖浪者中最受歡迎的話題之一。例如，論壇討論包括關于不良行為者如何編寫ChatGPT以生成基本惡意軟件的信息。后來，黑客社區的目標是采取更激進的行動，比如接管聊天機器人的控制權，制造故障，從而造成嚴重破壞。現在，暗網上的用戶都可以輕松獲得諸如“如何破解ChatGPT”、“ChatGPT越獄2.0”、“ChatGPT -惡意軟件的進展”和“ChatGPT作為網絡釣魚工具”等主題的專業知識。

ChatGPT和社會工程

諸如網絡釣魚、詐騙或借口等社會工程攻擊可能很容易被用來竊取有價值的信息。ChatGPT可以生成令人信服的對話或腳本，操縱人們透露機密信息或執行某些任務。此外，使用chatgpt可以很容易地避免措辭糟糕的電子郵件和語法錯誤。這使得來自非英語的國家的人能夠更大規模地參與網絡犯罪，并取得更高的成功率。

泄露敏感信息

今年3月，ChatGPT經歷了一次數據泄露。一個漏洞暴露了用戶的個人信息，比如聊天記錄和銀行卡詳細信息。這些事件證明使用該平臺會帶來很高的隱私風險。這意味著添加到聊天機器人中的任何類型的信息都可能有泄露的風險，特別是當ChatGPT或其他人工智能工具用于營銷目的或編寫電子郵件時。不要忘記，為了讓Chat GPT變得更好，它使用了用戶提供的數據，包括個人或商業信息以及其他重要數據。如果黑客能夠攻破系統，企業將遭受損失。

如何保護企業和員工

預防總是比破壞便宜。使用以下核心原則來保護企業與自身:

1、員工培訓。如上所述，社會工程攻擊正變得越來越復雜。因此，需要更加重視員工培訓。最有效的方法之一是組織網絡攻擊模擬演習，并公開討論結果。

2、制定業務彈性計劃。風險評估對任何公司來說都是必須的——無論大小或行業。請制定一個計劃來應對任何可能出現的挑戰。

3、投資于預防、檢測和緩解威脅。擁有高質量的網絡安全工具，防止威脅，提供網絡分割、識別和訪問管理。對于威脅檢測，維護IDS策略和數據完整性檢查。為了減輕威脅，需要有清晰的事后分析和備份策略。

ChatGPT是一項出色的技術，可以幫助人們自動化任務并提高效率。然而，由于大多數聊天機器人對每個人都可用，使用這種技術進行人眼無法檢測的復雜攻擊的不良行為者也同樣如此。例如，網絡釣魚攻擊現在被完美地翻譯并針對某些市場。此外，在暗網上，甚至ChatGPT也是一個目標，未來可能會導致更多的數據泄露和泄露。對于員工和公司首席執行官來說，最重要的是要對我們輸入這個工具的信息還是公司范圍內的程序持關鍵態度。