去年，生成式人工智能的采用率急劇上升。雖然該技術有望實現創新和生產力，但數據安全和泄露的風險卻困擾著組織。與生成式人工智能相關的一些風險包括數據濫用、數據泄露和數據中毒。這是因為生成式人工智能是一種大型語言模型(LLM)，它依賴于大量數據來產生輸出。隨著人工智能的日益普及和發展，理解和減輕固有風險對組織來說變得越來越重要。

與人工智能相關的三大風險

大多數生成式人工智能風險源于用戶如何提出提示以及工具如何收集、存儲和處理信息。以下是與生成式人工智能工具相關的三個主要風險。

數據泄露風險

生成式人工智能系統通過大型數據集和用戶提供的提示來學習和改進。提示用于立即分析，并且通常保留在人工智能的后端中，以供將來的訓練和模型優化。它們也經常由人類操作員進行分析。這帶來了無意中暴露敏感信息的潛在風險。

與此類人工智能工具交互的員工，可能會在不知不覺中在提示中泄露機密或敏感細節。例如，最近發生的一起事件顯示，三星員工將機密代碼上傳到ChatGPT，從而暴露了企業最敏感的信息。他們還使用ChatGPT創建會議記錄和總結業務報告，無意中泄露了機密信息。

雖然這只是一個例子，但在很多情況下，員工在不知情的情況下將敏感信息上傳到人工智能軟件，使企業的數據面臨風險。

人工智能工具中的漏洞

與任何軟件一樣，生成式人工智能工具也不能免受安全漏洞的影響。這些漏洞可能會給用戶數據和更廣泛的系統安全帶來重大風險。一些潛在的違規行為包括：

數據泄露：人工智能系統存儲大量信息數據集，如果黑客利用漏洞，并滲透托管生成人工智能工具的計算機系統或網絡，這些信息可能會面臨風險。這樣，黑客就可以訪問敏感數據，包括用戶生成的提示、企業內部文檔等。

模型操縱：惡意行為者可能操縱人工智能模型，可能導致有偏見或不準確的輸出、錯誤信息活動或有害內容。

數據中毒或竊取

生成式人工智能模型嚴重依賴的數據集通常可以從互聯網上抓取，從而使數據容易受到數據中毒和竊取。

數據中毒是指惡意威脅行為者將誤導性或錯誤的數據注入現有的訓練集中，從而破壞或操縱人工智能的學習過程。這可能會導致有偏見、不準確甚至有害的用戶輸出。

當人工智能組織缺乏足夠的數據存儲和安全措施時，可能會發生數據竊取，從而可能暴露敏感的用戶信息或專有知識產權。這些被盜數據可用于各種惡意目的，例如身份盜竊。

使用生成式人工智能帶來的另一個困境是黑客利用該技術進行威脅。黑客使用生成式人工智能發起高度復雜的網絡釣魚攻擊，用戶無法區分合法電子郵件和黑客編寫的電子郵件，從而導致網絡攻擊。威脅行為者還利用人工智能進行深度虛假攻擊，利用合法機構的面部表情、聲音或音頻來操縱目標采取某些行動或泄露敏感信息。

如何降低生成式人工智能風險？

組織可以通過以下幾種方式減輕生成式人工智能風險并安全地利用該技術。

教育員工：最關鍵的一步是教育員工了解使用人工智能工具的潛在風險。對收集、處理和存儲信息的教育可以使他們正確地進行提示。組織可以通過制定人工智能使用指南并提及該行業所需的合規性或監管指南來防止數據泄露和其他相關攻擊。

進行法律審查：每個人工智能工具都有其規定。這些需要由組織的法律部門進行審查，以確保它們保持一致。對于金融服務或醫療保健等受到嚴格監管的行業來說，這一點更為重要。法律團隊可以就數據收集、存儲和使用條款和條件向公司發出警告，并查看它們是否與公司一致。

保護用于訓練人工智能的數據和數據集：數據安全應該是構建自己的生成人工智能工具的組織的首要任務。他們必須優先考慮符合預期目的的數據，并避免在數據選擇時引入偏見或敏感信息。匿名信息也至關重要，因為它可以最大限度地降低識別個人的風險，同時保留人工智能模型的數據實用性。組織還應通過建立明確的數據治理策略和訪問控制機制來優先考慮數據安全措施，以限制只有授權人員才能訪問敏感數據。

建立零信任系統：組織可以通過采用零信任安全模型，僅向需要執行任務的特定員工授予對敏感數據和信息的訪問權限。這種精細控制顯著減少了整體攻擊面，并防止了心懷不滿的員工或意外錯誤可能導致操作人工智能工具時數據泄露或盜用的情況。

結論

生成式人工智能憑借其自動化任務、生成獨特內容和個性化用戶體驗的能力，有可能徹底改變行業。然而，它也伴隨著固有的風險。其中包括數據隱私問題、偏見和濫用的可能性。

通過預防措施來應對風險，而不是阻止生成式人工智能的使用，將使組織能夠充分利用這項技術。通過實施強有力的安全措施、促進負責任的數據治理實踐和優先考慮用戶教育，可以減輕這些風險。