ChatGPT推出后，生成式人工智能模型的迅速采用，有望從根本上改變企業(yè)開展業(yè)務，以及與客戶和供應商互動的方式。

生成式人工智能可以支持廣泛的業(yè)務需求，例如編寫營銷內(nèi)容、改善客戶服務、生成軟件應用源代碼以及生成業(yè)務報告。生成式人工智能工具的眾多好處，尤其是降低成本以及提高工作速度和質(zhì)量，鼓勵企業(yè)和個人在工作中測試這些工具的功能。

然而，與任何新興技術一樣，快速實施可能存在風險，為威脅行為者利用企業(yè)的漏洞打開了大門。在當今復雜的IT威脅環(huán)境中，未經(jīng)仔細考慮就使用生成人工智能工具，可能會給企業(yè)帶來災難性的后果。

與在企業(yè)環(huán)境中使用生成式人工智能相關的安全風險

了解在企業(yè)環(huán)境中使用生成式人工智能的潛在風險對于從該技術中受益、同時保持監(jiān)管合規(guī)性和避免安全漏洞至關重要。在規(guī)劃生成式AI部署時，請牢記以下風險。

1、員工暴露敏感工作信息

在企業(yè)環(huán)境中，用戶應該謹慎對待與他人共享的任何數(shù)據(jù)，包括ChatGPT和其他人工智能聊天機器人。

最近最引人注目的事件是，三星員工將敏感信息與ChatGPT共享而導致的數(shù)據(jù)泄露。三星的工程師將機密源代碼上傳到ChatGPT模型，此外還使用該服務創(chuàng)建會議記錄和匯總包含敏感工作相關信息的商業(yè)報告。

三星案件只是向人工智能聊天機器人，泄露敏感信息的廣為人知的例子之一。許多其他使用生成式人工智能工具的公司和員工，可能會因泄露敏感工作信息而犯類似的錯誤，例如內(nèi)部代碼、版權材料、商業(yè)秘密、個人身份信息(PII)和機密商業(yè)信息。

OpenAI針對ChatGPT的標準政策是將用戶記錄保留30天，以監(jiān)控可能的濫用情況，即使用戶選擇關閉聊天歷史記錄也是如此。對于將ChatGPT集成到其業(yè)務流程中的企業(yè)來說，這意味著員工的ChatGPT帳戶可能包含敏感信息。因此，成功入侵員工ChatGPT帳戶的威脅行為者，可能會訪問這些用戶的查詢和人工智能響應中，包含的任何敏感數(shù)據(jù)。

2、人工智能工具中的安全漏洞

與任何其他軟件一樣，生成式人工智能工具本身也可能存在漏洞，使企業(yè)面臨網(wǎng)絡威脅。

例如，3月份，OpenAI將ChatGPT下線，以修復聊天機器人開源庫中的一個錯誤，該漏洞使一些用戶能夠從另一個活躍用戶的聊天歷史中看到聊天標題。如果兩個用戶在同一時間處于活動狀態(tài)，也可以在其他人的聊天記錄中看到新創(chuàng)建對話的第一條消息。

此外，同樣的漏洞還泄露了在特定時間段內(nèi)活躍的1.2%的ChatGPTPlus用戶的支付相關信息，包括客戶的姓名、電子郵件地址和信用卡號碼的最后四位數(shù)字。

3、數(shù)據(jù)中毒和盜竊

生成式人工智能工具必須輸入大量數(shù)據(jù)才能正常工作。這些培訓數(shù)據(jù)來自各種來源，其中許多數(shù)據(jù)可以在互聯(lián)網(wǎng)上公開獲取，并且在某些情況下，可能包括企業(yè)之前與客戶的互動。

在數(shù)據(jù)中毒攻擊中，威脅行為者可以操縱人工智能模型開發(fā)的預訓練階段。通過向訓練數(shù)據(jù)集中注入惡意信息，攻擊者可以影響模型的預測行為，從而導致錯誤或其他有害的響應。

另一個與數(shù)據(jù)相關的風險涉及威脅行為者，竊取用于訓練生成人工智能模型的數(shù)據(jù)集。如果沒有足夠的數(shù)據(jù)訪問加密和控制，模型訓練數(shù)據(jù)中包含的任何敏感信息，都可能對獲取數(shù)據(jù)集的攻擊者可見。

4、違反合規(guī)義務

在企業(yè)環(huán)境中使用人工智能驅(qū)動的聊天機器人時，IT領導者應評估以下與違反相關法規(guī)相關的風險：

不正確的響應

人工智能工具有時會給出錯誤或膚淺的答案。使顧客接觸到誤導性的信息，除了對企業(yè)的聲譽產(chǎn)生負面影響外，還可能引起法律責任。

數(shù)據(jù)泄露

員工可以在與人工智能聊天機器人對話期間，共享敏感的工作信息，包括客戶的個人身份信息或受保護的健康信息(PHI)。這反過來又可能違反GDPR、PCIDSS和HIPAA等監(jiān)管標準，面臨罰款和法律訴訟的風險。

偏見

人工智能模型的反應有時會表現(xiàn)出基于種族、性別或其他受保護特征的偏見，這可能違反反歧視法。

違反知識產(chǎn)權和版權法

人工智能驅(qū)動的工具經(jīng)過大量數(shù)據(jù)的訓練，通常無法準確地提供其響應的特定來源。其中一些培訓數(shù)據(jù)可能包括受版權保護的材料，例如書籍、雜志和學術期刊。在沒有引用的情況下，使用基于受版權保護的作品的人工智能輸出，可能會讓企業(yè)受到法律罰款。

關于聊天機器人使用的法律

許多企業(yè)已經(jīng)開始將ChatGPT和其他生成式人工智能工具，集成到他們的應用中，其中一些企業(yè)使用人工智能驅(qū)動的聊天機器人，來立即回答客戶的詢問。但在不提前告知客戶的情況下這樣做，可能會受到機器人信息披露法等法規(guī)的處罰。

數(shù)據(jù)隱私

一些企業(yè)可能想要開發(fā)自己的生成式人工智能模型，這個過程可能需要收集大量的訓練數(shù)據(jù)。如果威脅行為者成功破壞企業(yè)IT基礎設施，并獲得對訓練數(shù)據(jù)的未經(jīng)授權的訪問，則受損數(shù)據(jù)集中包含的敏感信息的暴露，可能會違反數(shù)據(jù)隱私法。

生成人工智能的關鍵業(yè)務挑戰(zhàn)影響人員、流程和技術。除了安全性之外，生成式人工智能還帶來了算法偏差、幻覺和技術復雜性等挑戰(zhàn)。

在企業(yè)中使用生成式AI工具時的安全最佳實踐

為了解決與生成人工智能相關的眾多安全風險，企業(yè)在實施生成人工智能工具時應牢記以下策略。

1、在構建或集成生成式人工智能之前對數(shù)據(jù)進行分類、匿名和加密

企業(yè)應該對數(shù)據(jù)進行分類，然后再將其輸入聊天機器人或使用它來訓練生成式人工智能模型。確定哪些數(shù)據(jù)對于這些用例是可接受的，并且不與AI系統(tǒng)共享任何其他信息。

同樣，對訓練數(shù)據(jù)集中的敏感數(shù)據(jù)進行匿名化，以避免泄露敏感信息。加密人工智能模型的數(shù)據(jù)集及其所有連接，并通過強大的安全策略和控制保護企業(yè)最敏感的數(shù)據(jù)。

2、對員工進行生成式人工智能安全風險培訓，并制定內(nèi)部使用政策

員工培訓是降低生成式人工智能相關網(wǎng)絡攻擊風險的最重要的保護措施。為了負責任地實施生成式人工智能，企業(yè)必須讓員工了解與使用該技術相關的風險。

企業(yè)可以通過制定安全和可接受的使用政策，來制定工作中生成式人工智能的使用指南。盡管具體情況因企業(yè)而異，但一般的最佳實踐是需要人工監(jiān)督。不要自動信任人工智能生成的內(nèi)容;人類應該審查和編輯人工智能工具創(chuàng)建的所有內(nèi)容。

人工智能的使用和安全策略還應該明確指出，在對聊天機器人的查詢中可以包含哪些數(shù)據(jù)，哪些數(shù)據(jù)是不允許的。例如，開發(fā)者不應該將知識產(chǎn)權、版權材料、PII或PHI添加到AI工具中。

3、為安全提供生成式人工智能工具

針對生成式人工智能工具進行安全審計和定期滲透測試，以便在將其部署到生產(chǎn)環(huán)境之前識別安全漏洞。

安全團隊還可以通過向人工智能工具，提供網(wǎng)絡攻擊示例來訓練人工智能工具識別和抵御攻擊嘗試。這降低了黑客成功利用企業(yè)人工智能系統(tǒng)的可能性。

4、管理員工對敏感工作數(shù)據(jù)的訪問

在企業(yè)環(huán)境中應用最小權限原則，僅允許授權人員訪問AI訓練數(shù)據(jù)集和底層IT基礎設施。

使用身份和訪問管理工具可以幫助集中和控制員工的訪問憑證和權限。同樣，實施多因素身份驗證，可以幫助保護人工智能系統(tǒng)和數(shù)據(jù)訪問。

5、確保底層網(wǎng)絡和基礎設施安全

在專用網(wǎng)段上部署AI系統(tǒng)。使用單獨的網(wǎng)段，限制對主機AI工具的訪問，可以增強安全性和可用性。

對于在云中托管人工智能工具的企業(yè)，請選擇一家信譽良好的云提供商，該提供商實施嚴格的安全控制并具有有效的合規(guī)性認證，確保與云基礎設施的所有連接均已加密。

6、密切關注遵從性需求，包括定期審核供應商

合規(guī)性法規(guī)在不斷發(fā)展，隨著企業(yè)人工智能采用的增加，組織可能會看到更多與生成式人工智能技術相關的合規(guī)性要求。

企業(yè)應密切關注影響其行業(yè)的合規(guī)法規(guī)，以了解與人工智能系統(tǒng)使用相關的任何變化。作為此過程的一部分，當使用第三方供應商的人工智能工具時，請定期檢查供應商的安全控制和漏洞評估。這有助于確保供應商系統(tǒng)中的任何安全漏洞不會滲透到企業(yè)的IT環(huán)境中。