AI聊天工具正逐漸占據辦公室場景，但隱私成本幾何?用戶在聊天界面中常感到匿名，可能會在未意識到風險的情況下分享個人數據。網絡犯罪分子也發現了同樣的漏洞，AI聊天對話中分享的信息最終引發重大數據泄露事件可能只是時間問題。

當工作場所工具缺乏監管時

專家警告稱，用戶在使用ChatGPT或Gemini等平臺時應保持警惕，因為看似簡單的交流仍可能留下持久的數據痕跡。在分享個人或敏感信息前，用戶應牢記，除非主動提出要求，否則這些對話可能會被存儲并用于訓練未來的模型。

這些風險在公司內部已初見端倪。Concentric AI發現，在2025年上半年，Microsoft Copilot等生成式AI工具平均每家企業暴露了約300萬條敏感記錄。這很大程度上是因為員工在未經批準的系統之外使用AI工具，導致內部數據暴露且缺乏有效監控。

一些報告顯示，員工使用的AI工具中，多達80%是在沒有IT或安全團隊監督的情況下運行的。據Harmonic Security稱，企業每季度向生成式AI工具上傳約1.3GB的文件，其中約20%的文件包含敏感數據。

因此，大多數企業現在都將生成式AI視為主要的IT問題，主要問題涉及數據泄露和模型操縱。

從私人提示到公開結果

這一問題不僅限于公司內部系統。研究表明，一些最常用的AI平臺會收集敏感用戶數據，并將其分享給第三方。用戶對其信息的存儲或再利用方式知之甚少，對其生命周期的控制也極為有限。

這引發了一個重要問題：人們與聊天機器人分享的信息會發生什么?

在一個案例中，用戶公開分享鏈接后，這些鏈接被谷歌搜索引擎索引，共享的ChatGPT聊天內容出現在了谷歌搜索結果中。盡管私人分享功能仍然可用，但OpenAI隨后移除了使這些鏈接可被搜索的功能。這并非個例。谷歌搜索結果中也出現了數十萬條Grok對話。

最近一項研究旨在了解聊天機器人能記住多少信息，以及它們能多準確地描述對用戶的了解。研究結果顯示，在普通交流中，個人細節很容易被泄露，這引發了人們對這些數據能保留多久以及如何被再利用的擔憂。

影子AI的興起

商業領域中一個更令人擔憂的趨勢是影子AI的使用日益增多，員工為了更快完成任務而使用未經批準的工具。這些系統通常在沒有公司監督的情況下運行，導致敏感數據在不知不覺中泄露到公共平臺。

大多數員工承認，他們未經批準就通過這些工具分享信息，而IT領導者則指出數據泄露是最大的風險。盡管安全團隊認為影子AI是一個嚴重問題，但員工往往認為其風險較低，或認為為了方便而付出這樣的代價是值得的。

Tanium的首席安全顧問Tim Morris表示：“我們正看到一種風險更高的影子AI形式，即各部門對現有的生成式AI工具不滿，開始使用DeepSeek等開源模型構建自己的解決方案。”

DeepSeek發布后不久，便迅速在個人和專業領域得到應用。早期，專家就開始指出其使用帶來的隱私和安全風險，例如，美國海軍已禁止其人員將該工具用于工作相關任務。特別令人擔憂的是，用戶數據可能存儲在中國的服務器上，而中國在數據訪問和監管方面適用不同的法律。

責任始于意識

公司需要更好地幫助員工了解如何安全地使用AI工具。這對于處理敏感信息的團隊來說尤為重要，無論是醫療數據還是知識產權。任何數據泄露都可能造成嚴重后果，從損害公司聲譽到導致巨額罰款。

Ivanti的首席法律顧問兼人力資源與安全高級副總裁Brooke Johnson表示：“AI治理只有在可執行時才有效。首先，要承認無論是否得到批準，AI很可能已在你的組織中得到應用。進行評估以了解正在使用哪些工具，以及哪些工具符合你的標準。

然后，制定實用的政策，明確何時以及如何應用AI。為團隊配備易于訪問且安全的經過審核的平臺，減少對未經批準的替代方案的依賴。”