有消息顯示，Google已于近日悄悄禁止了其在 Colaboratory（Colab）服務(wù)上的深度偽造（Deepfake）項目，這代表以Deepfake為目的大規(guī)模利用平臺資源的時代或已畫上句號。

眾所周知，Colab是一個在線計算資源平臺，允許研究人員直接通過瀏覽器運行Python代碼，同時使用包括GPU在內(nèi)的免費計算資源來支持自己的項目。正由于GPU的多核特性，Colab是類似Deepfake模型機器學(xué)習(xí)項目或執(zhí)行數(shù)據(jù)分析理想選擇。

經(jīng)過一定訓(xùn)練，人們將Deepfake技術(shù)用于在視頻片段中交換面孔，并添加真實的面部表情，幾乎能夠以假亂真。然而，這項技術(shù)時常被用于傳播假新聞，制作復(fù)仇色情片，抑或用于娛樂目的。在實際運用中缺乏倫理限制一直是這項技術(shù)存在爭議的根源。

Deepfake遭禁

根據(jù)互聯(lián)網(wǎng)資料館網(wǎng)站archive.org的歷史數(shù)據(jù)，這項禁令出臺于本月的早些時候，Google Research部門悄悄將Deepfake列入了禁止項目的名單中。

正如DFL軟件開發(fā)者“chervonij”在Discord社區(qū)平臺上所指出的那樣，那些現(xiàn)在仍嘗試在 Colab平臺上訓(xùn)練deepfake的用戶會收到這樣一條錯誤報告：

“您可能正在執(zhí)行不被允許的代碼，這可能會限制你未來使用Colab的權(quán)限。關(guān)于更多禁止行為的信息，請留意我們的常見問題解答(FAQ)文檔。”

分析人士預(yù)計，這一項新限制措施將在Deepfake世界中產(chǎn)生非常深遠的影響，因為目前有許多用戶都在運用Colab的預(yù)訓(xùn)練模型來啟動他們的高分辨率項目。即使對于那些沒有編碼背景的人來說，Colab也可以讓項目過程變得很平滑，這也就是為何那么多教程都建議用戶運用Google的“免費資源”平臺來啟動自己的Deepfake項目。

資源的濫用

目前尚不清楚Google執(zhí)行這項禁令是出于道德考慮還是由于項目所使用的免費計算資源被濫用。

Colab成立的初衷是對那些為了實現(xiàn)科學(xué)目標(biāo)需要成千上萬資源的研究人員提供幫助，這在當(dāng)下這個GPU短缺的年代是尤為重要的。

然而卻事與愿違，有報道顯示，一些用戶正在利用平臺的免費資源大規(guī)模創(chuàng)建Deepfake模型，這在很長一段時間內(nèi)都占用了Colab的大量可用資源。

以下是不被允許項目的完整列表：

• 與Colab交互式計算無關(guān)的文件托管、媒體服務(wù)或其他Web服務(wù)產(chǎn)品
• 下載種子或進行點對點文件共享
• 使用遠程桌面或 SSH服務(wù)
• 連接到遠程代理
• 加密貨幣挖礦
• 運行拒絕服務(wù)攻擊
• 密碼破解
• 使用多個帳戶解決訪問或資源使用限制
• 創(chuàng)建Deepfakes

不難看出，所有這些被禁止的項目都遠沒有資格進行常規(guī)科學(xué)研究。盡管有些項目屬于合理使用的范疇，但Google發(fā)現(xiàn)被濫用的情況要遠遠多于合理使用的情況。

參考來源：https://www.bleepingcomputer.com/news/technology/google-quietly-bans-deepfake-training-projects-on-colab/