最近，美國(guó)以O(shè)penAI、谷歌為首的七家科技巨頭公司聯(lián)合宣布——

為所有AI生成的內(nèi)容中嵌入水印。

或許，天天被DeepFake騙的團(tuán)團(tuán)轉(zhuǎn)的日子，要一去不復(fù)返了！

七大巨頭聯(lián)手給AI加水印

還記得十幾年前，總有人在各種論壇各種吹噓。

別人不信，就會(huì)評(píng)論，無(wú)圖無(wú)真相。

再往后，發(fā)圖片視頻都不一定100%可信，因?yàn)楸娝苤瑘D片可以p，視頻可以剪輯。

再再往后，生成式AI爆火，別說(shuō)圖片了，視頻能生成，音頻能生成，文本能生成。

都不是剪輯、p圖那么簡(jiǎn)單，而是從0到1直接生成，極盡絲滑。

我不禁想問(wèn)，這世上還有真的東西嗎！（氣抖冷）

好在，這種情況要得到改善了。

OpenAI、微軟、谷歌、Meta、亞馬遜、Anthropic和Inflection等七家科技巨頭公司宣布，將會(huì)開(kāi)發(fā)出一種水印技術(shù)，添加在所有由AI生成的內(nèi)容上面。

美國(guó)政府表示，這項(xiàng)技術(shù)將有助于在未來(lái)更安全地分享AI生成的文本、圖像、音頻，以及視頻，還不會(huì)在真實(shí)性上誤導(dǎo)別人。

目前，對(duì)于不同形式的生成品分別如何嵌入水印這一點(diǎn)，尚不明確。

但功能是確定的——嵌入后，用戶(hù)就可以知道當(dāng)前生成品的來(lái)歷，是哪個(gè)生成式AI工具搞出來(lái)的。

而真正讓七巨頭做出行動(dòng)的原因，還是用戶(hù)和政策制定者們極高的關(guān)注程度。

上面那張?zhí)乩势毡蛔サ腄eepFake（熟悉的朋友肯定都知道，是個(gè)套圖），就是由Midjourney前段時(shí)間生成的。

雖說(shuō)那張圖片不管從內(nèi)容還是構(gòu)圖來(lái)說(shuō)，都假的離譜，但是Midjourney還是為此封禁了一些賬號(hào)。

理由就是傳播虛假照片。

那些圖片的作者就曾表示，如果當(dāng)時(shí)有個(gè)水印，估計(jì)后果就不會(huì)有那么嚴(yán)重了。

畢竟，生成搞笑梗圖從動(dòng)機(jī)上來(lái)講絕大部分就是為了好玩。

可是梗圖好玩，假音頻假視頻可就不好玩了。

今年已經(jīng)看過(guò)太多新聞，AI語(yǔ)音生成軟件偽造家人的音頻，騙錢(qián)騙財(cái)。

據(jù)FBI統(tǒng)計(jì)，AI生成的DeepFake在勒索案中已經(jīng)成為了不可忽視的因素，尤其是跟性相關(guān)的勒索。

更不用說(shuō)屢屢登上熱搜的GPT寫(xiě)論文了。

只能說(shuō)，DeepFake已經(jīng)進(jìn)入到多模態(tài)的方方面面，而水印的添加可以天然隔開(kāi)真和假，構(gòu)筑起一道障壁，杜絕混淆視聽(tīng)。

OpenAI在官博中表示，將會(huì)研發(fā)一種水印機(jī)制，加入到視頻或音頻中。還會(huì)開(kāi)發(fā)一種檢測(cè)工具，判斷特定內(nèi)容是否含有系統(tǒng)創(chuàng)建的工具或API。

谷歌也表示，除了水印以外，還會(huì)有其它創(chuàng)新型技術(shù)，把關(guān)信息推廣。

拜登政府還將創(chuàng)建一個(gè)基金會(huì)，確保對(duì)于AI的所有發(fā)展，都要先有承諾和保證，再推廣落地，避免風(fēng)險(xiǎn)。

科技巨頭公司還同意在AI系統(tǒng)發(fā)布前對(duì)其進(jìn)行內(nèi)部和外部的雙重測(cè)試，并加大對(duì)網(wǎng)絡(luò)安全的投資，在整個(gè)行業(yè)共享信息，以幫助降低AI的風(fēng)險(xiǎn)

Meta的全球事務(wù)總裁Nick Clegg也呼應(yīng)了OpenAI，稱(chēng)科技公司的承諾是確保為AI建立負(fù)責(zé)任的護(hù)欄的重要一步。

簽署自愿承諾書(shū)

2023年7月21日，白宮主導(dǎo)并召集了七家領(lǐng)先的人工智能公司——亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和 OpenAI，一起商討如何實(shí)現(xiàn)「人工智能技術(shù)安全、可靠和透明的發(fā)展」。

會(huì)后這些公司均已與白宮達(dá)成一致，并發(fā)表了自愿承諾書(shū)。

這些公司做出的承諾，強(qiáng)調(diào)了人工智能未來(lái)發(fā)展的三個(gè)原則：安全、保障、信任。

這標(biāo)志著在開(kāi)發(fā)負(fù)責(zé)任的人工智能上，人類(lèi)邁出了關(guān)鍵的一步。

承諾書(shū)的內(nèi)容大概包括：

1. 產(chǎn)品公開(kāi)前確保其安全性

1）發(fā)布人工智能系統(tǒng)前，對(duì)人工智能的內(nèi)部、外部進(jìn)行安全測(cè)試。（2家公司承諾）

2）與行業(yè)、政府、民間社會(huì)和學(xué)界共享管理人工智能風(fēng)險(xiǎn)的信息。（全部公司通過(guò)）

2. 搭建「安全第一」的人工智能系統(tǒng)

3）投資網(wǎng)絡(luò)安全和內(nèi)部威脅防護(hù)措施，保護(hù)專(zhuān)有與未發(fā)布模型的權(quán)重，僅在考慮安全風(fēng)險(xiǎn)時(shí)公開(kāi)權(quán)重。（2家公司承諾）

4）建立強(qiáng)大的報(bào)告機(jī)制，鼓勵(lì)第三方對(duì)人工智能系統(tǒng)中的漏洞即時(shí)反饋，迅速發(fā)現(xiàn)并解決問(wèn)題。（2家公司承諾）

3. 贏得公眾的信任

5）開(kāi)發(fā)強(qiáng)大的技術(shù)機(jī)制，確保用戶(hù)能夠識(shí)別人工智能生成的內(nèi)容，如水印系統(tǒng)。（2家公司承諾）

6）公開(kāi)人工智能系統(tǒng)的功能、局限性以及適用范圍，警示人工智能的安全風(fēng)險(xiǎn)和社會(huì)風(fēng)險(xiǎn)等。（2家公司承諾）

7）優(yōu)先研究人工智能系統(tǒng)帶來(lái)的社會(huì)風(fēng)險(xiǎn)，如避免有害的偏見(jiàn)、歧視以及保護(hù)隱私。

并推出專(zhuān)門(mén)的人工智能來(lái)減輕這些危險(xiǎn)。（2家公司承諾）

8）開(kāi)發(fā)和部署前沿人工智能系統(tǒng)，解決如從癌癥預(yù)防到緩解氣候變化等社會(huì)問(wèn)題和挑戰(zhàn)。（2家公司承諾）

OpenAI在21日當(dāng)天也在網(wǎng)站上發(fā)布了自愿承諾書(shū)：https://openai.com/blog/moving-ai-governance-forward

內(nèi)容與白宮中的聲明基本一致，但具體闡述更加細(xì)致。并特意指出了承諾書(shū)中的特定模型的所指——僅適用于總體上比當(dāng)前行業(yè)前沿更強(qiáng)大的生成模型。

例如，總體上比任何當(dāng)前發(fā)布的模型更強(qiáng)大的模型，包括 GPT-4、Claude 2、PaLM 2、Titan 以及圖像生成DALL-E 2等。

如何加水印

前段時(shí)間，來(lái)自馬里蘭大學(xué)的研究人員提出了一種高效的水印技術(shù)，可以讓合成文本在很短的token跨度（僅需25個(gè)token）內(nèi)被檢測(cè)到，同時(shí)誤報(bào)率（將人類(lèi)文本誤判為機(jī)器生成）極低。

水印是文本中的隱藏模式，對(duì)人類(lèi)來(lái)說(shuō)是不可察覺(jué)的，但可以通過(guò)算法識(shí)別為合成文本。

論文地址：https://arxiv.org/pdf/2301.10226.pdf

眾所周知，AI語(yǔ)言模型的工作原理是對(duì)逐個(gè)單詞進(jìn)行預(yù)測(cè)和生成。

在每個(gè)單詞之后，水印算法會(huì)隨機(jī)將語(yǔ)言模型的詞匯分成「綠色列表」和「紅色列表」，然后提示模型選擇綠色列表中的單詞。

在一段文字中，如果綠色列表中的單詞越多，那么這段文字很可能是由機(jī)器生成的。而由人寫(xiě)的文字往往會(huì)包含更隨機(jī)的單詞組合。

舉個(gè)栗子，對(duì)于單詞「美麗」，水印算法可以將「花」歸類(lèi)為綠色，將「蘭花」歸類(lèi)為紅色。采用帶有水印算法的AI模型則更有可能使用「花」這個(gè)詞，而不是「蘭花」。

概括來(lái)說(shuō)，水印算法所具備的特性如下：

- 水印可以在沒(méi)有任何模型參數(shù)知識(shí)或訪問(wèn)語(yǔ)言模型API的情況下，通過(guò)算法進(jìn)行檢測(cè)。這一特性使得檢測(cè)算法可以開(kāi)源，即使模型不是。這也使得檢測(cè)變得廉價(jià)且快速，因?yàn)闊o(wú)需加載或運(yùn)行LLM。

- 可以使用標(biāo)準(zhǔn)語(yǔ)言模型生成帶有水印的文本，無(wú)需重新訓(xùn)練。

- 水印可以從生成文本的連續(xù)部分中檢測(cè)出來(lái)。這樣，即使只使用生成的一部分來(lái)創(chuàng)建更大的文檔，水印仍然是可檢測(cè)的。

- 如果不修改相當(dāng)比例的生成token，就無(wú)法去除水印。

- 可以用嚴(yán)格的統(tǒng)計(jì)方法來(lái)衡量水印是否被檢測(cè)到。

雖然馬里蘭大學(xué)提出的方法，仍有一些問(wèn)題尚未解決。例如，在流媒體環(huán)境下，或者當(dāng)短跨度的水印文本位于較長(zhǎng)的非水印文本中時(shí)，測(cè)試水印的最佳方法是什么？

但研究人員認(rèn)為，他們實(shí)驗(yàn)的結(jié)果足以證實(shí)，水印可以成為對(duì)抗惡意使用生成模型的實(shí)用工具。

至于剩下的問(wèn)題，就留給未來(lái)的研究了。