美國政府近期發(fā)布一項(xiàng)新的AI法規(guī)，也讓世界再次把目光放到AI的安全疑慮問題上。

對于開發(fā)大模型的公司來說，這項(xiàng)法規(guī)要求它們向政府提供更多信息，而這可能會減慢新產(chǎn)品和更新的發(fā)布速度。這項(xiàng)法規(guī)中的許多規(guī)定涉及尚未上市的大型基礎(chǔ)模型和AI系統(tǒng)的未來發(fā)展，這就意味著像ChatGPT這種面向消費(fèi)者的工具不太可能受到多大影響。

這項(xiàng)法規(guī)公布后，多家AI公司和行業(yè)領(lǐng)導(dǎo)人也發(fā)表了他們對AI監(jiān)管的看法。其中，15家AI公司作出相應(yīng)的承諾，但AI領(lǐng)域的最大玩家OpenAI卻顯得異常沉默。其他大型公司如Adobe、亞馬遜、谷歌、微軟等也表示支持該法規(guī)。

于是便有指責(zé)聲音稱OpenAI和其他大型AI企業(yè)試圖通過游說，對AI行業(yè)實(shí)施“監(jiān)管捕獲”。超過70位AI領(lǐng)導(dǎo)者還發(fā)表了一份聯(lián)合聲明，呼吁對AI監(jiān)管采取更透明的方法。一場圍繞AI監(jiān)管的口水戰(zhàn)也就此展開。

前NSA黑客、IANS Research的教員 Jake Williams 表示：“我不認(rèn)為我們可能會看到對消費(fèi)者可用的生成式AI工具的任何直接變化。”

Meta首席AI科學(xué)家Yann LeCun在X上指責(zé)OpenAI、Anthropic和Google子公司DeepMind利用恐懼宣傳來確保有利的結(jié)果。

Sam Altman則表示，雖然這項(xiàng)規(guī)定中有一些好的部分，但政府在實(shí)施時(shí)不應(yīng)拖慢小公司或研究團(tuán)隊(duì)的創(chuàng)新速度。他表示支持對“前沿系統(tǒng)”或大型基礎(chǔ)模型進(jìn)行規(guī)范，但是反對“監(jiān)管俘獲”。

其實(shí)，AI可能造成的問題早已受到國際社會的廣泛關(guān)注。早在今年10月，聯(lián)合國就成立了一個(gè)高級別人工智能咨詢機(jī)構(gòu)，專門針對AI技術(shù)帶來的風(fēng)險(xiǎn)和機(jī)遇進(jìn)行探討，同時(shí)為國際社會加強(qiáng)治理提供支持。中國科學(xué)院自動化研究所研究員曾毅與中國政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒成為我國在該機(jī)構(gòu)的代表。

本月初，英國政府主辦的人工智能安全峰會（AI Safety Summit）上，美國、中國、歐盟等28個(gè)國家的代表和企業(yè)簽署了《布萊切利人工智能安全宣言》，這份宣言重申了“以人為中心、可信任的和負(fù)責(zé)任的”（human-centric, trustworthy and responsible）AI發(fā)展模式，呼吁國際社會的合作，并強(qiáng)調(diào)AI的實(shí)施以保障人權(quán)和實(shí)現(xiàn)聯(lián)合國可持續(xù)發(fā)展目標(biāo)為目的。

曾毅在峰會的發(fā)言中表示，雖然先進(jìn)人工智能有可能通過解決當(dāng)前健康、教育、環(huán)境、科學(xué)等領(lǐng)域的未解挑戰(zhàn)，但創(chuàng)造這些好處的人工智能系統(tǒng)，本身的屬性也成了巨大的風(fēng)險(xiǎn)來源。當(dāng)規(guī)模更大、不確定性更大的模型向所有人開放時(shí)，誤用、濫用問題將不僅是人工智能科學(xué)家面臨的挑戰(zhàn)，也是全世界面臨的挑戰(zhàn)。他還提出，我們需要建立一個(gè)涵蓋全世界的人工智能安全網(wǎng)絡(luò)，以解決不可預(yù)知的進(jìn)展和失敗。

國際社會、科技巨頭和AI公司對AI技術(shù)都表現(xiàn)出一種謹(jǐn)慎的態(tài)度，但是在另一邊，華爾街的人工智能軍備競賽仍在升溫。先鋒集團(tuán)（Vanguard）已經(jīng)在使用人工智能生成退休投資組合；摩根士丹利已經(jīng)推出了由ChatGPT驅(qū)動的金融顧問助手，稱生成式AI會“革命性地改變客戶互動”；摩根大通為名為“IndexGPT”的產(chǎn)品申請了專利，以幫助交易員決定投資方向……華爾街似乎一直難掩對AI的喜愛。

摩根大通首席執(zhí)行官Jamie Dimon表示，他相信這項(xiàng)技術(shù)在未來將非常重要，并在今年4月份致股東的一封信中稱：“AI和為其提供動力的原始材料——數(shù)據(jù)，將對我們公司的未來成功至關(guān)重要。”根據(jù)他們公司2月份的一項(xiàng)調(diào)查，他的同行也有同樣的感覺，調(diào)查顯示，有一半的機(jī)構(gòu)交易員相信，在接下來的三年中，AI將是華爾街最具影響力的技術(shù)。

高盛信息科技總監(jiān)Marco Argenti表示，人工智能“可能是我見過的最巨大的革命之一， 我們相信，人工智能不僅可以深刻顛覆我們的行業(yè)，而且可以顛覆所有數(shù)碼、所有信息科技和知識行業(yè)。”

AI已經(jīng)滲透到銀行的“每一個(gè)角落和縫隙”，包括法律、交易、貸款、索賠甚至電子郵件管理，倫敦Evident公司的經(jīng)濟(jì)學(xué)家Alexandra Mousavizadeh表示，華爾街——尤其是大型美國銀行——在AI方面表現(xiàn)出“巨大的熱情”和“毫不猶豫”，這導(dǎo)致他們急于聘請具有AI技術(shù)經(jīng)驗(yàn)的人員。她聲稱：“如今銀行的每一項(xiàng)工作都受到AI的影響。”

Giuseppe Sette是前對沖基金經(jīng)理，現(xiàn)在是Toggle AI的總裁，該組織試圖訓(xùn)練大型語言模型來處理財(cái)務(wù)問題。他說，將指揮權(quán)交給一個(gè)人工智能系統(tǒng)只是時(shí)間問題：“由于便利和效率的法則，總有一天我們會給予這些系統(tǒng)權(quán)限。”

不過金融監(jiān)管部門就沒那么樂觀了，華爾街對AI的狂熱引起了SEC主席Gary Gensler的注意，他在接受《金融時(shí)報(bào)》的一次采訪中表達(dá)了對人工智能融入金融服務(wù)行業(yè)的擔(dān)憂。Gensler認(rèn)為，這一被大肆宣傳的技術(shù)在未來十年內(nèi)導(dǎo)致金融危機(jī)的可能性“幾乎是不可避免的”。

Gensler擔(dān)心的是，大量的金融機(jī)構(gòu)會開始圍繞“相同的基礎(chǔ)模型或基礎(chǔ)數(shù)據(jù)聚合器”重新設(shè)計(jì)其策略，他擔(dān)心這可能導(dǎo)致華爾街出現(xiàn)從眾心態(tài)，進(jìn)而造成危險(xiǎn)的后果。Gensler表示，這對監(jiān)管部門來說將是一個(gè)“艱難的金融穩(wěn)定問題”，因?yàn)榛A(chǔ)模型可能不是基于金融公司，而是基于“大型技術(shù)公司”，從而導(dǎo)致整個(gè)行業(yè)出現(xiàn)“橫向問題”。

不過一些研究人員和金融AI領(lǐng)域的人員表示，雖然Gensler的擔(dān)憂有道理，但可能過于夸張。哈佛商學(xué)院的Robin Greenwood教授表示，研究表明，金融危機(jī)的“根本原因”“通常”是信貸泡沫，而不是技術(shù)創(chuàng)新。但他也認(rèn)同，AI的確也有可能在未來成為“潛在的觸發(fā)因素”。

歐洲大學(xué)學(xué)院的金融穩(wěn)定教授和佛羅倫薩銀行和金融研究所的資深研究員Thorsten Beck也同意這一觀點(diǎn)，他說：“盡管信貸泡沫可能是金融危機(jī)的主要原因，但其他因素也可能是危機(jī)的觸發(fā)因素。從這個(gè)角度看，Gary Gensler的擔(dān)憂不無道理。”

科技大佬、金融機(jī)構(gòu)和監(jiān)管部門這場圍繞AI監(jiān)管的口水戰(zhàn)仍在持續(xù)的當(dāng)下，已經(jīng)有公司打算采取行動了。也許是為了規(guī)避新規(guī)的影響，這家名為“Del Complex”的公司做出一項(xiàng)另類的舉動——把一堆用來訓(xùn)練AI的硬件設(shè)備放在公海的駁船上。

Del Complex自稱為一家專注AI研究的公司，于周一在X上宣布推出“BlueSea Frontier Compute Cluster”（或稱BSFCC）。據(jù)稱，BSFCC是一艘載有10000臺Nvidia H100 GPU的太陽能駁船，這些GPU專為AI訓(xùn)練設(shè)計(jì)，每臺售價(jià)30000美元。Del Complex認(rèn)為，新的AI法規(guī)和歐盟的AI法案“旨在在安全的幌子下集中控制”，所以它決定把這些用來訓(xùn)練AI的硬件放在國際水域。

Del Complex在發(fā)布的內(nèi)容中附帶了一幅很逼真的BSFCC照片，還包括駁船的圖表。隨后的推文詳細(xì)描述了BSFCC的假設(shè)特點(diǎn)。這篇內(nèi)容迅速走紅，很快獲得了超過200萬次的瀏覽。回復(fù)顯示許多人完全相信這一消息，其中包括對該計(jì)劃的批評和質(zhì)疑。

然而有一個(gè)明顯的問題——Del Complex不是一個(gè)真正的AI公司，其駁船同樣是假的。

Del Complex將自己描述為一個(gè)“另類現(xiàn)實(shí)公司”（An Alternate Reality Corporation）。其網(wǎng)站上的一些圖像看起來是AI生成的，包括混亂的文本和奇怪的臉部特征。一張圖片展示了兩名身著防護(hù)服的女子，用巨大的勺子吃著看起來像湯和沙拉混合的東西。

不過在被問到有關(guān)BSFCC的問題時(shí)，自稱Del Complex研究員的開發(fā)者Sterling Crispin卻也說得頭頭是道。Crispin表示，BSFCC符合他們的總體使命，并聲稱已經(jīng)在LinkedIn上招聘員工，而且已經(jīng)收到30個(gè)應(yīng)聘申請。

Crispin表示：“最近的法規(guī)，主要問題之一，是它們過于關(guān)注訓(xùn)練層和硬件，而不是應(yīng)用層。今天的超級計(jì)算機(jī)就是明天的懷表，而政策往往落后于時(shí)代，而不是領(lǐng)先于時(shí)代。”

結(jié)合Crispin表達(dá)的觀點(diǎn)，還有網(wǎng)站上如此明顯的AI生成痕跡，Del Complex和它頗具諷刺意味的BSFCC更像是一種行為藝術(shù)，似乎是在以這樣的形式來告訴人們警惕AI的風(fēng)險(xiǎn)。

盡管有這些針對AI潛在風(fēng)險(xiǎn)的顧慮，但技術(shù)發(fā)展與監(jiān)管之間的平衡問題，一直以來都沒有一個(gè)確切的答案。在金融界，由AI引發(fā)的“腥風(fēng)血雨”，早在ChatGPT尚未問世的2017年就已經(jīng)出現(xiàn)了。根據(jù)Coalition在2017年公布的調(diào)研數(shù)據(jù)，自2012年起，華爾街累計(jì)削減崗位達(dá)12700個(gè)，已經(jīng)是連續(xù)第5年減聘。當(dāng)時(shí)就還有諸如“10年內(nèi)股市AI斗AI”、“華爾街精英更該擔(dān)心AI搶走飯碗”這類說法。

多年以后的今天，金融監(jiān)管機(jī)構(gòu)對AI風(fēng)險(xiǎn)的擔(dān)憂，則更聚焦在可能引發(fā)金融危機(jī)的層面上。盡管存在諸多疑慮，一些研究者依然認(rèn)為，AI和機(jī)器學(xué)習(xí)是未來的方向，而且這會是一場沒有終點(diǎn)的競賽，只要有新的技術(shù)和數(shù)據(jù)，它就會持續(xù)下去。