Gartner最近的一項(xiàng)調(diào)查顯示，超過70%的IT領(lǐng)導(dǎo)者將法規(guī)合規(guī)性列為與GenAI部署相關(guān)的三大挑戰(zhàn)之一。調(diào)查還指出，不到四分之一的IT領(lǐng)導(dǎo)者對(duì)其所在企業(yè)在使用GenAI時(shí)管理安全和治理問題(包括法規(guī)合規(guī)性)的能力非常有信心。

Gartner的高級(jí)總監(jiān)分析師莉迪亞·克勞赫蒂·瓊斯(Lydia Clougherty Jones)表示，IT領(lǐng)導(dǎo)者似乎擔(dān)心要遵守越來越多的AI法規(guī)，包括一些可能相互沖突的法規(guī)。

“對(duì)于一家全球化企業(yè)而言，法律上的細(xì)微差別可能讓人應(yīng)接不暇，因?yàn)椴煌瑖夜嫉目蚣懿町惡艽?。”她說。

Gartner預(yù)測(cè)，到2028年，AI法規(guī)違規(guī)行為將使科技公司的法律糾紛增加30%。該分析公司還預(yù)測(cè)，到2026年年中，非法的AI決策新類型將給AI供應(yīng)商和用戶帶來超過100億美元的補(bǔ)救成本。

這僅僅是個(gè)開始

政府對(duì)AI的監(jiān)管努力可能還處于初級(jí)階段，2024年8月生效的《歐盟AI法案》是針對(duì)AI使用的首批主要立法之一。

雖然美國國會(huì)迄今為止采取了不干預(yù)的做法，但已有幾個(gè)美國州通過了AI法規(guī)，例如2024年的《科羅拉多州AI法案》要求AI用戶建立風(fēng)險(xiǎn)管理制度并進(jìn)行影響評(píng)估，同時(shí)要求供應(yīng)商和用戶保護(hù)消費(fèi)者免受算法歧視。

得克薩斯州也通過了本州的AI法案，該法案將于2026年1月生效?！兜每怂_斯州負(fù)責(zé)任AI治理法案》要求政府實(shí)體在個(gè)人與AI交互時(shí)告知個(gè)人，該法案還禁止利用AI操縱人類行為，例如煽動(dòng)自殘或從事非法活動(dòng)。

得克薩斯州的這項(xiàng)法案規(guī)定，每次違規(guī)的民事處罰最高可達(dá)20萬美元，持續(xù)違規(guī)的每日處罰最高可達(dá)4萬美元。

然后，在9月下旬，加利福尼亞州州長加文·紐森(Gavin Newsom)簽署了《前沿AI透明度法案》，該法案要求大型AI開發(fā)者公布其如何將國家標(biāo)準(zhǔn)、國際標(biāo)準(zhǔn)和行業(yè)共識(shí)的最佳實(shí)踐納入AI框架的說明。

這項(xiàng)將于2026年1月生效的加州法案還規(guī)定，AI公司必須在15天內(nèi)報(bào)告包括網(wǎng)絡(luò)攻擊在內(nèi)的重大安全事件，并提供了保護(hù)舉報(bào)人舉報(bào)違法行為的條款。

未能遵守披露和報(bào)告要求的公司，每次違規(guī)將面臨最高達(dá)100萬美元的罰款。

加州在信息技術(shù)法規(guī)方面對(duì)全球?qū)嵺`有著巨大的影響，因?yàn)樵撝菁s3900萬的人口使其擁有大量受法律保護(hù)的潛在AI客戶。加州的人口比135多個(gè)國家的人口還要多。

加州也是世界AI之都，全球50強(qiáng)AI公司中有32家的總部位于加州，包括OpenAI、Databricks、Anthropic和Perplexity AI。所有在加州開展業(yè)務(wù)的AI供應(yīng)商都將受到這些法規(guī)的約束。

前沿的CIO們

市場(chǎng)情報(bào)公司Futurum Equities負(fù)責(zé)數(shù)字領(lǐng)導(dǎo)力和CIO業(yè)務(wù)的副總裁兼業(yè)務(wù)主管迪翁·欣奇克利夫(Dion Hinchcliffe)表示，隨著美國各州和更多國家可能通過AI法規(guī)，CIO們?cè)诓渴疬@項(xiàng)技術(shù)時(shí)自然會(huì)對(duì)合規(guī)問題感到擔(dān)憂。

“CIO負(fù)責(zé)讓技術(shù)真正發(fā)揮作用，所以他們會(huì)密切關(guān)注哪些是可行的，”他說，“他們會(huì)問，‘這些東西有多準(zhǔn)確?數(shù)據(jù)有多可靠?’”

欣奇克利夫說，雖然已經(jīng)有一些AI法規(guī)和治理合規(guī)解決方案，但一些CIO擔(dān)心這些工具無法跟上不斷變化的法規(guī)和AI功能格局。

“目前尚不清楚我們是否擁有能夠持續(xù)可靠地管理治理和法規(guī)合規(guī)問題的工具，而且情況可能會(huì)變得更糟，因?yàn)榉ㄒ?guī)甚至都還沒有出臺(tái)?！彼f。

他補(bǔ)充說，由于AI技術(shù)的特性，AI法規(guī)合規(guī)將尤其困難。欣奇克利夫說：“AI太難以捉摸了。這項(xiàng)技術(shù)不是確定性的，而是概率性的。AI致力于解決所有這些問題，而這些問題都是傳統(tǒng)編碼系統(tǒng)無法解決的，因?yàn)榫幋a人員從未考慮過那種場(chǎng)景?！?/p>

電子健康檔案協(xié)會(huì)AI工作組主席蒂娜·喬羅斯(Tina Joros)也認(rèn)為，由于法規(guī)格局支離破碎，合規(guī)問題令人擔(dān)憂。她說，已經(jīng)通過的各種法規(guī)可能會(huì)擴(kuò)大大型衛(wèi)生系統(tǒng)與其規(guī)模較小和位于農(nóng)村地區(qū)的同行之間本就巨大的數(shù)字鴻溝，因?yàn)楹笳咴诓捎肁I方面努力跟進(jìn)步伐。

她補(bǔ)充說：“加利福尼亞州、科羅拉多州和得克薩斯州等州頒布的各種法律正在制造一個(gè)法規(guī)迷宮，衛(wèi)生信息技術(shù)領(lǐng)導(dǎo)者面臨挑戰(zhàn)，這可能會(huì)對(duì)GenAI的未來發(fā)展和使用產(chǎn)生寒蟬效應(yīng)。”

喬羅斯補(bǔ)充說，即使是未能成為法律的法案也需要仔細(xì)分析，因?yàn)樗鼈兛赡軙?huì)影響未來的法規(guī)預(yù)期。

“令人困惑的是，這些法律法規(guī)中包含的相關(guān)定義，如‘開發(fā)者’‘部署者’和‘高風(fēng)險(xiǎn)’等，往往各不相同，導(dǎo)致行業(yè)出現(xiàn)一定程度的不確定性，”她說，“這理所當(dāng)然地導(dǎo)致許多軟件開發(fā)人員有時(shí)會(huì)暫?；蛑匦驴紤]項(xiàng)目，因?yàn)殚_發(fā)人員和醫(yī)療服務(wù)提供者希望確保他們現(xiàn)在正在構(gòu)建的工具在未來是合規(guī)的?！?/p>

合同軟件提供商ContractPodAi的首席AI官詹姆斯·托馬斯(James Thomas)也認(rèn)為，AI法規(guī)之間的不一致和重疊會(huì)造成問題。

“對(duì)于全球化企業(yè)而言，這種碎片化本身就會(huì)造成運(yùn)營難題，不是因?yàn)樗麄儾辉敢庾袷胤ㄒ?guī)，而是因?yàn)槊宽?xiàng)法規(guī)對(duì)透明度、使用、可解釋性和問責(zé)制等概念的定義都略有不同，”他說，“在北美適用的方法在歐盟并不總是適用?！?/p>

關(guān)注治理工具

托馬斯建議，各企業(yè)在部署AI時(shí)應(yīng)采用一套治理控制和系統(tǒng)。在許多情況下，一個(gè)主要問題是AI的采用是由使用個(gè)人生產(chǎn)力工具的單個(gè)員工推動(dòng)的，這導(dǎo)致了一種碎片化的部署方式。

“雖然這些工具在特定任務(wù)上功能強(qiáng)大，但它們從來不是為應(yīng)對(duì)受監(jiān)管的企業(yè)級(jí)部署的復(fù)雜性而設(shè)計(jì)的，”他說，“它們?nèi)狈兄卫?，各自為政，幾乎不可能確保一致性、追蹤數(shù)據(jù)來源或大規(guī)模管理風(fēng)險(xiǎn)?！?/p>

在IT領(lǐng)導(dǎo)者努力應(yīng)對(duì)法規(guī)合規(guī)問題時(shí)，Gartner還建議，要著重訓(xùn)練AI模型進(jìn)行自我糾正，制定嚴(yán)格的用例審查程序，增加模型測(cè)試和沙盒測(cè)試，并部署內(nèi)容審核技術(shù)，例如設(shè)置報(bào)告濫用行為的按鈕和AI警告標(biāo)簽。

Gartner的克勞赫蒂·瓊斯表示，IT領(lǐng)導(dǎo)者需要能夠?yàn)槠銩I結(jié)果辯護(hù)，這就要求深入了解模型的工作原理。在某些風(fēng)險(xiǎn)場(chǎng)景下，這可能意味著要使用外部審計(jì)員來測(cè)試AI。

“你必須為數(shù)據(jù)辯護(hù)，必須為模型開發(fā)、模型行為辯護(hù)，然后你還必須為輸出結(jié)果辯護(hù)，”她說，“很多時(shí)候，我們使用內(nèi)部系統(tǒng)來審核輸出結(jié)果，但如果某件事的風(fēng)險(xiǎn)真的很高，為什么不找一個(gè)中立的第三方來進(jìn)行審核呢?如果你在為模型辯護(hù)，而你自己又進(jìn)行了測(cè)試，那么這種辯護(hù)的作用也就僅限于此了。”