隨著人工智能的使用、創(chuàng)新和監(jiān)管混亂超過(guò)了已批準(zhǔn)的標(biāo)準(zhǔn)，IT領(lǐng)導(dǎo)者只能開(kāi)發(fā)內(nèi)部方法來(lái)降低人工智能風(fēng)險(xiǎn)，依靠框架、工具和他們的同事來(lái)正確使用人工智能。

隨著越來(lái)越多的人工智能項(xiàng)目從概念驗(yàn)證轉(zhuǎn)向生產(chǎn)，首席信息官將承擔(dān)額外的壓力，制定人工智能治理政策，以保護(hù)企業(yè)和他們的工作。

觀察人士表示，美國(guó)政府和歐盟以及頂級(jí)市場(chǎng)研究人員并不缺乏人工智能治理框架，但毫無(wú)疑問(wèn)，隨著新一代人工智能創(chuàng)新超過(guò)正式標(biāo)準(zhǔn)，首席信息官們將需要在2025年制定和完善內(nèi)部人工智能治理政策，并在這一過(guò)程中爭(zhēng)取整個(gè)高管層的參與，以確保他們不是一個(gè)人。

在這方面，管轄權(quán)的不平衡正在發(fā)揮作用。

IDC研究主管Grace Trinidad表示：“根據(jù)2024年2月的一項(xiàng)調(diào)查，在負(fù)責(zé)任的人工智能政策制定和行為準(zhǔn)則制定方面，美國(guó)組織與歐洲組織不相上下，但在建立多學(xué)科/跨部門治理委員會(huì)方面落后于歐洲組織，這是歐盟人工智能法案的建議。”她敦促首席信息官們不要單獨(dú)承擔(dān)人工智能治理。

例如，IDC建議將NIST人工智能風(fēng)險(xiǎn)管理框架作為合適的標(biāo)準(zhǔn)，以幫助首席信息官在內(nèi)部開(kāi)發(fā)人工智能治理，以及歐盟人工智能ACT條款，Trinidad說(shuō)，他在一篇報(bào)告中引用了人工智能治理某些方面的最佳實(shí)踐。

Trinidad指出，首席信息官們承認(rèn)，有無(wú)數(shù)種方法可以實(shí)施人工智能治理，其中大多數(shù)已經(jīng)開(kāi)始實(shí)施至少一些項(xiàng)目，盡管并非所有項(xiàng)目都已到位。

為此，Ciena首席數(shù)字信息官CraigWilliams表示，這家網(wǎng)絡(luò)公司成立了人工智能工作組，以解決治理方面的挑戰(zhàn)。

Williams說(shuō)，“我不認(rèn)為未來(lái)人工智能的治理會(huì)由單一實(shí)體或政府自己擁有——這太具有挑戰(zhàn)性了。然而，企業(yè)需要建立自己的治理流程，以確保端到端的問(wèn)責(zé)制。我們認(rèn)識(shí)到人工智能系統(tǒng)需要透明、公平和問(wèn)責(zé)制。因此，我們已經(jīng)竭盡全力確保在治理過(guò)程本身中涉及到正確的利益相關(guān)者。”

專家和IT領(lǐng)導(dǎo)者說(shuō)，跨職能的努力是關(guān)鍵。

Williams說(shuō)：“治理實(shí)際上就是相互傾聽(tīng)和學(xué)習(xí)，因?yàn)槲覀兌缄P(guān)心結(jié)果，但同樣重要的是，我們?nèi)绾芜_(dá)到結(jié)果本身。一旦你跨過(guò)了那座橋，就可以迅速轉(zhuǎn)向人工智能工具和實(shí)際項(xiàng)目本身，這要容易得多。”

隨著人工智能創(chuàng)新的蓬勃發(fā)展，TruStone金融信用合作社也在努力建立一個(gè)全面的人工智能治理計(jì)劃。

TruStone執(zhí)行副總裁兼首席技術(shù)官GaryJeter說(shuō)：“每周都有新的生成式人工智能平臺(tái)和能力出現(xiàn)。當(dāng)我們發(fā)現(xiàn)它們時(shí)，我們會(huì)阻止訪問(wèn)，直到我們能夠徹底評(píng)估我們控制的有效性。”他指出，作為一個(gè)例子，他最初決定阻止b谷歌的NotebookLM訪問(wèn)，以評(píng)估其安全性。

與許多企業(yè)一樣，TruStone在全公司范圍內(nèi)部署了一個(gè)名為TruAssist的政策和程序生成人工智能平臺(tái)。

Jeter說(shuō)：“所有大約560名團(tuán)隊(duì)成員都在使用這個(gè)人工智能工具快速訪問(wèn)500多項(xiàng)政策和程序，大大節(jié)省了時(shí)間，并增加了巨大的價(jià)值。我們?cè)?023年11月啟動(dòng)了價(jià)值證明試點(diǎn)，并在2024年2月之前向所有團(tuán)隊(duì)成員推廣。這非常快，我們學(xué)到了很多。我們正在采取一種更保守的方法，將生成式人工智能用于面向成員的應(yīng)用程序，但我們正在取得進(jìn)展。”

人工智能治理框架和平臺(tái)

旅行者是另一家大型企業(yè)，該公司的執(zhí)行副總裁兼首席技術(shù)和運(yùn)營(yíng)官M(fèi)ojganLeFebvre表示，該公司已經(jīng)制定了一段時(shí)間的人工智能治理戰(zhàn)略。

LeFebvre表示：“作為旅行者管理框架不斷發(fā)展和成熟的一部分，我們還建立了一個(gè)負(fù)責(zé)任的人工智能框架，該框架規(guī)定了指導(dǎo)我們開(kāi)發(fā)和使用人工智能、高級(jí)分析和建模的基本原則。這一框架的目標(biāo)是幫助確保我們以負(fù)責(zé)任和道德的方式行事，與我們業(yè)務(wù)和文化核心的負(fù)責(zé)任的商業(yè)價(jià)值觀保持一致。”

觀察人士指出，人工智能治理不僅要保護(hù)企業(yè)免受數(shù)據(jù)泄露或知識(shí)產(chǎn)權(quán)盜竊，還要使成本與預(yù)算保持一致。

GAIInsights首席執(zhí)行官兼首席分析師PaulBaier表示，“IT領(lǐng)導(dǎo)者應(yīng)該非常務(wù)實(shí)、謹(jǐn)慎而緩慢地推出新一代人工智能應(yīng)用，因?yàn)楦吖芎虸T部門仍在學(xué)習(xí)如何管理概率企業(yè)應(yīng)用的風(fēng)險(xiǎn)，而且隨著使用的增加，實(shí)際成本也會(huì)上升。”

Baier說(shuō)，“另一個(gè)增加人工智能風(fēng)險(xiǎn)和成本的因素是大多數(shù)組織中大量的‘影子IT’，因?yàn)閱T工使用個(gè)人賬戶使用ChatGPT等工具來(lái)處理公司數(shù)據(jù)。”

根據(jù)Gartner的說(shuō)法，組織可以通過(guò)實(shí)施人工智能治理平臺(tái)來(lái)處理人工智能的使用，該技術(shù)被確定為2025年的第二大戰(zhàn)略趨勢(shì)，預(yù)測(cè)到2028年，實(shí)施人工智能治理平臺(tái)的組織將比沒(méi)有此類系統(tǒng)的組織少經(jīng)歷40%的人工智能相關(guān)道德事件。

Gartner聲稱，“人工智能治理平臺(tái)的好處包括創(chuàng)建、管理和執(zhí)行確保負(fù)責(zé)任地使用人工智能的政策，解釋人工智能系統(tǒng)的工作方式，模擬生命周期管理，并提供透明度以建立信任和問(wèn)責(zé)制。”

將面臨什么樣的挑戰(zhàn)?Gartner表示：“人工智能指導(dǎo)方針因地區(qū)和行業(yè)而異，因此很難建立一致的做法。”

未來(lái)的挑戰(zhàn)

觀察人士表示，首席信息官還需要調(diào)整能夠適應(yīng)未來(lái)變化的人工智能治理框架，特別是在人工智能（ACI）出現(xiàn)的情況下。

孟菲斯浸信會(huì)紀(jì)念醫(yī)療保健公司首席信息官TomBarnett表示：“我們正在評(píng)估哪種人工智能使用政策最適合我們目前的需求，這種模式可以在我們前進(jìn)和學(xué)習(xí)未知知識(shí)的過(guò)程中提供靈活性。”

這將導(dǎo)致一個(gè)巨大的未知，特別是考慮到人工智能在過(guò)去兩年的進(jìn)展。使問(wèn)題復(fù)雜化的不僅是正在出現(xiàn)的人工智能法規(guī)的復(fù)雜拼湊，還有商業(yè)模式和市場(chǎng)本身的變化。

當(dāng)ChatGPT在兩年前首次亮相時(shí)，OpenAI的創(chuàng)始人表示，對(duì)生成式人工智能的適當(dāng)管理是該公司成為非營(yíng)利組織的一個(gè)關(guān)鍵原因。從那以后，除了兩位創(chuàng)始人外，所有創(chuàng)始人都離開(kāi)了，OpenAI正在努力將其核心業(yè)務(wù)重組為一家營(yíng)利性公司，不再受非營(yíng)利性董事會(huì)的控制。

Gartner負(fù)責(zé)云、邊緣和人工智能基礎(chǔ)設(shè)施技術(shù)和服務(wù)的副總裁SidNag表示，自2021年以來(lái)，NIST的人工智能安全研究所聯(lián)盟和負(fù)責(zé)任的人工智能中心在人工智能治理方面取得了進(jìn)展，但沒(méi)有批準(zhǔn)的監(jiān)管標(biāo)準(zhǔn)來(lái)指導(dǎo)首席信息官，他們面臨越來(lái)越大的壓力，要從實(shí)驗(yàn)中退出，并從對(duì)生成式人工智能平臺(tái)和工具的重大投資中賺錢。

他強(qiáng)調(diào)，沒(méi)有一個(gè)單一的文件能夠涵蓋所有方面的風(fēng)險(xiǎn)，也沒(méi)有明確的權(quán)力來(lái)強(qiáng)制使用生成式人工智能，而人工智能每天都在進(jìn)步。他表示：“人工智能就像一列失控的火車，每個(gè)人都在試圖從中賺錢。”

盡管如此，很難找到一位首席信息官或高管對(duì)人工智能治理不屑一顧。大大小小的企業(yè)都很清楚，生成式人工智能如果落入壞人之手，可能會(huì)帶來(lái)災(zāi)難。

醫(yī)療設(shè)備租賃公司USMed-Equip的首席信息官Antonio Marin表示，人工智能使他的公司得以快速增長(zhǎng)，但在治理方面，所有人都在全力以赴。

Marin表示：“我們正在將人工智能治理作為數(shù)據(jù)和網(wǎng)絡(luò)安全治理的一部分。當(dāng)POC從沙箱投入生產(chǎn)時(shí)，風(fēng)險(xiǎn)會(huì)飆升。在某些情況下，我們的高管層將人工智能視為一些流程問(wèn)題的解決方案。他們將人工智能視為獲得市場(chǎng)份額或降低運(yùn)營(yíng)成本的機(jī)會(huì)，同時(shí)保持高客戶體驗(yàn)質(zhì)量和卓越運(yùn)營(yíng)。”

TruStone的Jeter預(yù)計(jì)，監(jiān)管將在適當(dāng)?shù)臅r(shí)候成為法律和監(jiān)管要求。Jeter說(shuō)：“我把審查員和內(nèi)部/外部審計(jì)員視為合作伙伴，我們的價(jià)值觀是一致的。因此，我沒(méi)有任何擔(dān)憂。”