近期，快速進(jìn)化的生成式AI(Generative AI)技術(shù)引起人們的廣泛關(guān)注，預(yù)計將對多個領(lǐng)域產(chǎn)生巨大影響。OpenAI公司的ChatGPT和Stability AI公司的Stable Diffusion允許公眾訪問，這對近年來廣泛研究的生成式AI模型造成了巨大沖擊，目前越來越多的機(jī)構(gòu)和公司發(fā)布與AI有關(guān)的系統(tǒng)和服務(wù)。與此同時，公眾對生成式AI在學(xué)習(xí)過程中的數(shù)據(jù)處理隱患以及對惡意使用生成式AI的擔(dān)憂不斷增加。

生成式AI是一項十分具有潛力的技術(shù)，目前正處于爆發(fā)的前夜。正是因為它的強(qiáng)大，公眾對如何積極地利用生成式AI、新使用方式的開發(fā)、謹(jǐn)慎使用生成式AI等話題展開熱烈討論。

但無論是選擇積極擁抱生成式AI，還是對其抱有懷疑態(tài)度，生成式AI的發(fā)展都將給企業(yè)帶來極大影響，各大企業(yè)均需直面“如何面對生成式AI”這一命題。

本文基于這一命題，從“企業(yè)運(yùn)用生成式AI的風(fēng)險”角度出發(fā)，搭建整理生成式AI相關(guān)的情報信息框架，基于適應(yīng)快速變化對象風(fēng)險管理的敏捷治理思路，整理生成式AI風(fēng)險的整體情況，論述企業(yè)使用生成式AI的適應(yīng)性管理方法，幫助企業(yè)更好地理解生成式AI的特性并進(jìn)行有效的信息分析。

生成式AI的進(jìn)化和著眼要點

什么是生成式AI

生成式AI是指具有自動生成文章和圖像等功能的AI總稱，主要是實用化的識別AI(Discriminative AI)，執(zhí)行非法檢測、按照規(guī)定格式進(jìn)行數(shù)值預(yù)測和分類等任務(wù)。生成式AI擅長分析輸入數(shù)據(jù)的結(jié)構(gòu)，根據(jù)關(guān)聯(lián)性高的訓(xùn)練數(shù)據(jù)生成新的內(nèi)容。

生成式AI急劇進(jìn)化

2015年，生成式AI進(jìn)入急劇進(jìn)化階段，進(jìn)化的一個契機(jī)是獲得強(qiáng)有力的模型表達(dá)，通過Diffusion Model 2和Transformer 3等新模型研發(fā)，讓學(xué)習(xí)效率和圖像、聲音等內(nèi)容的生成品質(zhì)均得到了突破性提高;另一個契機(jī)是海量數(shù)據(jù)的學(xué)習(xí)和大規(guī)模模型的建立。以自然語言處理為例，通過采用Transformer模型，可以更有效地實現(xiàn)大量數(shù)據(jù)的學(xué)習(xí)訓(xùn)練，例如BERT 4、GPT-5，其利用大規(guī)模語言模型(LLM)學(xué)習(xí)了數(shù)十億字的龐大數(shù)據(jù)。更重要的是，LLM的參數(shù)量增加到一定程度后，其性能也將急劇提高，當(dāng)初BERT和GPT-1的參數(shù)量是1億多，與此相對，近年來主流的PaLM和GPT-3.5參數(shù)量達(dá)到了數(shù)千億。生成式AI性能的快速提升為其掀起人工智能變革打下了強(qiáng)大的技術(shù)基礎(chǔ)。

AI進(jìn)入普及和應(yīng)用階段

當(dāng)前，生成式AI已達(dá)到面向大眾的應(yīng)用水平，進(jìn)入普及和應(yīng)用發(fā)展階段。除直接參與AI開發(fā)的企業(yè)之外，還將有更多企業(yè)接觸生成式AI，不斷加深人工智能與自身業(yè)務(wù)的聯(lián)系。而企業(yè)在考慮運(yùn)用生成式AI的同時，還需考慮幾個關(guān)鍵的概念和要點，通過了解AI系統(tǒng)的結(jié)構(gòu)區(qū)分考慮AI模型、AI系統(tǒng)和AI服務(wù)，讓自身業(yè)務(wù)與人工智能的結(jié)合變得更加簡便。AI模型是由數(shù)據(jù)學(xué)習(xí)訓(xùn)練的參數(shù)組成的框架，以AI模型為組成部分，根據(jù)用途編入應(yīng)用程序的系統(tǒng)被稱為AI系統(tǒng)或AI服務(wù)(如圖1所示)。

圖1 AI系統(tǒng)的框架

例如，Open AI的ChatGPT以GPT-3.5或GPT-4為基礎(chǔ)，通過將AI模型嵌入具備對話功能的應(yīng)用軟件中，提供作為AI服務(wù)的ChatGPT應(yīng)用。同樣，谷歌的Bard則是將以LaMDA和PaLM為基礎(chǔ)的模型編入對話型應(yīng)用程序中。

近年來，AI模型的性能得到了大幅度提高，最近明顯的例子就是聊天應(yīng)用中的LLM，這一模型能夠在極廣的范圍內(nèi)高精度地完成文本生成這一通用任務(wù)。當(dāng)前的趨勢是，文本生成功能以具有高可訪問性接口的應(yīng)用程序向公眾開放，并以此為起點，通過應(yīng)用程序向在線搜索集成和代碼生成等不斷拓展。

值得關(guān)注的是，AI模型的開發(fā)人員和應(yīng)用程序的開發(fā)人員不必是同一批人，實際開發(fā)LLM的公司可通過API提供模型服務(wù)，如Meta公司的LLaMA8;開發(fā)應(yīng)用程序的企業(yè)則可以使用精細(xì)微調(diào)的方法，以大規(guī)模數(shù)據(jù)預(yù)先學(xué)習(xí)的模型為基礎(chǔ)，通過學(xué)習(xí)適合特定任務(wù)的追加數(shù)據(jù)對AI模型進(jìn)行參數(shù)微調(diào)(如圖2所示)。

圖2 AI模型的應(yīng)用模式

從應(yīng)用的角度來看，生成式AI目前只是發(fā)揮了其潛力的一小部分，今后各種利益相關(guān)者將開發(fā)和提供適合各種用途的生成式AI服務(wù)。但是，生成式AI的風(fēng)險也引起了廣泛討論。

雖然AI模型自身也有望進(jìn)一步改善，但由于學(xué)習(xí)數(shù)據(jù)枯竭問題以及規(guī)模擴(kuò)大遇到的性能限制和挑戰(zhàn)，AI模型基本性能的提高必須加快步伐，成本的改善將成為工作重點。而隨著技術(shù)、應(yīng)用的不斷發(fā)展，行業(yè)今后需更關(guān)注生成式AI普及的進(jìn)展和應(yīng)用情況，企業(yè)也要盡最大努力應(yīng)對生成式AI帶來的各類風(fēng)險。

敏捷治理以適應(yīng)生成式AI的頻繁變化

當(dāng)前，生成式AI技術(shù)發(fā)展日新月異，引發(fā)了新一輪智能化浪潮，在更多行業(yè)發(fā)揮了更大勢能。從企業(yè)角度來看，生成式AI的應(yīng)用范圍非常廣泛，但基于法律規(guī)定程序?qū)ι墒紸I等快速變化事物的管控會相對滯后。相比之下，敏捷治理是一種更為適用的方法。敏捷治理是指根據(jù)不斷變化的環(huán)境和目標(biāo)提供最佳解決方案，通過“環(huán)境風(fēng)險分析”“目標(biāo)設(shè)定”“系統(tǒng)設(shè)計”“運(yùn)用”“評價”和“改善”等多個“支架”持續(xù)且高速地運(yùn)轉(zhuǎn)，形成一種治理模式(如圖3所示)。

圖3 敏捷治理的基本組件

從企業(yè)角度看，使用生成式AI要結(jié)合治理系統(tǒng)的運(yùn)用和監(jiān)控，遇到問題及時改善，同時根據(jù)環(huán)境的變化等因素，不斷重新審視目標(biāo)，快速捕捉生成式AI周圍環(huán)境的變化，通過分析系統(tǒng)持續(xù)監(jiān)測預(yù)警生成式AI相關(guān)的風(fēng)險，最大程度地從創(chuàng)新中獲得利潤。

生成式AI的風(fēng)險管理矩陣

為幫助企業(yè)通過敏捷治理的方法最大限度地使用生成式AI，本文將介紹一種風(fēng)險管理矩陣。由于相關(guān)信息非常廣泛且更新頻繁，公司對商業(yè)環(huán)境和風(fēng)險的分析需求緊迫，使用矩陣目的在于解決當(dāng)下存在的問題。其基本思路是將與生成式AI相關(guān)的機(jī)會、風(fēng)險，以及構(gòu)成生成式AI生態(tài)系統(tǒng)的利益相關(guān)者的風(fēng)險分為兩組，同時將與生成式AI相關(guān)的每個信息對企業(yè)控制目標(biāo)的影響可視化。

有觀點認(rèn)為，生成式AI相關(guān)的機(jī)會和風(fēng)險源于自身，但另一方面，政府的法規(guī)或許也將成為生成式AI應(yīng)用中的風(fēng)險來源(如表1所示)。

表1 AI應(yīng)用中的風(fēng)險來源

結(jié)合生成式AI普及初期遇到的機(jī)會和風(fēng)險，按照商業(yè)活動、倫理和社會責(zé)任、版權(quán)許可等類別，提煉出對各方的影響，如表2所示。

表2 生成式AI風(fēng)險管理矩陣

本表的活用方法有三個。一是整理風(fēng)險的總體情況：企業(yè)的風(fēng)險管理者可以充分利用本表更新生成式AI的事業(yè)環(huán)境和風(fēng)險分析情況，隨時收集新的信息，增加新的風(fēng)險點，避免重復(fù)或遺漏。根據(jù)整理的信息，為敏捷治理提供幫助，實施環(huán)境風(fēng)險分析，使目標(biāo)的設(shè)定和評價運(yùn)用等后續(xù)研究成為可能。

二是檢查負(fù)責(zé)人以及確認(rèn)應(yīng)參與審查的人員：對于風(fēng)險管理者新捕捉到的風(fēng)險，在考慮應(yīng)對審查人員時可以使用本表，對個別信息和對象進(jìn)行詳細(xì)的風(fēng)險分析和管理策略探討，分配合適的負(fù)責(zé)人和主管部門。

三是分析和驗證措施的有效性和完整性：負(fù)責(zé)詳細(xì)分析每個風(fēng)險的人員可以將本表用于確認(rèn)分析觀點的有效性和完整性。除了創(chuàng)新的機(jī)會，企業(yè)還將面臨道德、社會影響、版權(quán)、隱私安全等相關(guān)問題，需要全面確認(rèn)并驗證業(yè)務(wù)策略的有效性，并根據(jù)整理的風(fēng)險情況，挑選研究所需的人員并進(jìn)行措施分析。

結(jié)語

本文深入探討了一套全面且實用的風(fēng)險整理方法論，以應(yīng)對生成式AI技術(shù)的迅速普及。生成式AI作為一種強(qiáng)大的創(chuàng)新力量，正在重塑現(xiàn)代社會、經(jīng)濟(jì)和生活方式，但也帶來了巨大的風(fēng)險。對于企業(yè)而言，如何積極利用生成式AI技術(shù)，同時有效管理和控制伴隨而來的風(fēng)險，已成為一個不可忽視的課題。為了使企業(yè)在生成式AI的變革中保持領(lǐng)先，并適應(yīng)這種急速變化的風(fēng)險環(huán)境，企業(yè)需要采用周期性的風(fēng)險管理模式，以期在面臨不確定性和變化時，幫助其迅速識別、評估和管理風(fēng)險。

生成式AI的風(fēng)險管理矩陣是一種強(qiáng)大的工具，它可以作為風(fēng)險管理負(fù)責(zé)人的輔助決策依據(jù)。通過這種方法論，企業(yè)可以避免在風(fēng)險管理過程中出現(xiàn)人員混亂和管理無序的情況，從而更加高效地進(jìn)行風(fēng)險管理和控制。同時，這種方法論也強(qiáng)調(diào)了構(gòu)建必要人才體系和分析討論周期的重要性，通過這些周期，企業(yè)可以更加深入地理解和評估風(fēng)險，從而作出更加穩(wěn)健和明智的決策。

總得來說，生成式AI風(fēng)險矩陣不僅提供了一種實用的工具，也為企業(yè)管理風(fēng)險提供了一種全新的視角和思考方式，幫助企業(yè)在生成式AI的變革中保持領(lǐng)先，并更加靈活、高效地進(jìn)行風(fēng)險管理。