一、大模型時代，AI 技術(shù)在金融行業(yè)的應(yīng)用趨勢

首先，介紹一下 AI 技術(shù)的發(fā)展歷程，及其在金融行業(yè)的應(yīng)用趨勢。

從機器學(xué)習(xí)與 AI 工程化開始，企業(yè)通過構(gòu)建各類機器學(xué)習(xí)和深度學(xué)習(xí)場景，逐步實現(xiàn)數(shù)字化創(chuàng)新。隨著場景復(fù)雜度的提升和多模態(tài)模型以及融合模型的出現(xiàn)，出現(xiàn)了更多 OCR 結(jié)構(gòu)化數(shù)據(jù)與自然語言數(shù)據(jù)結(jié)合的場景，以及機器學(xué)習(xí)預(yù)測與運籌優(yōu)化相匹配的場景。這些模型結(jié)合的場景使我們對 AI 基礎(chǔ)平臺的要求從模型開發(fā)升級到了 ModelOps 階段。在構(gòu)建 ModelOps 系統(tǒng)時，企業(yè)的數(shù)智化能力也達到了新的高度。近期，AIGC 的出現(xiàn)利用自然語言而非機器代碼構(gòu)建數(shù)據(jù)和信息搜索、分析和挖掘，為企業(yè)以 AI 低門檻進入數(shù)智文化新階段鋪平了道路。

可以看到，AIGC 的出現(xiàn)，使得企業(yè)原本分散的 AI 能力開始向上發(fā)展到企業(yè)經(jīng)營的各個方面，甚至決策層。這種變革是自頂向下的，是前所未有的。隨著人工智能技術(shù)的發(fā)展，AI 在金融行業(yè)的應(yīng)用也逐漸成為了一個行業(yè)熱點。從智慧營銷、智慧風(fēng)控到信貸審批，AI 技術(shù)正在改變金融行業(yè)的傳統(tǒng)業(yè)務(wù)模式，提高服務(wù)效率，降低運營成本，同時為消費者帶來更加便捷和個性化的金融服務(wù)。

例如，在營銷領(lǐng)域，AI 技術(shù)通過大數(shù)據(jù)及機器學(xué)習(xí)方法分析營銷客戶的消費行為和購買歷史，更好地了解客戶需求，制定更準(zhǔn)確的營銷策略，并向客戶提供更有針對性的產(chǎn)品和服務(wù)，從而提高了客戶滿意度和營銷效果。

在風(fēng)控領(lǐng)域，AI 技術(shù)通過知識圖譜及機器學(xué)習(xí)方法，實時分析海量的交易數(shù)據(jù)，挖掘潛在的異常交易行為，從而有效識別欺詐風(fēng)險。相較于傳統(tǒng)的人工審核方式，AI 技術(shù)在反欺詐領(lǐng)域的應(yīng)用大大提高了識別速度和準(zhǔn)確性，降低了金融風(fēng)險。

而在運營領(lǐng)域，AI 技術(shù)通過對借款人的信用報告、消費行為等數(shù)據(jù)進行深度挖掘，實現(xiàn)快速準(zhǔn)確的信用評估。這不僅有助于金融行業(yè)降低壞賬率，提高貸款審批效率，還能為借款人提供更加公平合理的貸款利率。隨著 AI 技術(shù)的不斷演進，近期大模型技術(shù)的出現(xiàn)將對金融行業(yè)的未來應(yīng)用產(chǎn)生深遠的影響。

下面從三個方面分析大模型技術(shù)如何影響金融行業(yè)的場景應(yīng)用。

首先，大模型技術(shù)變革的核心對象是知識，它將降低知識的獲取成本，提升知識的應(yīng)用能力，并輻射到更廣泛的專業(yè)領(lǐng)域。對于金融行業(yè)這樣一個知識密集型行業(yè)來說，這將帶來巨大的影響。

其次，大模型的應(yīng)用將逐步滲透到包括客服、營銷、風(fēng)控等業(yè)務(wù)創(chuàng)新的多個領(lǐng)域。大模型表現(xiàn)出的上下文學(xué)習(xí)泛化性以及復(fù)雜推理能力，將重塑文字、數(shù)據(jù)、圖像等處理工具，帶來支持工作者的效率、體驗以及價值的提升。這也意味著金融從業(yè)人員的專業(yè)工作方式和方法可能會發(fā)生很大的變化。通過 AI 大模型賦能金融從業(yè)者，可以提高工作效率并降低成本。

最后，大模型的出現(xiàn)大幅降低了 AI 技術(shù)的應(yīng)用門檻，這也可能重塑未來的人機交互體驗。在金融行業(yè)，大模型未來可能將提供更智能、個性化、高效的交互方式，甚至顛覆金融行業(yè)的客戶服務(wù)模式。

從宏觀角度看，通過大模型助手的應(yīng)用，銀行業(yè)在單人節(jié)、單人、單人產(chǎn)能等核心競爭力環(huán)節(jié)有望實現(xiàn)大幅提升。微觀層面上，大模型可以在銀行業(yè)的前中后各個環(huán)節(jié)實現(xiàn)規(guī)模化降本增效。

具體來說，在前臺，大模型可以應(yīng)用于分支行人員的聊天機器人和知識中心，幫助他們減少業(yè)務(wù)制度和業(yè)務(wù)條款的搜索時間。在中臺，大模型可以為運營和風(fēng)控人員生成風(fēng)險報告，使他們能夠更高效地訪問數(shù)據(jù)和分析報告來進行決策。在后臺，大模型可以作為代碼生成工具，幫助科技人員提升開發(fā)效率和質(zhì)量。

傳統(tǒng) AI 模型與大模型在金融行業(yè)中的應(yīng)用各有優(yōu)劣。傳統(tǒng) AI 模型在處理特定任務(wù)時表現(xiàn)出較高的精確度，且訓(xùn)練和運行所需的計算資源相對較少。相比之下，大模型在學(xué)習(xí)能力和泛化能力上具有顯著優(yōu)勢，可以處理更復(fù)雜的任務(wù)，甚至可以處理多類型的多模態(tài)任務(wù)。然而，大模型的劣勢在于其參數(shù)量巨大，導(dǎo)致訓(xùn)練和運行需要大量的計算資源。此外，大模型的工程化難度也遠高于傳統(tǒng) AI 模型。因此，在實際應(yīng)用中，選擇使用傳統(tǒng) AI 模型還是大模型需要進行全面的權(quán)衡和評估。

大模型在金融行業(yè)的實際應(yīng)用中存在三個主要難點。首先，大模型的工程化難度較高，目前尚無成熟的技術(shù)框架可供參考。其次，由于金融行業(yè)對應(yīng)用的可靠性和準(zhǔn)確性要求極高，大模型在這方面的表現(xiàn)可能會受到影響。第三個問題是性價比。大模型的資源消耗巨大，但其單個應(yīng)用的用戶量可能受限，因此如何平衡大模型的投入與產(chǎn)出關(guān)系需要仔細衡量。為了實現(xiàn)大模型在金融行業(yè)的廣泛應(yīng)用，我們需要盡量降低大模型落地的難度，以實現(xiàn)規(guī)模化的產(chǎn)業(yè)應(yīng)用。

·

金融行業(yè) AI 基礎(chǔ)軟件的演進路線可劃分為四個階段。早期階段，AI 能力零散，應(yīng)用建設(shè)與垂直領(lǐng)域建模能力逐步加強。隨后，逐漸更加關(guān)注并加強工具能力平臺建設(shè)，統(tǒng)一數(shù)據(jù)算力、工程化能力、資產(chǎn)和運營，實現(xiàn) AI 體系的治理和運營。

隨著大模型的出現(xiàn)，我們已進入第四個階段，即大模型適配的 AI 基礎(chǔ)軟件。通過建設(shè)白盒大模型訓(xùn)練和微調(diào)能力，企業(yè)可以持續(xù)構(gòu)建 AI 和 AIGC，將智能化作為企業(yè)持續(xù)創(chuàng)新的核心競爭力。這有助于降低 AI 建設(shè)與應(yīng)用的門檻，逐步轉(zhuǎn)向智能化，并引領(lǐng)金融行業(yè)的經(jīng)營與運營。

二、大模型時代，AI 基礎(chǔ)軟件在金融行業(yè)的設(shè)計思路

金融行業(yè) AI 技術(shù)軟件在進入大模型時代后，需要一種新的設(shè)計思路，以適應(yīng)大模型在金融行業(yè)的應(yīng)用需求。

在金融行業(yè) AI 技術(shù)軟件演進的第四個階段，我們提出了一種基于大模型的新的 AI 設(shè)計模式，主要包括以下四個方面：

• AIaaS 和數(shù)據(jù)驅(qū)動：大模型強調(diào)數(shù)據(jù)驅(qū)動，因此整個 AI 基礎(chǔ)軟件的架構(gòu)需要構(gòu)建一個數(shù)據(jù)管道清洗系統(tǒng)，以支持模型的訓(xùn)練和更新。
• 知識管理系統(tǒng)：通過知識圖譜或知識庫來支持模型的知識獲取和沉淀。
• 可解釋性工具：由于大模型需要可解釋性，而生成結(jié)果存在不可靠性，需要可解釋工具來支持大模型的可解釋性和監(jiān)督工作。
• 調(diào)優(yōu)自動化：大模型需要通過自動機器學(xué)習(xí)的方式來實現(xiàn)模型的優(yōu)化和智能化調(diào)優(yōu)。

為了應(yīng)對大模型對數(shù)據(jù)驅(qū)動的需求，在原有的基礎(chǔ)平臺中增加了向量數(shù)據(jù)庫，構(gòu)建了大模型所需的知識管理能力，并增強了數(shù)據(jù)準(zhǔn)備、標(biāo)注以及數(shù)據(jù)增強能力。為了更好地服務(wù)基礎(chǔ)模型層，我們搭建了一套大模型工具鏈，其中包括提示詞管理、多種 PEFT 微調(diào)方法的集成以及一鍵式 RLHF。這些工具旨在構(gòu)建大模型的自動化調(diào)優(yōu)能力。最后，在模型服務(wù)模塊中，我們增加了大模塊的支持，以便保證大模型的可解釋性和監(jiān)督。這些工具的增加使得我們的 AI 基礎(chǔ)軟件設(shè)計目標(biāo)更加完善，為大模型的應(yīng)用提供了強有力的技術(shù)支持。

為了實現(xiàn)上述 AI 基礎(chǔ)軟件設(shè)計目標(biāo)，我們構(gòu)建了一套完整的 AI 基礎(chǔ)軟件設(shè)計架構(gòu)。該架構(gòu)的底層是算力資源層，包括各類高性能異構(gòu) GPU 資源、高性能存儲資源和高性能網(wǎng)絡(luò)資源。之上是功能強化的 AI 技術(shù)平臺，包括算力資源存儲和管理調(diào)度模塊，以及從數(shù)據(jù)標(biāo)注到模型訓(xùn)練再到模型推理的全套 ModelOps 九章云極DataCanvas APS 機器學(xué)習(xí)產(chǎn)品模塊。這兩個模塊確保了 AI 模型在開發(fā)和訓(xùn)練過程中的穩(wěn)定高效，構(gòu)成了 AI 中臺的初始兩層模塊。

為了使大模型更好地支持業(yè)務(wù)場景應(yīng)用，增加了模型能力層、模型工具層和應(yīng)用支撐層。模型能力層包括已引入的基礎(chǔ)開源或商用大模型、未來可能引入的行業(yè)大模型以及根據(jù)行內(nèi)語料預(yù)訓(xùn)練的企業(yè)大模型。這些大模型為上層大模型應(yīng)用提供了基礎(chǔ)支撐。大模型工具層則包含大模型優(yōu)化及應(yīng)用擴展能力，使大模型能夠更有針對性地服務(wù)特定應(yīng)用。應(yīng)用支撐層最上層，提供了一個大小模型結(jié)合乃至多個大模型返回結(jié)果的決策引擎，使多個大模型能夠支撐業(yè)務(wù)應(yīng)用并返回最佳結(jié)果。小模型輔助大模型生成結(jié)果，從而提高大模型生成結(jié)果的準(zhǔn)確性和可控性。

大模型工具層的 6 個主要功能模塊包括：提示詞管理器、微調(diào)訓(xùn)練工具、樣本數(shù)據(jù)生成器、大模型后評估、向量數(shù)據(jù)庫、大模型訓(xùn)練框架。

上圖展示了整個 AI 基礎(chǔ)軟件如何通過大模型的語言能力、知識能力、邏輯與復(fù)雜問題推理能力，以及通用任務(wù)能力等關(guān)鍵能力，實現(xiàn)敏捷業(yè)務(wù)賦能。通過上述 AI 基礎(chǔ)軟件的架構(gòu)和大模型擴展能力，進一步創(chuàng)造出服務(wù)于場景的協(xié)同辦公、知識管理、內(nèi)容生成以及數(shù)據(jù)分析能力。這些能力在營銷、風(fēng)控、運營、研發(fā)、財務(wù)以及投顧等場景中實現(xiàn)了業(yè)務(wù)的敏捷賦能。

三、大模型時代，AI 基礎(chǔ)軟件在金融行業(yè)的部署應(yīng)用暢想

在 AI 基礎(chǔ)軟件的應(yīng)用過程中，我們不僅使用了大型模型，還使用了小型模型。通過大小模型的結(jié)合，能夠更好地服務(wù)金融行業(yè)，實現(xiàn) AI 基礎(chǔ)軟件對金融業(yè)務(wù)的快速賦能。

展望未來，大模型時代的 AI 基礎(chǔ)軟件將在金融行業(yè)部署應(yīng)用方面產(chǎn)生深遠影響。我們可以預(yù)見，AI 技術(shù)軟件將在交互方式變革、產(chǎn)品種類豐富以及商業(yè)模式創(chuàng)新三個方面，進一步對金融行業(yè)產(chǎn)生影響。通過構(gòu)建一個新興的生態(tài)平臺，實現(xiàn)一個超級應(yīng)用，該應(yīng)用可以覆蓋金融行業(yè)的所有應(yīng)用場景，提供統(tǒng)一的入口，從而實現(xiàn) AI 技術(shù)軟件對金融行業(yè)的迅速賦能。