隨著人工智能技術(shù)的快速發(fā)展，大模型正在重塑金融行業(yè)的服務(wù)模式與運(yùn)營(yíng)效率。然而，技術(shù)與應(yīng)用越深入，安全問(wèn)題也越凸顯。提示詞注入、數(shù)據(jù)泄露、算力濫用等新型風(fēng)險(xiǎn)正在成為金融企業(yè)規(guī)模化應(yīng)用大模型過(guò)程中必須直面的話題。

2025 年 9 月 10 日，由 51CTO 和火山引擎共同舉辦的 “金融大模型安全守護(hù)月系列直播 ——云上話 AI 安全” 第一期活動(dòng)圓滿落幕。

作為該系列直播的首場(chǎng)，本期活動(dòng)以《安全必修課：大模型防護(hù)指南與行業(yè)實(shí)踐》為主題，旨在通過(guò)前沿洞察、實(shí)戰(zhàn)方案與行業(yè)案例，系統(tǒng)梳理大模型安全防護(hù)路徑，助力企業(yè)構(gòu)建可信、合規(guī)、安全的防護(hù)體系。

本次直播活動(dòng)中，火山引擎的兩位嘉賓以其深厚的行業(yè)洞察和豐富的實(shí)戰(zhàn)經(jīng)驗(yàn)，為金融行業(yè)從業(yè)者帶來(lái)了一場(chǎng)知識(shí)與策略的深度賦能，他們不僅系統(tǒng)地剖析了金融大模型應(yīng)用面臨的新型安全威脅，更為處于AI轉(zhuǎn)型關(guān)鍵階段的金融機(jī)構(gòu)指明了防護(hù)路徑。

全棧防護(hù)能力，筑牢金融 AI 安全底座

分享環(huán)節(jié)中，火山引擎云安全解決方案專家李一浩老師以《金融大模型應(yīng)用的安全風(fēng)險(xiǎn)和對(duì)策》為題進(jìn)行了精彩分享。他從應(yīng)用架構(gòu)變革帶來(lái)的全新攻擊面講起，系統(tǒng)分析了 OWASP LLM 應(yīng)用十大安全風(fēng)險(xiǎn)，并結(jié)合實(shí)戰(zhàn)案例，讓每位聽(tīng)眾對(duì)金融行業(yè)大模型應(yīng)用的安全風(fēng)險(xiǎn)有了更系統(tǒng)的認(rèn)知，學(xué)到了切實(shí)可行的防護(hù)思路。

他指出，我們正在經(jīng)歷從 PC 時(shí)代、移動(dòng)時(shí)代到大模型時(shí)代的第三次重大變革。AI 技術(shù)正深度融入金融行業(yè)的方方面面，無(wú)論是服務(wù)外部客戶，還是內(nèi)部數(shù)字員工的助力，大模型都展現(xiàn)出了巨大的提效潛能和創(chuàng)新價(jià)值。

然而，技術(shù)的革新也伴隨著前所未有的安全風(fēng)險(xiǎn)。李一浩結(jié)合 OWASP LLM 應(yīng)用十大安全風(fēng)險(xiǎn)重點(diǎn)闡述提示詞注入、過(guò)度代理權(quán)限、數(shù)據(jù)投毒以及無(wú)界資源消耗等新型威脅，并通過(guò)生動(dòng)的場(chǎng)景演示說(shuō)明攻擊者如何利用 AI 應(yīng)用的靈活性竊取數(shù)據(jù)、攻擊內(nèi)部業(yè)務(wù)系統(tǒng)甚至獲取遠(yuǎn)程控制權(quán)限。

面對(duì)日趨復(fù)雜的安全風(fēng)險(xiǎn)，李一浩也提出了貫穿 AI 基礎(chǔ)設(shè)施安全、AI 模型平臺(tái)安全和 AI 智能體安全的三大防線體系。

AI 基礎(chǔ)設(shè)施層，火山引擎通過(guò) Jeddak AICC 機(jī)密計(jì)算平臺(tái)構(gòu)建了端云一體的可信環(huán)境。AI 模型平臺(tái)層，火山引擎通過(guò)大模型安全測(cè)評(píng)平臺(tái)對(duì)模型進(jìn)行合規(guī)準(zhǔn)入檢驗(yàn)，并內(nèi)置模型完整性校驗(yàn)、混淆加固等能力，保障模型本身的安全；AI 智能體層，火山引擎構(gòu)建以大模型應(yīng)用防火墻、AI 智能體零信任安全、安全智能體、智能體安全運(yùn)營(yíng)管理為核心的防護(hù)體系。

最后，李一浩總結(jié)道，AI 安全不是一個(gè)可選的附加項(xiàng)，而應(yīng)成為每一個(gè) AI 系統(tǒng)的“默認(rèn)配置”。火山引擎致力于通過(guò)一套可信、合規(guī)、安全的一體化解決方案，為金融行業(yè)的 AI 應(yīng)用保駕護(hù)航。

大模型應(yīng)用防火墻：以模治模構(gòu)筑金融 AI 安全屏障

火山引擎大模型安全解決方案專家林澤韜則聚焦大模型應(yīng)用防火墻產(chǎn)品，進(jìn)行了主題為《金融行業(yè)大模型應(yīng)用防火墻實(shí)踐經(jīng)驗(yàn)》的精彩演講。他系統(tǒng)介紹了大模型在金融行業(yè)應(yīng)用中所面臨的新型安全挑戰(zhàn)，并深入分享了火山引擎大模型應(yīng)用防火墻的架構(gòu)設(shè)計(jì)、核心能力及行業(yè)落地實(shí)踐。

林澤韜指出，隨著大模型在智能投顧、風(fēng)險(xiǎn)控制等金融場(chǎng)景中的廣泛應(yīng)用，新的安全風(fēng)險(xiǎn)也隨之凸顯。他重點(diǎn)剖析了提示詞注入攻擊、內(nèi)容安全與合規(guī)風(fēng)險(xiǎn)、算力消耗與資源濫用、多模態(tài)安全隱患，以及以智能體為跳板來(lái)攻擊內(nèi)部服務(wù)的五大風(fēng)險(xiǎn)挑戰(zhàn)。

面對(duì)這些挑戰(zhàn)，火山引擎構(gòu)建了以“大模型應(yīng)用防火墻”為核心的防護(hù)體系。

他強(qiáng)調(diào)道，火山引擎的大模型應(yīng)用防火墻區(qū)別于傳統(tǒng)的安全防控體系，其在大模型的基礎(chǔ)上構(gòu)建了“以模治模”的能力，依托 GPU 加速的語(yǔ)義模型而非傳統(tǒng)規(guī)則庫(kù)，在提升檢測(cè)精度的同時(shí)顯著降低誤報(bào)率與運(yùn)營(yíng)成本。此外，大模型應(yīng)用防火墻還具備低延時(shí)、流式檢測(cè)攔截等優(yōu)勢(shì)，極大地優(yōu)化了安全體驗(yàn)。

目前該體系具備提示詞攻擊防護(hù)、模型濫用防護(hù)、算力DDoS 防護(hù)、數(shù)據(jù)防泄漏四大核心能力，適用于大模型應(yīng)用安全合規(guī)、大模型應(yīng)用風(fēng)險(xiǎn)防護(hù)、AI 應(yīng)用安全防護(hù)三大核心應(yīng)用場(chǎng)景。

“在落地層面，大模型應(yīng)用防火墻支持 SaaS 與私有化部署，已廣泛應(yīng)用于證券等金融機(jī)構(gòu)。某頭部券商接入后，大模型防火墻通過(guò)提示詞攻擊全面防護(hù)，實(shí)現(xiàn)了惡意提示詞攻擊 99.8%的超高攔截率，助力該公司的智能客服安全合規(guī)上線。”林澤韜補(bǔ)充道。

結(jié)語(yǔ)：

如今，大模型正在重構(gòu)金融行業(yè)的創(chuàng)新邊界，但同時(shí)也帶來(lái)了諸多安全挑戰(zhàn)。火山引擎通過(guò)多層次、一體化的防護(hù)體系，為金融行業(yè)提供了從基礎(chǔ)設(shè)施到應(yīng)用場(chǎng)景的全棧安全能力。

未來(lái)，火山引擎將繼續(xù)深化“可信、合規(guī)、安全”的理念，與行業(yè)共同推動(dòng)大模型在金融領(lǐng)域的安全、穩(wěn)健與創(chuàng)新應(yīng)用，賦能智能金融新時(shí)代。

「金融大模型安全守護(hù)月系列直播——云上話 AI 安全」活動(dòng)仍在繼續(xù)。9 月 17 日下午 14:30-16:00，第二期直播活動(dòng)將聚焦 “金融大模型安全避坑指南”話題，邀請(qǐng)多位金融行業(yè)一線專家，共同探討金融企業(yè)應(yīng)用大模型的安全風(fēng)險(xiǎn)和應(yīng)對(duì)策略。屆時(shí)，51CTO 技術(shù)棧視頻號(hào)、51CTO 官網(wǎng)將同步直播！