全球有兩大AI創(chuàng)新中心，而中國正是其一。這意味著中國企業(yè)將在AI時代優(yōu)先獲得更先進(jìn)、更豐富的AI服務(wù)，構(gòu)建AI加持的業(yè)務(wù)應(yīng)用體系，利用AI實現(xiàn)業(yè)務(wù)出海并在全球競爭中獲得優(yōu)勢，借助AI提升運維和運營效率以實現(xiàn)降本增效等一系列優(yōu)勢。

但工欲善其事必先利其器，在真正享受AI紅利之前，企業(yè)仍需要解決AI技術(shù)所帶來的交付、安全和運營挑戰(zhàn)。

AI時代，應(yīng)用面臨多重挑戰(zhàn)

AI技術(shù)能為企業(yè)的應(yīng)用和業(yè)務(wù)體系帶來海量增益，卻也會讓應(yīng)用體系變得更加復(fù)雜，并帶來安全和運營方面的多種挑戰(zhàn)。

應(yīng)用交付層面：以API為主的前臺調(diào)用模式需要企業(yè)建立更強(qiáng)大的API網(wǎng)關(guān)，以實現(xiàn)負(fù)載均衡和協(xié)議轉(zhuǎn)換；而多云、容器、多硬件平臺（國內(nèi)企業(yè)往往需要使用NVIDIA和昇騰等不同硬件來構(gòu)建集群，以便在當(dāng)前效率和未來發(fā)展之間實現(xiàn)平衡）、多專家（以MoE技術(shù)為代表的新一代AI內(nèi)容生成技術(shù)）所帶來的空前復(fù)雜性又對后臺的路由工具提出了艱巨的靈活性考驗。

安全防護(hù)層面：接入設(shè)備、訪問類型的快速擴(kuò)展與AI內(nèi)容生成能力的疊加，也對應(yīng)用的安全防護(hù)體系提出了新的需求。此外，提示詞注入、模型竊取、知識產(chǎn)權(quán)泄露、敏感信息披露等一系列針對生成式AI的攻擊手段層出不窮，使得WAAP（Web 應(yīng)用與 API 保護(hù)）成為了AI時代企業(yè)的必選項。

高效運營：AI的介入與應(yīng)用的前后端變化都大幅提升了應(yīng)用體系的復(fù)雜度，要在如此背景下保持應(yīng)用與業(yè)務(wù)的聯(lián)動和高效運營，企業(yè)當(dāng)然需要一套更強(qiáng)大的運營系統(tǒng)，構(gòu)建完善的分析、洞察、策略制定、管理和編排鏈條。同時，伴隨自動化運維理念的崛起，運維人員也希望利用AI技術(shù)來實現(xiàn)應(yīng)用運營的自動化，繼而將團(tuán)隊從海量的事務(wù)性工作中解放出來，實現(xiàn)提質(zhì)增效、專注創(chuàng)新。

靈活部署：由于應(yīng)用架構(gòu)、后端服務(wù)和整體IT架構(gòu)的千差萬別，不同用戶在部署解決上述問題的相關(guān)方案時也希望有更靈活的部署方式；有些用戶希望使用專屬硬件來加速數(shù)據(jù)處理，有些用戶則需要以容器方式來提升相關(guān)方案的部署靈活性，而有些用戶則希望通過SaaS云服務(wù)來匹配自身的多云環(huán)境……不一而足。

當(dāng)然，以上四點還只是方向性的挑戰(zhàn)，在實際操作層面，多重挑戰(zhàn)之下的海量問題還會面臨相互勾連、牽一發(fā)而動全身的局面，很容易使企業(yè)進(jìn)入“剪不斷理還亂”的尷尬境地。因此，企業(yè)在AI時代更需要一套完整的應(yīng)用交付和安全體系來應(yīng)對多重挑戰(zhàn)；而這也是F5要將傳統(tǒng)的負(fù)載均衡產(chǎn)品升級為應(yīng)用交付和安全平臺（Application Delivery and Security Platform, ADSP）的核心動因。

面向AI時代，構(gòu)建應(yīng)用交付與安全的閉環(huán)

F5 ADSP整合了BIG-IP、NGINX和SaaS云服務(wù)等多種F5經(jīng)典產(chǎn)品，并以可視化方式為用戶提供了統(tǒng)一門戶，讓用戶以更高維的視角和方法來統(tǒng)籌應(yīng)用交付與安全所面臨的多重挑戰(zhàn)。ADSP平臺將為用戶提供四大能力：

·        面向所有應(yīng)用的全面交付服務(wù)

·        面向所有應(yīng)用的全面安全防護(hù)服務(wù)

·        能夠以多種方式部署在多種環(huán)境

·        能夠整合網(wǎng)絡(luò)運營、安全運營和DevOps，使用戶獲得全能運維（XOps）能力

而為了提升應(yīng)用交付與安全的效能，F(xiàn)5也在努力將AI技術(shù)引入ADSP平臺，并通過“感知-決策-執(zhí)行”方式構(gòu)建一套自動化的流程，從而提升平臺的自動化水平。

對此，F(xiàn)5北亞區(qū)區(qū)域副總裁張振倫也對F5的技術(shù)思路給出了詳細(xì)的介紹：首先F5在ADSP平臺的BIG-IP、NGINX等產(chǎn)品中廣泛引入了開源Open Telemetry技術(shù)來遙測分布式應(yīng)用的各類指標(biāo)數(shù)據(jù)，從而實現(xiàn)對應(yīng)用性能的實時感知，并以圖形化的方式讓運營人員看到應(yīng)用性能的動態(tài)變化。以大量的日志和實時數(shù)據(jù)為基礎(chǔ)，ADSP中的API網(wǎng)關(guān)、DNS、負(fù)載均衡、AI網(wǎng)關(guān)等功能將根據(jù)策略進(jìn)行動態(tài)調(diào)整，以便動態(tài)優(yōu)化應(yīng)用的性能、降低時延。同樣的，XOps全能運維組件也可以根據(jù)遙測數(shù)據(jù)來自動生成對應(yīng)的腳本和策略，讓參數(shù)和功能的調(diào)整有據(jù)可循。

由此，ADSP便構(gòu)建了一條由感知和AI自動化為驅(qū)動力的應(yīng)用優(yōu)化鏈條，幫助應(yīng)用、基礎(chǔ)架構(gòu)在保持安全的前提下，時刻以更高效率運行。

以時下流行的大模型推理應(yīng)用為例，F(xiàn)5全新推出的TBLB（Token Based Load Balance）方案便可實時感知每組Token消耗的計算時長，并根據(jù)這些信息將不同的推理請求分配給相對空閑的GPU或集群。由此一來，TBLB方案便可在AI推理應(yīng)用中實現(xiàn)更高效的負(fù)載均衡。根據(jù)實際測試，多數(shù)情況下TBLB方案可將GPU集群的利用率提升10-60%。

對于用戶而言，TBLB方案不僅能有效節(jié)省昂貴的GPU計算時間、提高硬件利用率；更能讓擁有多套硬件集群（例如同時擁有NVIDIA GPU計算集群和國產(chǎn)化計算集群的國內(nèi)企業(yè)）或以多云方式構(gòu)建AI業(yè)務(wù)系統(tǒng)的用戶獲得更好的負(fù)載均衡效果，降低AI應(yīng)用的TCO。

當(dāng)然，TBLB還只是F5基于ADSP平臺推出的6大AI解決方案之一。其余方案還包括：

AI智算中心：打造高可用的彈性基礎(chǔ)架構(gòu)，支撐業(yè)務(wù)流和數(shù)據(jù)流的爆發(fā)式增長；

AI數(shù)據(jù)流量管理：確保AI訓(xùn)練、RAG構(gòu)建和AI推理應(yīng)用保持高速、穩(wěn)定且安全的數(shù)據(jù)訪問與傳輸；

AI工作負(fù)載的高效交付：構(gòu)建高效且安全的容器/K8s服務(wù)入口控制；

AI安全：守護(hù)LLM模型、API以及數(shù)據(jù)的全鏈路安全；

AI出海：將AI應(yīng)用快速統(tǒng)一部署在在多云環(huán)境及邊緣側(cè)，并進(jìn)行應(yīng)用發(fā)布和安全防護(hù)。

AI是企業(yè)的發(fā)展契機(jī)，也是F5的前進(jìn)階梯

伴隨AI技術(shù)在產(chǎn)業(yè)端進(jìn)入大規(guī)模部署階段，應(yīng)用本身及其后端的體系架構(gòu)都面臨重大變革，隨之而來的便是應(yīng)用交付、安全防護(hù)、運維運營以及相關(guān)工具部署方式的多重挑戰(zhàn)；而這些變化與挑戰(zhàn)也都對企業(yè)提出了更高要求。

作為應(yīng)用交付領(lǐng)域的老牌勁旅，F(xiàn)5也在新時代加快了自身的進(jìn)化速度；從產(chǎn)品的平臺化發(fā)展，到引入AI技術(shù)并構(gòu)建應(yīng)用交付與安全的自動化機(jī)制，再到提升平臺部署的靈活性，繼而發(fā)布一系列面向AI業(yè)務(wù)的場景化解決方案；F5的進(jìn)化思路相當(dāng)清晰，那便是用技術(shù)和場景革新為用戶賦能，再用多維度的能力增長助力用戶應(yīng)對挑戰(zhàn)。而在這一思路的背后，則是軟件應(yīng)用對于企業(yè)用戶重要性的持續(xù)攀升；今天的AI應(yīng)用如此，未來的新技術(shù)應(yīng)用亦是如此。

對此，張振倫也根據(jù)自身的從業(yè)經(jīng)歷給出了感悟：第一代互聯(lián)網(wǎng)人、網(wǎng)景公司創(chuàng)始人馬克·安德森2011年曾發(fā)表文章說“軟件正在吞噬世界”；15年后我們面對的景象則是“AI正在吞噬世界”。包括AI在內(nèi)的軟件技術(shù)已經(jīng)在過去數(shù)十年中證明了自身的價值和生命力，而在接下來相當(dāng)長的周期里，軟件依然會是企業(yè)進(jìn)行業(yè)務(wù)拓展和創(chuàng)新的主要途徑。

顯然，只要這一邏輯不變，F(xiàn)5就將用自身經(jīng)驗和技術(shù)創(chuàng)新為企業(yè)的軟件護(hù)航，助企業(yè)在應(yīng)用的海洋中行穩(wěn)致遠(yuǎn)。而如今平臺化的ADSP正是F5和廣大用戶實踐軟件價值的重要臺階。

本文轉(zhuǎn)載自IT葡萄皮。