企業(yè)AI現(xiàn)狀:為何邊緣原生是實現(xiàn)投資回報率的最快路徑
Akamai近期委托Forrester進(jìn)行了一項名為《企業(yè)AI現(xiàn)狀:積累經(jīng)驗,管理風(fēng)險》的研究,旨在更好地了解企業(yè)如何采用人工智能及其優(yōu)先事項。
我們從本次研究中獲得了多項關(guān)鍵洞察。例如,76%的企業(yè)采用AI解決方案旨在提升客戶體驗與運營效率,71%的企業(yè)將提高客戶留存率視為另一大關(guān)鍵驅(qū)動力。當(dāng)被問及如何衡量AI應(yīng)用成效時,受訪者普遍指出客戶體驗提升(75%)和收入增長(74%)是主要指標(biāo),反映出客戶滿意度與企業(yè)成長之間的緊密關(guān)聯(lián)。
而其中最具啟示意義的發(fā)現(xiàn)或許是:成功應(yīng)用AI的企業(yè),普遍采用了分階段、循序漸進(jìn)的實施模式。

如您所在的企業(yè)正在考慮構(gòu)建和部署 AI 賦能應(yīng)用程序,或您正在尋找合適的 AI 推理運行環(huán)境
點擊鏈接了解 Akamai AI 推理云解決方案,現(xiàn)在申請試用可得高達(dá) 500 美元專屬額度
企業(yè)AI應(yīng)用正處在轉(zhuǎn)折點
隨著企業(yè)AI應(yīng)用在規(guī)模、成熟度與技術(shù)愿景上逐步交匯,整個領(lǐng)域正迎來關(guān)鍵轉(zhuǎn)折。企業(yè)開始規(guī)劃從局部試點邁向全組織范圍的AI推廣,這一轉(zhuǎn)變亟需依托可擴展的邊緣AI架構(gòu)實現(xiàn)全面優(yōu)化。
為迎接這一挑戰(zhàn),走在AI應(yīng)用前沿的企業(yè)正采取雙軌策略:一方面,著力構(gòu)建低風(fēng)險、高回報的AI應(yīng)用基礎(chǔ);另一方面,通過持續(xù)的技術(shù)實踐,為未來更復(fù)雜的AI場景做好能力儲備。
下一波AI應(yīng)用將呈現(xiàn)出三大特征:更密集的計算、更廣的全球分布式部署,以及更快的數(shù)據(jù)處理能力。試想在全球直播、客戶服務(wù)熱線或多人在線游戲聊天中實現(xiàn)大規(guī)模實時語言翻譯,且全程穩(wěn)定無中斷;或是通過AI視覺搜索與物體識別技術(shù),讓消費者在店內(nèi)隨手拍攝商品,即可瞬時匹配相似產(chǎn)品。
在此背景下,技術(shù)決策者必須直面這一核心議題:如何構(gòu)建既能提供實時性能、彈性應(yīng)對不確定需求,又能符合各地合規(guī)要求的AI擴展體系?
轉(zhuǎn)向邊緣原生基礎(chǔ)設(shè)施,為未來做準(zhǔn)備
當(dāng)前,企業(yè)應(yīng)考慮向邊緣原生執(zhí)行模型轉(zhuǎn)型,從而為應(yīng)對未來更復(fù)雜的邊緣AI應(yīng)用場景奠定基礎(chǔ)。即便在現(xiàn)階段,面向客戶的AI實際應(yīng)用已提出嚴(yán)苛要求。
以聊天機器人、產(chǎn)品推薦、語音助手等應(yīng)用為例,其性能高度依賴低延遲。響應(yīng)時間相差僅數(shù)百毫秒,便足以左右用戶體驗,決定其選擇“欣然接受”還是“失望放棄”。這類工作負(fù)載亦具有顯著的突發(fā)性特征——在瞬時促銷、熱門媒體事件或社交傳播活動中,流量可能急劇飆升。與此同時,由于常涉及敏感用戶數(shù)據(jù),企業(yè)必須對數(shù)據(jù)的傳輸路徑與處理方式實施嚴(yán)格管控。
傳統(tǒng)云架構(gòu)在面對這些挑戰(zhàn)時已顯乏力。相比之下,邊緣原生架構(gòu)將計算能力部署至更靠近用戶的邊緣節(jié)點,從而實現(xiàn)更低延遲以保障體驗滿意度,支持符合全球布局與屬地合規(guī)要求的區(qū)域化部署,并具備在突發(fā)流量下平穩(wěn)擴展、同時避免成本激增的能力。
轉(zhuǎn)向邊緣原生基礎(chǔ)設(shè)施,不僅能夠助力企業(yè)穩(wěn)健走過AI技術(shù)浪潮中尚未成熟的早期應(yīng)用階段,更是在為即將到來的AI規(guī)模化未來做好關(guān)鍵準(zhǔn)備。
場景:邊緣AI——從理論到實踐
場景一:自動化客戶服務(wù)解決
以Forrester研究中識別出的重點企業(yè)場景之一——自動化客戶服務(wù)解決為例。目前,仍有大量企業(yè)依賴人工坐席處理高頻常規(guī)咨詢,導(dǎo)致響應(yīng)效率受限,形成服務(wù)瓶頸。借助邊緣原生架構(gòu),用戶請求可在邊緣節(jié)點直接完成排序與分類,并在觸及后端系統(tǒng)之前,就已通過內(nèi)置安全策略被準(zhǔn)確路由至對應(yīng)處理單元。
運行于Linode Kubernetes Engine(LKE)上的輕量級AI模型,能夠結(jié)合托管數(shù)據(jù)庫與緩存內(nèi)容,實時生成流式響應(yīng),在提升回復(fù)速度的同時保障信息準(zhǔn)確。其直接效果是響應(yīng)時間顯著縮短、人工轉(zhuǎn)接率下降,以及客戶滿意度的整體提升。目前,超半數(shù)企業(yè)已在推進(jìn)自動化客戶服務(wù)解決方案,其中近三分之一將其視為優(yōu)先級最高的AI應(yīng)用場景。
場景二:個性化推薦系統(tǒng)
另一個典型應(yīng)用是個性化推薦。無論是在電商場景中精準(zhǔn)推薦商品,還是在內(nèi)容平臺上實現(xiàn)智能推送,個性化體驗都必須做到“瞬時完成”。邊緣原生部署使系統(tǒng)能夠在本地完成用戶行為數(shù)據(jù)的采集與處理,并內(nèi)置隱私保護(hù)機制。結(jié)合鄰近部署的數(shù)據(jù)庫與緩存,歷史交互記錄的檢索速度得以大幅提升,而AI模型則可根據(jù)任務(wù)復(fù)雜度靈活調(diào)度至LKE或虛擬機運行。
從數(shù)據(jù)輸入、模型推理到結(jié)果輸出的全流程可在200毫秒內(nèi)完成。據(jù)Forrester調(diào)研,正是這種極致的響應(yīng)能力,使超過50%的企業(yè)將個性化功能列為其AI核心能力。
此外,同一模型架構(gòu)也可支撐未來更為復(fù)雜的應(yīng)用場景,例如視覺搜索(用戶上傳圖片即獲得實時AI推薦)或語音交互應(yīng)用(依托低延遲流式處理實現(xiàn)自然對話體驗)。隨著企業(yè)不斷拓展這些前沿應(yīng)用,對貼近用戶側(cè)的計算與存儲能力的需求也將愈發(fā)凸顯。
通過合適的技術(shù)棧降低風(fēng)險
要實現(xiàn)AI的大規(guī)模成功應(yīng)用,工程師需要一個專為韌性、可預(yù)測性與安全性而構(gòu)建的平臺。這也正是Akamai的愿景所在:打造一個不僅能夠支持核心區(qū)域當(dāng)前工作負(fù)載,更能持續(xù)演進(jìn)、在未來將AI能力更貼近用戶的技術(shù)棧。
如今,Akamai應(yīng)用平臺通過將開源項目集成至生產(chǎn)就緒的環(huán)境中,幫助團隊簡化部署流程,有效降低搭建應(yīng)用的復(fù)雜度。Linode Kubernetes Engine(LKE)則憑借自動擴縮容能力,使模型快速部署更為便捷,并結(jié)合包年包月定價模式,確保即使在突發(fā)需求期間,成本仍保持可預(yù)測。
托管數(shù)據(jù)庫提供低延遲讀取與內(nèi)置故障轉(zhuǎn)移機制,保障客戶關(guān)鍵業(yè)務(wù)路徑的穩(wěn)定可靠;虛擬機則為長時間運行或?qū)I(yè)化工作負(fù)載提供了靈活承載能力,所有這些服務(wù)均獲得Zero Trust(零信任)集成架構(gòu)的支持。
無論是現(xiàn)在還是未來,貫穿這些技術(shù)組件的核心是就近性與可預(yù)性。AI應(yīng)用已在Akamai全球覆蓋范圍內(nèi)實現(xiàn)成本穩(wěn)定、性能可靠的運行。隨著GPU及平臺可用性的持續(xù)擴展,整個系統(tǒng)正朝著將這些優(yōu)勢進(jìn)一步延伸至用戶側(cè)的方向穩(wěn)步演進(jìn)。
安全與合規(guī)始于設(shè)計
擴展AI規(guī)模的一個關(guān)鍵挑戰(zhàn),在于如何贏得企業(yè)與客戶對該技術(shù)的雙重信任。根據(jù)Forrester的研究,63%的組織將安全視為關(guān)注點,55%擔(dān)心合規(guī)問題,45%害怕如果出現(xiàn)問題會損害品牌聲譽。這些風(fēng)險是真實存在的,但可以通過直接構(gòu)建在邊緣的安全優(yōu)先方法來緩解。
邊緣原生模型允許在請求到達(dá)AI系統(tǒng)之前強制執(zhí)行策略。流量可以被隔離、速率限制,并通過防火墻和機器人防御進(jìn)行過濾。零信任原則不僅適用于用戶,也適用于工作負(fù)載本身。
此外,企業(yè)還可采用更安全的部署實踐,例如金絲雀發(fā)布(將新功能先部署給一小部分用戶進(jìn)行測試)和紅隊演練(在潛在弱點影響客戶之前主動發(fā)現(xiàn)并修復(fù))。對于認(rèn)為現(xiàn)有平臺存在不足的組織,預(yù)構(gòu)建的參考架構(gòu)與“黃金路徑”也提供了一種無需從零開始、即可持續(xù)且安全構(gòu)建系統(tǒng)的方法。
借助邊緣原生模型,企業(yè)能夠在持續(xù)推進(jìn)技術(shù)創(chuàng)新的同時,有效守護(hù)品牌聲譽與客戶體驗。
全球邊緣AI應(yīng)用的三階段
根據(jù)Forrester關(guān)于企業(yè)采用模式的研究,一項關(guān)鍵洞察是:AI的落地并不需要一次性全面鋪開。分階段實施的策略能夠讓企業(yè)在追求技術(shù)雄心與管控風(fēng)險之間取得平衡。
第一階段
在AI領(lǐng)域走在前列的企業(yè),通常從聚焦于具體場景的試點項目入手,例如針對某一類支持請求的自動化服務(wù)處理。在此階段,企業(yè)會設(shè)定明確的成功指標(biāo)——包括響應(yīng)時間、自動化率與問題升級閾值等,并建立相應(yīng)的風(fēng)險管控機制。
第二階段
當(dāng)試點項目驗證成效后,企業(yè)進(jìn)入擴展階段。這一階段可能包括將個性化推薦能力延伸至網(wǎng)站、移動應(yīng)用等多個客戶觸點,并將該功能部署到多個區(qū)域。這也呼應(yīng)了超過70%企業(yè)所表達(dá)的近期全球化布局目標(biāo)。
第三階段
進(jìn)入第三階段,組織將進(jìn)一步把AI應(yīng)用拓展至視覺搜索、程序化內(nèi)容生成等新興領(lǐng)域。此時,企業(yè)已建立起完善的性能與安全標(biāo)準(zhǔn)體系,從而能夠在可控的前提下持續(xù)推進(jìn)創(chuàng)新。
基于邊緣的AI基礎(chǔ)
數(shù)據(jù)表明,企業(yè)正在全面投入AI。應(yīng)用率持續(xù)攀升,越來越多的公司正將AI與投資回報率明確關(guān)聯(lián),并設(shè)定將AI技術(shù)推向全球的清晰目標(biāo)。而最終的成功,將高度依賴于執(zhí)行效果。
面向客戶的AI應(yīng)用具有低延遲要求、流量突發(fā)性強及數(shù)據(jù)敏感性高等特征。邊緣原生架構(gòu)為支撐企業(yè)級AI所需的基礎(chǔ)設(shè)施提供了更優(yōu)的路徑。
對AI工程師而言,核心挑戰(zhàn)在于構(gòu)建既贏得用戶信任、又具備企業(yè)級擴展能力的智能應(yīng)用。Akamai認(rèn)為,邊緣是實現(xiàn)企業(yè)AI愿景的關(guān)鍵所在。我們的分布式平臺致力于幫助企業(yè)在全球范圍內(nèi)部署AI,同時確保安全、性能與合規(guī)性不受妥協(xié)。
了解更多
欲獲取所有結(jié)果,請下載完整的Forrester報告。

如您所在的企業(yè)正在考慮構(gòu)建和部署 AI 賦能應(yīng)用程序,或您正在尋找合適的 AI 推理運行環(huán)境
點擊鏈接了解 Akamai AI 推理云解決方案,現(xiàn)在申請試用可得高達(dá) 500 美元專屬額度

























