邊緣AI通過將AI直接引入IT設備和系統，有望大幅減少延遲并加快響應時間。

如果你還沒聽說過邊緣AI，那么你很快就會了解到的。聽從其眾多支持者的說法，這項技術即將簡化AI的處理流程。

德勤科技、媒體和電信領域AI業務全球負責人巴里斯·薩雷爾表示，邊緣AI帶來了一次激動人心的轉變。“我們不再依賴云服務器(需要數據來回傳輸)，而是將AI模型戰略性地直接部署到用戶的設備上，包括智能手機、個人電腦、物聯網設備和其他本地硬件，”他通過電子郵件解釋道。“因此，數據是在本地生成和處理的，從而能夠在沒有公有云連接所帶來的延遲、成本和隱私顧慮的情況下，實現實時處理和決策。”

多重優勢

由于數據是在收集點附近處理的，邊緣AI通過減少延遲并加快響應時間，提供了顯著優勢，凱捷咨詢旗下Synapse部門的AI和數據負責人馬特·吉爾伯特說。他還指出，邊緣AI還最大限度地減少了網絡上的數據傳輸，提高了隱私和安全性。“這使得邊緣AI對于需要快速響應時間的應用程序或在連接有限或連接成本高昂的環境中運行的應用程序至關重要。”當收集到大量數據，或需要保護隱私和/或將關鍵數據保留在本地時，情況更是如此。

首批采用者

邊緣AI是一項基礎技術，能夠促進未來增長、推動運營轉型并提高效率。薩雷爾說：“它使設備能夠獨立處理復雜任務，改變數據處理方式，并減少對云的依賴。”例子包括：

? 醫療保健。增強便攜式診斷設備和實時健康監測，提供即時見解和潛在的生命拯救警報。

? 自動駕駛汽車。實現實時決策和導航，確保安全和運營效率。

? 工業物聯網系統。促進現場數據處理，簡化運營并提高生產力。

? 零售。提升客戶體驗并優化庫存管理。

? 消費電子產品。通過改進攝影、語音助手和個性化推薦，提高用戶參與度。

? 智慧城市。邊緣AI可以在實時管理交通流量和城市基礎設施方面發揮關鍵作用，從而有助于改進城市規劃。

第一步

在考慮采用邊緣AI的企業中，云計算公司Nutanix的AI工程副總裁德博吉奧蒂·杜塔建議，應從具體的業務用例開始。“例如，在零售業，需要使用計算機視覺來分析視覺數據，以便進行補貨、防盜檢測和結賬優化，”他在一次在線采訪中說。關鍵績效指標可能包括由于補貨增加而產生的收入(更快速的補貨會帶來更多收入和減少購物車遺棄率)，以及防盜檢測。杜塔說，下一步應該是選擇合適的AI模型和工作流程，確保它們滿足每個用例的需求。

最后，杜塔表示，在實施邊緣AI時，定義基于邊緣的數據/AI架構和堆棧非常重要，該架構/堆棧可能由于業務結構而具有層次結構。“在零售業，我們可以在每家商店使用低成本/低功耗的AI基礎設施，在配送中心使用更強大的邊緣設備。”

采用挑戰

雖然邊緣AI帶來了諸多優勢，但也存在一些重要的缺點。“主要挑戰之一是，與集中式云服務器相比，邊緣設備的計算資源往往有限，因此在這些設備上部署和管理AI模型的復雜性很高，”薩雷爾說。“這可能需要大量的優化工作，以確保模型在這些設備上高效運行。”

另一個潛在的障礙是構建邊緣基礎設施的初始成本，以及開發和維護邊緣AI解決方案所需的專業人才。“還應考慮安全問題，因為邊緣AI需要額外的端點安全措施，因為工作負載是分布的。”薩雷爾說。

盡管存在這些挑戰，但邊緣AI的實時數據處理、減少延遲和增強數據隱私等優勢通常大于缺點，薩雷爾說。“通過仔細規劃和解決這些潛在問題，企業可以成功利用邊緣AI來推動創新并實現其戰略目標。”

也許潛在采用者面臨的最大挑戰是邊緣設備固有的計算限制。根據定義，邊緣AI模型在資源受限的硬件上運行，因此部署的模型通常需要根據特定的用例和環境進行調整，吉爾伯特說。“這些模型可能需要大量電力才能有效運行，這對于電池供電的設備來說可能是一個挑戰。”此外，在響應時間需求與高準確性需求之間取得平衡需要仔細管理。

未來展望

吉爾伯特表示，隨著硬件變得越來越強大，軟件進步繼續降低AI模型的復雜性和大小，邊緣AI正在迅速發展。“這些發展正在降低入門門檻，預示著在不久的將來以及以后將出現越來越多樣化的應用。”