在GenAI時代，發展軌跡呈現出典型的“進兩步，退一步”模式。隨著公司逐漸掌握GenAI的獨特復雜性，初期取得的進展往往伴隨著倒退和重復工作，在某些情況下，甚至可能威脅到整個開發進程的停滯。

導致挫敗感和延誤的原因眾多，從人才短缺到持續的數據質量問題不一而足，但根據我們過去兩年與超過150家公司合作開展GenAI項目的經驗來看，在構建過程中幾乎總會遇到兩個主要障礙：

? 創新失敗：流程限制、缺乏專注以及重復性的返工扼殺了創新。那些本應解決有價值問題的團隊，卻往往被困在重復實驗或等待合規團隊的審批上，而這些合規團隊自己也難以跟上開發的步伐。在我們的經驗中，團隊在GenAI方面的“創新”時間中，大約有30%至50%都花在了使解決方案符合規定或等待企業的合規要求明確且可行上，團隊致力于解決無關緊要的問題，重復工作，創造出無法重用的定制化解決方案，且這些方案往往無法產生真正的價值。

? 擴展失敗：風險擔憂和成本超支阻礙了擴展。對于少數展現出真正價值潛力的解決方案，企業在從原型到生產的跨越過程中大多遭遇失敗，在擴展GenAI應用時，安全和風險擔憂(包括聲譽風險)被單獨處理，變得過于龐大且成本高昂，難以克服。

通常，這些問題會在公司試圖從試點階段過渡到運營規模時依次出現，盡管在某些情況下，公司可能會同時遇到這些障礙。不幸的是，它們可以迅速使整個GenAI項目脫軌，而不僅僅是單個應用。盡管錯誤結果或幻覺帶來的風險和努力是這一過程的一部分，但過早的失敗(例如，信息與品牌不一致或違反政策)會在高管中引發過度擔憂，他們可能并未充分準備或熟悉測試過程。在某些情況下，這些糟糕的測試結果導致企業徹底關閉GenAI項目，這不僅阻礙了創新，還中斷了新技能和能力的發展，最終使公司離其預期的價值目標越來越遠。

無論是順序發生還是同時發生，這些問題往往歸結為快速推進與謹慎行事之間的權衡。經驗告訴我們，這是一個錯誤的抉擇。如果公司在構建平臺時深思熟慮——一個集中化的驗證服務集合(例如，倫理提示分析、大型語言模型(LLM)可觀測性、預批準提示庫、多云自動化和訪問控制)和資產(例如，應用模式、可重用代碼和培訓材料)，這些服務和資產易于查找和使用(并可重用)，那么公司就能在管理風險的同時實現創新。將這些功能集成到一個單一平臺中，可以確保產品更高效地滿足合規要求，根據我們的經驗，這有助于幾乎完全消除通常所需的30%至50%的非必要工作。

我們為各行各業的公司構建數十個GenAI解決方案的經驗表明，最成功的GenAI平臺包含三個核心組件：

1. 自助服務門戶

支持創新和擴展需要分布式的GenAI能力，以便業務中的數十個甚至數百個團隊能夠輕松且安全地訪問工具和服務。一個安全且合規的自助服務門戶可以通過兩種方式滿足這一需求：

? 開發者賦能：為了有效，該門戶及其底層基礎設施(例如，OpsLevel、Cortex、Port)應提供對所有驗證過的GenAI產品和功能的單一訪問點。通過這種方式，開發者可以在幾分鐘內實例化預存在的應用模式，并開始使用預配置為安全和可擴展的批準功能開發他們的特定解決方案。門戶的網頁界面應融入用戶設計原則，如簡單的點擊過程來配置和部署GenAI產品，以及提供一個企業良好的文檔和學習模塊庫，涵蓋所有GenAI主題(例如，如何部署新資源，如何利用現有應用程序)，以允許開發者提升自己的能力。最好的門戶允許貢獻模式，即企業中的開發者可以貢獻內容和功能(例如，新庫和應用模式改進)。

? 訪問管理服務：這個集中式門戶還可以提供對GenAI管理服務的訪問，如可觀測性和分析儀表板，以及內置的預算控制和報告，以防止成本超支。使數據訪問控制、跟蹤治理和審批流程以及了解應用程序的當前狀態變得簡單，使企業能夠自信地運營數百個應用程序。這些控制可以根據環境(例如，臨時沙盒的低預算，高容量測試賬戶的高預算)進行定制，并與AI網關的成本治理組件集成，使團隊和IT領導者能夠監控持續的開發成本。

2. 開放架構以重用GenAI服務

技術在擴展方面的關鍵是最大化重用。實現重用依賴于開發一個開放的模塊化架構，該架構能夠集成并輕松交換可重用的服務和功能，這種開放架構方法還可以顯著降低總擁有成本。

領先的企業專注于開發兩組可重用的功能：針對常見原型的完整GenAI應用模式(例如，知識管理、客戶聊天機器人或代理工作流程)和數據產品(例如，RAG和GraphRAG);以及大多數GenAI應用中使用的通用庫(例如，分塊和嵌入、數據重新排序、提示豐富或意圖分類)，許多這些核心功能可以作為服務提供。

雖然傾向于選擇單一提供商來提供所有GenAI服務很誘人，但這種方法往往適得其反，因為提供商的功能可能并不適合公司的所有特定需求，并限制了對最佳功能的訪問。隨著技術的快速發展，使用提供商提供的服務(公司自身具有專有優勢的除外)更有意義。因此，GenAI平臺應專注于通過開放架構實現集成、配置和訪問。

開放架構的核心構建塊是基礎設施即代碼與策略即代碼相結合，以便在核心層面輕松進行更改，并由平臺上的解決方案快速輕松地采用。平臺提供的庫和組件服務應由一組清晰且標準化的API支持，以協調對GenAI服務的調用。

3. 自動化、負責任的AI護欄

為了降低風險、管理持續合規并提供成本透明度，GenAI平臺應實施自動化治理護欄，一個例子是在軟件開發生命周期或解決方案操作的特定點自動觸發微服務，以審查代碼是否符合負責任的AI標準，這些護欄應自動審計LLM提示和響應，以防止數據政策違規(例如，在輸入數據中使用個人可識別信息[PII])，驗證LLM輸出的合規性(即檢測幻覺、數據泄露和倫理偏見)，跟蹤成本影響(例如，LLM推理和向量數據庫查詢的成本)，并提供將成本追溯到單個解決方案的能力。如果實施得當，平臺可以通過允許應用程序團隊將時間花在構建產品和服務上，而不是處理安全和擴展的細節，從而加速合規和更有效的成本管理，并加速用例的安全實施。對于一家大型石油和天然氣公司來說，這種方法將新GenAI環境的配置時間從六周多縮短到不到一天即可獲得專用、功能齊全的GenAI創新沙箱。此外，GenAI平臺通過多達90%的加速審批流程，因為審查團隊可以快速驗證應用程序是否使用了批準的共享服務。

實施這種獨特平臺需要紀律和時間，但從長遠來看，其在價值和速度方面的回報遠遠超過了投入，通常在部署幾個解決方案后即可實現盈虧平衡，這種基于平臺的做法對于加速創新、大規模運營、避免常見但致命的陷阱以及允許公司捕捉GenAI的承諾至關重要。