編輯｜言征
現代企業中有一個無名英雄：工作流程。它有時被稱為規則引擎、流程流、單狀態機或軟件定義的工作流程。在用戶界面（UI）中，它是一個“向導”。開發者通常（有些輕蔑地）稱它為“業務邏輯”。
各位這里不妨花點時間來欣賞這個無名英雄的獨特威嚴，因為我們即將把硅谷炙手可熱的關注之光投向它的門檻：AI代理。
關于AI、大型語言模型（LLMs）和代理應用程序已經有很多的討論，很難相信我們中有多少人（包括我）仍然對它們感到困惑。但我們有一個很好的理由：AI代理是我們安靜業務英雄——工作流程的實施細節。
1.代理是方式工作流是內容
這個區別很關鍵，因為AI代理可以被定義得相當直接：你的業務應用程序在整個工作流程中使用基礎模型。我們在Anthropic的朋友區分代理工作流程和代理，其中代理可以循環和分支，并且可以某種程度上自主。根據我的經驗，業務工作流程也這樣做；這是一個模糊的界限。
2.讓我們談談AI如何改變工作流應用
一個代理應用程序使用基礎模型來識別在工作流程中進行干預的位置。例如：基礎模型可以是出色的分類器，用更靈活、開箱即用且性能更高的模型取代費盡心思編碼的規則集或監督學習模型。
指向一個基礎模型到一個電子郵件收件箱或賬戶摘要，并開始詢問：當前情況是應用程序知道如何處理的嗎？根據非技術業務專家編寫的規則，這個案例應該升級嗎？這個項目應該進入專業質量控制（QC）流程，還是默認的QC流程？這封電子郵件是垃圾郵件嗎？騷擾？銷售機會？客戶流失風險？
這里的模型輸出是“是”或“否”，這比聊天機器人呈現的準確性風險要小得多。這是你現在就可以發貨的東西，安全且結果可衡量。
有效、廉價的自然語言分類器的突然出現將加速許多企業應用程序，因為業務需求與編碼到軟件中的規則之間的距離目前是財富500強公司中人類痛苦的主要來源。事情被聽錯。事情衰敗并失去同步。技術限制向上游流動并被編碼到業務流程中。
代理應用程序彌合了我們的意圖與我們的軟件之間的這一差距，因為大部分業務邏輯可以用自然語言表示，邀請新的參與者和貢獻者進入軟件開發過程。這與1985年左右電子表格的到來和2005年左右協作電子表格的到來一樣，是企業內部權力的重大轉變。
企業中到處都是小而昂貴的工作流程故障，AI代理為應用開發者提供了一套強大的工具來應對它們。
但代理對工作流程的意義不僅僅是分類器！它們還可以開始評估輸出（問題真的解決了嗎？），作為文本生成器（這里是將系統事件日志轉換為狀態更新），有時甚至通過執行功能（預訂會議、更新庫存、派遣卡車）來啟動行動。
所有這些都可以通過傳統的業務軟件和人工勞動隊列來完成，但通常正確執行的成本非常高。
低代碼時刻和高代碼未來 AI正在經歷一個消費者聊天機器人文化時刻，并且在代碼助手方面也取得了一些進展。我們尚未看到——可能今年會發生——AI從軟件和其他一些小眾領域擴展到其他商業領域，特別是那些似乎在企業內部產生最多定制應用程序的運營層。
根據其財務披露，第一家看到AI投資正回報的公司不是一個純技術流玩家。它是一個運營軟件即服務（SaaS）提供商，ServiceNow。它與Workday和Salesforce一起，提供了一個低代碼橋梁，連接業務意圖（由非技術主題專家記錄）和軟件自動化。AI正在提供幫助。
向這些率先行動并使這項工作取得成果的人們致敬。我認為這將遵循大多數低代碼解決方案的模式，它們承諾賦予業務用戶權力并減少IT支出，但對平臺供應商來說有一個非微不足道的障礙。
我認為下一波將是這些工作流程引擎的高代碼復制，因為實施并不難。開放的基礎模型和現有框架（包括我的團隊維護的Spring AI）可以讓團隊在幾天內啟動。這可能看起來像一個大型GUI平臺，用于業務任務工作流程，但更快、更安全的路徑將是找到小的、可發貨的干預點……無處不在。今天這看起來比幾年前輕松得多，也快得多。
3.一個假設的代理應用程序：比你想象的要小
想象一個客戶購買了一臺室內自行車訓練器，它發貨了。管理自行車的軟件無法連接。客戶要求退貨，我們就開始郵寄自行車。但如果這是一個已知問題，并且有可用的解決方案呢？更新一些固件，去騎行。
你的人類工人在支持過程中可能會識別出這一點，但并不完美。很難每次都知道每個問題。
所以我們構建了一個小型應用程序來尋找這個問題并修復它。首先，我們構建一個監聽器，標記這個已知問題的可能事件。如果它檢測到一個案例，它會在支持系統中插入一條消息，并附上解決方案的鏈接。足夠安全，現在就可以嘗試，結果是可衡量的。一個代理可能會更有主張，并且有良好的記錄。我們能否直接向客戶發送建議的解決方案？我們能否暫停退貨，除非人類支持確認問題？代理能否開始更密切地識別可能的問題，鏈接到特定的固件版本或以其他方式改善對客戶的信息傳遞？
企業中到處都是小而昂貴的工作流程故障，AI代理為應用開發者提供了一套強大的工具來應對它們。
你需要一個平臺 那么我們如何更接近一個世界，讓你的應用開發者能夠在整個業務中部署小型助手呢？
你可以從問為什么他們不能快速部署小型實驗開始，而不需要大型語言模型。這通常看起來像是開發體驗故事：自助服務配置、文檔齊全的黃金路徑到生產、強大的測試自動化，以及為安全和法律監督預先批準的通道。如果應用團隊被授權進行小型、持續的改進，并且外部依賴最小，事情就會進展得很快。
4.我們如何將此應用于我們的代理應用未來？
首先，我們需要將這種自助模式和開發者授權圍繞我們的新好朋友，基礎模型。我們正在看到數據科學或AI工作組和全棧應用開發團隊之間出現能力分離。在我看來，這是健康的角色專業化：有模型提供者，有機器學習（ML）操作模型基礎設施團隊，以及消耗這些資源的應用程序。前兩者可能是作為服務的外部供應商；應用團隊不會是。
為了讓模型提供者和應用團隊之間的這種抽象工作，你需要處理反饋、可觀察性、版本控制和其他問題；至少需要一個正式的API或至少一個好的工作協議。你不希望你的每個應用團隊孤立解決這個問題；你可能需要一個AI框架，但你不需要50個競爭的、資源不足的AI框架。
我也認為，像AI網關這樣的中間件平臺也有作用，它促進了整個組織中的配置、可觀察性、模型反饋和隱私防護措施。
5.未來：從微服務到輕量工作流
如果配置和平臺化得到解決，我們正朝著一個世界前進，我們有很多非常薄的包裝器圍繞著許多以前被鎖定的企業數據，代理應用程序可以巧妙地訪問它們。小型解決方案開始在各處開花。
代碼塊就是一個非常輕量級工具包裝器的示例，具有自然語言指令，說明基礎模型如何與之交互。放大查看 一個非常輕量級工具包裝器的示例，具有自然語言指令，說明基礎模型如何與之交互。
這與我們擁有的云原生架構和通過API通信的微服務的故事相同。新的東西是努力的規模；我們正在從微到Nano轉移。非常薄的包裝器，如模型上下文協議，讓基礎模型請求數據并執行操作。非常輕量的工作流應用程序讓業務用戶用自然語言解釋應該發生什么。平臺按需提供安全性、安全性和適當的模型。幾天內就可以啟動它，用戶可以快速迭代直到它工作。
這里的要點是，代理應用程序革命不是一個將改變尖端科技公司的故事。這是一個現代化故事；一個用你已有的團隊解決現有企業中的小問題的機會。
