編輯｜言征

出品 | 51CTO技術(shù)棧（微信號：blog51cto）

現(xiàn)代企業(yè)中有一個無名英雄：工作流程。它有時被稱為規(guī)則引擎、流程流、單狀態(tài)機或軟件定義的工作流程。在用戶界面（UI）中，它是一個“向?qū)А薄ｉ_發(fā)者通常（有些輕蔑地）稱它為“業(yè)務(wù)邏輯”。

各位這里不妨花點時間來欣賞這個無名英雄的獨特威嚴，因為我們即將把硅谷炙手可熱的關(guān)注之光投向它的門檻：AI代理。

關(guān)于AI、大型語言模型（LLMs）和代理應(yīng)用程序已經(jīng)有很多的討論，很難相信我們中有多少人（包括我）仍然對它們感到困惑。但我們有一個很好的理由：AI代理是我們安靜業(yè)務(wù)英雄——工作流程的實施細節(jié)。

1.代理是方式工作流是內(nèi)容

這個區(qū)別很關(guān)鍵，因為AI代理可以被定義得相當直接：你的業(yè)務(wù)應(yīng)用程序在整個工作流程中使用基礎(chǔ)模型。我們在Anthropic的朋友區(qū)分代理工作流程和代理，其中代理可以循環(huán)和分支，并且可以某種程度上自主。根據(jù)我的經(jīng)驗，業(yè)務(wù)工作流程也這樣做；這是一個模糊的界限。

2.讓我們談?wù)凙I如何改變工作流應(yīng)用

一個代理應(yīng)用程序使用基礎(chǔ)模型來識別在工作流程中進行干預(yù)的位置。例如：基礎(chǔ)模型可以是出色的分類器，用更靈活、開箱即用且性能更高的模型取代費盡心思編碼的規(guī)則集或監(jiān)督學(xué)習(xí)模型。

指向一個基礎(chǔ)模型到一個電子郵件收件箱或賬戶摘要，并開始詢問：當前情況是應(yīng)用程序知道如何處理的嗎？根據(jù)非技術(shù)業(yè)務(wù)專家編寫的規(guī)則，這個案例應(yīng)該升級嗎？這個項目應(yīng)該進入專業(yè)質(zhì)量控制（QC）流程，還是默認的QC流程？這封電子郵件是垃圾郵件嗎？騷擾？銷售機會？客戶流失風(fēng)險？

這里的模型輸出是“是”或“否”，這比聊天機器人呈現(xiàn)的準確性風(fēng)險要小得多。這是你現(xiàn)在就可以發(fā)貨的東西，安全且結(jié)果可衡量。

有效、廉價的自然語言分類器的突然出現(xiàn)將加速許多企業(yè)應(yīng)用程序，因為業(yè)務(wù)需求與編碼到軟件中的規(guī)則之間的距離目前是財富500強公司中人類痛苦的主要來源。事情被聽錯。事情衰敗并失去同步。技術(shù)限制向上游流動并被編碼到業(yè)務(wù)流程中。

代理應(yīng)用程序彌合了我們的意圖與我們的軟件之間的這一差距，因為大部分業(yè)務(wù)邏輯可以用自然語言表示，邀請新的參與者和貢獻者進入軟件開發(fā)過程。這與1985年左右電子表格的到來和2005年左右協(xié)作電子表格的到來一樣，是企業(yè)內(nèi)部權(quán)力的重大轉(zhuǎn)變。

企業(yè)中到處都是小而昂貴的工作流程故障，AI代理為應(yīng)用開發(fā)者提供了一套強大的工具來應(yīng)對它們。

但代理對工作流程的意義不僅僅是分類器！它們還可以開始評估輸出（問題真的解決了嗎？），作為文本生成器（這里是將系統(tǒng)事件日志轉(zhuǎn)換為狀態(tài)更新），有時甚至通過執(zhí)行功能（預(yù)訂會議、更新庫存、派遣卡車）來啟動行動。

所有這些都可以通過傳統(tǒng)的業(yè)務(wù)軟件和人工勞動隊列來完成，但通常正確執(zhí)行的成本非常高。

低代碼時刻和高代碼未來 AI正在經(jīng)歷一個消費者聊天機器人文化時刻，并且在代碼助手方面也取得了一些進展。我們尚未看到——可能今年會發(fā)生——AI從軟件和其他一些小眾領(lǐng)域擴展到其他商業(yè)領(lǐng)域，特別是那些似乎在企業(yè)內(nèi)部產(chǎn)生最多定制應(yīng)用程序的運營層。

根據(jù)其財務(wù)披露，第一家看到AI投資正回報的公司不是一個純技術(shù)流玩家。它是一個運營軟件即服務(wù)（SaaS）提供商，ServiceNow。它與Workday和Salesforce一起，提供了一個低代碼橋梁，連接業(yè)務(wù)意圖（由非技術(shù)主題專家記錄）和軟件自動化。AI正在提供幫助。

向這些率先行動并使這項工作取得成果的人們致敬。我認為這將遵循大多數(shù)低代碼解決方案的模式，它們承諾賦予業(yè)務(wù)用戶權(quán)力并減少IT支出，但對平臺供應(yīng)商來說有一個非微不足道的障礙。

我認為下一波將是這些工作流程引擎的高代碼復(fù)制，因為實施并不難。開放的基礎(chǔ)模型和現(xiàn)有框架（包括我的團隊維護的Spring AI）可以讓團隊在幾天內(nèi)啟動。這可能看起來像一個大型GUI平臺，用于業(yè)務(wù)任務(wù)工作流程，但更快、更安全的路徑將是找到小的、可發(fā)貨的干預(yù)點……無處不在。今天這看起來比幾年前輕松得多，也快得多。

3.一個假設(shè)的代理應(yīng)用程序：比你想象的要小

想象一個客戶購買了一臺室內(nèi)自行車訓(xùn)練器，它發(fā)貨了。管理自行車的軟件無法連接。客戶要求退貨，我們就開始郵寄自行車。但如果這是一個已知問題，并且有可用的解決方案呢？更新一些固件，去騎行。

你的人類工人在支持過程中可能會識別出這一點，但并不完美。很難每次都知道每個問題。

所以我們構(gòu)建了一個小型應(yīng)用程序來尋找這個問題并修復(fù)它。首先，我們構(gòu)建一個監(jiān)聽器，標記這個已知問題的可能事件。如果它檢測到一個案例，它會在支持系統(tǒng)中插入一條消息，并附上解決方案的鏈接。足夠安全，現(xiàn)在就可以嘗試，結(jié)果是可衡量的。一個代理可能會更有主張，并且有良好的記錄。我們能否直接向客戶發(fā)送建議的解決方案？我們能否暫停退貨，除非人類支持確認問題？代理能否開始更密切地識別可能的問題，鏈接到特定的固件版本或以其他方式改善對客戶的信息傳遞？

企業(yè)中到處都是小而昂貴的工作流程故障，AI代理為應(yīng)用開發(fā)者提供了一套強大的工具來應(yīng)對它們。

你需要一個平臺 那么我們?nèi)绾胃咏粋€世界，讓你的應(yīng)用開發(fā)者能夠在整個業(yè)務(wù)中部署小型助手呢？

你可以從問為什么他們不能快速部署小型實驗開始，而不需要大型語言模型。這通常看起來像是開發(fā)體驗故事：自助服務(wù)配置、文檔齊全的黃金路徑到生產(chǎn)、強大的測試自動化，以及為安全和法律監(jiān)督預(yù)先批準的通道。如果應(yīng)用團隊被授權(quán)進行小型、持續(xù)的改進，并且外部依賴最小，事情就會進展得很快。

4.我們?nèi)绾螌⒋藨?yīng)用于我們的代理應(yīng)用未來？

首先，我們需要將這種自助模式和開發(fā)者授權(quán)圍繞我們的新好朋友，基礎(chǔ)模型。我們正在看到數(shù)據(jù)科學(xué)或AI工作組和全棧應(yīng)用開發(fā)團隊之間出現(xiàn)能力分離。在我看來，這是健康的角色專業(yè)化：有模型提供者，有機器學(xué)習(xí)（ML）操作模型基礎(chǔ)設(shè)施團隊，以及消耗這些資源的應(yīng)用程序。前兩者可能是作為服務(wù)的外部供應(yīng)商；應(yīng)用團隊不會是。

為了讓模型提供者和應(yīng)用團隊之間的這種抽象工作，你需要處理反饋、可觀察性、版本控制和其他問題；至少需要一個正式的API或至少一個好的工作協(xié)議。你不希望你的每個應(yīng)用團隊孤立解決這個問題；你可能需要一個AI框架，但你不需要50個競爭的、資源不足的AI框架。

我也認為，像AI網(wǎng)關(guān)這樣的中間件平臺也有作用，它促進了整個組織中的配置、可觀察性、模型反饋和隱私防護措施。

5.未來：從微服務(wù)到輕量工作流

如果配置和平臺化得到解決，我們正朝著一個世界前進，我們有很多非常薄的包裝器圍繞著許多以前被鎖定的企業(yè)數(shù)據(jù)，代理應(yīng)用程序可以巧妙地訪問它們。小型解決方案開始在各處開花。

代碼塊就是一個非常輕量級工具包裝器的示例，具有自然語言指令，說明基礎(chǔ)模型如何與之交互。放大查看 一個非常輕量級工具包裝器的示例，具有自然語言指令，說明基礎(chǔ)模型如何與之交互。

這與我們擁有的云原生架構(gòu)和通過API通信的微服務(wù)的故事相同。新的東西是努力的規(guī)模；我們正在從微到Nano轉(zhuǎn)移。非常薄的包裝器，如模型上下文協(xié)議，讓基礎(chǔ)模型請求數(shù)據(jù)并執(zhí)行操作。非常輕量的工作流應(yīng)用程序讓業(yè)務(wù)用戶用自然語言解釋應(yīng)該發(fā)生什么。平臺按需提供安全性、安全性和適當?shù)哪Ｐ汀滋靸?nèi)就可以啟動它，用戶可以快速迭代直到它工作。

這里的要點是，代理應(yīng)用程序革命不是一個將改變尖端科技公司的故事。這是一個現(xiàn)代化故事；一個用你已有的團隊解決現(xiàn)有企業(yè)中的小問題的機會。

本文轉(zhuǎn)載自??51CTO技術(shù)棧??，作者：言征