Agent實踐之如何在京東LLM落地 原創
大模型缺少在最少的人類監督下自主行動的能力，以及在復雜環境中適應和執行目標的能力，而AI Agent不僅能自動執行任務，還具有一定程度的代理能力。AI Agent被認為是走向通用人工智能(AGI)的關鍵路徑之一。
根據用戶群體的不同，AI Agent可分為面向C端用戶和B端企業這兩類：
面向C端用戶，AI Agent的定位是“個人助理”，提供個性化的日常任務輔助和智能交互服務。通過學習用戶偏好來定制服務，如日程管理、信息搜索和娛樂互動，同時注重用戶隱私保護，確保數據安全。
面向B端企業，AI Agent的定位是“數字員工”，專注于自動化工作流程、數據分析和客戶服務等。通過提高效率、輔助決策、風險管理和跨部門協作來增強企業運營。AI Agent的架構可以與現有系統集成，具有高度的可擴展性和成本效益，能夠持續優化以適應企業需求。
無論是作為個人助理還是數字員工，AI Agent的核心價值都在于提高效率、降低成本、提供決策支持，并在與用戶的互動中創造更好的體驗。
當前，AI Agent的落地應用仍處于初期階段，企業在實踐過程中會遇到專業性、協作性、可靠性、安全性等來自多方面的挑戰。
隨著技術的進步，AI Agent的能力將越來越強大，能夠承擔更多的角色和責任，但當前企業在落地AI Agent時，應采取如下策略：
第一，將AI Agent作為輔助，增強現有工具，而不是獨立自主的提供服務;
第二，采用人機協同(human-in-the-loop)的運作方式，AI Agent處理大量數據和執行重復性任務，而人類則負責決策和處理復雜或模糊的情況;
第三，建立清晰的流程防護欄，確保AI Agent實施的安全和可靠，圍繞自主權、責任、穩健的安全措施和數據隱私協議制定法律和道德準則。同時，確保集成先進的安全協議，例如端到端加密和多因素身份驗證;
第四，避免對AI Agent的過度預期，明確AI Agent的適用場景。
京東LLM based Agent應用，比較典型的是京粉智能推廣助手機器人。
其重點主要是三個部分：
Agent架構：核心大模型識別、可擴展且安全可控的架構
記憶：大模型對用戶的理解
快捷回復：用戶意圖路徑規劃
具體實踐同樣是三步：
實戰1：AI Agent對應技術方案主要是工具識別、Agent實現、合理的架構
實戰2：記憶對應技術方案主要是短期記憶、長期記憶、垂類領域知識
實戰3：快捷回復對應實現方案主要是通過歷史信息借助大模型續寫、結合應用功能預設問題、根據應用業務目標規劃用戶使用路徑圖。
根據京東的整體實踐，通過對AI Agent+工具+memory+快捷回復可以解決通用大模型應用的常見問題。
本文轉載自公眾號數字化助推器 作者：天涯咫尺TGH
