本周三，亞馬遜網(wǎng)絡(luò)服務(wù) (AWS) 宣布更新其生成式 AI開發(fā)服務(wù)Amazon Bedrock，增加了新的上下文基礎(chǔ)功能、檢索增強生成 (RAG)的連接器以及其他大型語言模型 (LLM)。

據(jù)亞馬遜生成式人工智能副總裁瓦西·菲洛明 (Vasi Philomin) 稱，這些更新有望簡化企業(yè)基于生成式人工智能的應(yīng)用程序的開發(fā)。

1.上下文基礎(chǔ)

菲洛明表示，上下文基礎(chǔ)（contextual grounding）是 Amazon Bedrock Guardrails 的一個附加功能，旨在進一步降低以LLM生成內(nèi)容出現(xiàn)幻覺反應(yīng)的可能性。

副總裁解釋說，情境基礎(chǔ)使用 RAG 和總結(jié)應(yīng)用程序來檢測模型反應(yīng)中的幻覺，檢查 LLM 反應(yīng)是否基于正確的企業(yè)數(shù)據(jù)，并與用戶的查詢或指令保持一致。

其他主要云服務(wù)提供商，如 Google 和 Microsoft Azure，也已建立系統(tǒng)來評估 RAG 應(yīng)用程序的可靠性，包括響應(yīng)生成指標(biāo)的映射。

微軟使用 Groundedness Detection API 來檢查 LLM 的文本響應(yīng)是否基于用戶提供的源材料，而谷歌最近更新了 Vertex AI 內(nèi)部的接地選項，增加了動態(tài)檢索和高保真模式等功能。

AWS 還在 Amazon Bedrock 中提供了 RAG 評估和可觀察性功能，這些功能使用忠實度、答案相關(guān)性和答案語義相似性等指標(biāo)來對查詢響應(yīng)進行基準測試。AWS 表示，它將為 Amazon Bedrock 提供 Guardrails 作為單獨的 API，供 Bedrock 之外的 LLM 使用。

Philomin 表示：“我們收到大量企業(yè)客戶的請求，他們希望在 Bedrock 之外的模型上使用獨立的 Guardrails API，因此我們發(fā)布了它。”

AWS 的舉措讓人想起IBM 今年 5 月通過工具包提供其 watsonx.governance產(chǎn)品的戰(zhàn)略。雖然 IBM 工具包與 Guardrails API 并不完全可比，但它可用于創(chuàng)建一個存儲庫，用于記錄模型整個生命周期的詳細信息。此類信息有助于評估某個模型選擇背后的理由，或確定哪些利益相關(guān)者參與了模型的生命周期。

2.新的 RAG 連接器和大型語言模型

作為其生成式 AI 服務(wù)更新的一部分，AWS 已向 Amazon Bedrock 添加了新的 RAG 連接器，以允許開發(fā)人員在更多種類的數(shù)據(jù)源上建立模型。

Philomin 表示，除了 Amazon S3 之外，開發(fā)人員現(xiàn)在還可以使用 Salesforce、Confluence 和 SharePoint for RAG 的連接器。他表示，SharePoint 連接器目前處于預(yù)覽階段。

AWS 還宣布，它將在 Bedrock 中添加微調(diào)Anthropic 的 Claude 3 Haiku 的功能。據(jù) Philomin 稱，微調(diào) Claude 3 Haiku 的功能目前處于預(yù)覽階段，目前尚未在任何其他云服務(wù)提供商上提供，并且受到企業(yè)客戶的熱烈追捧。

其他更新包括 Amazon MemoryDB 向量搜索的普遍可用性和 Agents for Bedrock 的新功能。

Philomin 表示：“現(xiàn)在，代理可以在多個交互中保留記憶，記住你上次離開的位置，并根據(jù)之前的交互提供更好的建議。”他指出，代理現(xiàn)在可以解釋代碼來處理復(fù)雜的數(shù)據(jù)驅(qū)動用例，例如數(shù)據(jù)分析、數(shù)據(jù)可視化、文本處理、求解方程式和優(yōu)化問題。

3.Amazon App Studio 助力用自然語言開發(fā)應(yīng)用程序

AWS 周三還展示了 AWS App Studio，這是一項基于生成式 AI 的托管服務(wù)，允許任何企業(yè)用戶使用自然語言提示構(gòu)建和部署應(yīng)用程序。

AWS 在一份聲明中表示：“使用 App Studio，用戶只需描述他們想要的應(yīng)用程序、他們希望它做什么以及他們想要集成的數(shù)據(jù)源，App Studio 就可以在幾分鐘內(nèi)構(gòu)建一個應(yīng)用程序，而專業(yè)開發(fā)人員可能需要幾天的時間才能從頭開始構(gòu)建類似的應(yīng)用程序。”該公司表示，App Studio 的生成式 AI 助手消除了學(xué)習(xí)任何低代碼工具的需要。

Amazon App Studio 可能會與 谷歌的 Vertex AI Studio 和 微軟的 Copilot Studio等競爭對手的產(chǎn)品展開競爭。

AWS 還宣布全面推出 Amazon Q Apps，這是 Amazon Q Business 中的一項功能，曾在去年的 AWS re:Invent 大會上展示過。

AWS 表示：“借助 Amazon Q Apps，企業(yè)用戶可以在幾秒鐘內(nèi)從對話轉(zhuǎn)變?yōu)榛诠緮?shù)據(jù)的生成式 AI 應(yīng)用。用戶只需在提示中描述他們想要的應(yīng)用程序，Amazon Q 就會立即生成它。”該公司補充說，Amazon Q 允許用戶從現(xiàn)有對話中生成應(yīng)用程序。