LangChain 和 Hub 的前世今生
作為L(zhǎng)LM（大模型）開發(fā)框架的寵兒，LangChain在短短幾年內(nèi)迅速崛起，成為開發(fā)者們不可或缺的工具。本文將帶你探討LangChain和LangChainHub的發(fā)展歷程。
一、LLM開發(fā)框架的寵兒
這兩年人工智能領(lǐng)域發(fā)展迅猛，LLM（大模型）的出現(xiàn)功不可沒。LLM的發(fā)展將整個(gè)人工智能領(lǐng)域往前推進(jìn)了一大步，將人工智能這道狹窄的門撐寬了不少，讓我們這些平凡的普通人也有機(jī)會(huì)擠進(jìn)人工智能的發(fā)展中。
普通開發(fā)者在人工智能領(lǐng)域能做什么呢？目前可以發(fā)力的領(lǐng)域是：開發(fā)基于LLM的App。開發(fā)LLM的App有多種實(shí)現(xiàn)方式，LangChain是比較流行的一種。
伴隨著人工智能的發(fā)展，這兩年LangChain發(fā)展迅猛，GitHub上的star數(shù)飆升，近期更是成功融資2億美刀，足見其受歡迎程度。
早期的LangChain只是作為一個(gè)工具或者膠水，集成了多個(gè)LLM和多種外部組件（比如記憶、檢索、向量數(shù)據(jù)庫(kù)、工具集等等），方便開發(fā)者快速開發(fā)基于LLM的App。
我估計(jì)，當(dāng)時(shí)LangChain的創(chuàng)始人對(duì)LangChain的定位也不是很清晰，只是覺得AI應(yīng)用開發(fā)是個(gè)不錯(cuò)的風(fēng)口，先搞了再說(shuō)，這也很符合創(chuàng)業(yè)和商業(yè)邏輯。
二、現(xiàn)在的LangChain
隨著LLM的發(fā)展，一切逐步走向確定性（業(yè)內(nèi)一致認(rèn)為L(zhǎng)LM App是未來(lái)的方向），而且可能伴隨著商業(yè)化的要求，LangChain對(duì)自己的定位發(fā)生了一些改變。
早期的LangChain可能只是想抓住一波LLM的風(fēng)口，對(duì)于自身的定位也不是很清晰，隨著LLM領(lǐng)域更多的發(fā)力點(diǎn)在構(gòu)建基于LLM的App上，LangChain也趕緊調(diào)整了自身的定位。
不再定位在：膠水、工具集合等等理念了。更多的強(qiáng)調(diào)自己是：構(gòu)建LLM App的最大社區(qū)，基于LangChain可以開發(fā)出可推理的應(yīng)用程序。
調(diào)整了定位，生態(tài)也自然做了調(diào)整，同時(shí)軟件架構(gòu)也隨之變化，比如：軟件包上做了很多重構(gòu)和重組，核心能力 和 周邊社區(qū)生態(tài) 的邊界越發(fā)清晰。
同時(shí)，還加入了LangSmith用于監(jiān)控LLM應(yīng)用，還有LangServe用于部署LLM應(yīng)用。一切的步伐都在朝著商業(yè)化發(fā)展。
至此LangChain調(diào)整為以下幾個(gè)核心模塊：
- LangChain-Core：抽象LangChain的內(nèi)核 和 LangChain 表達(dá)式語(yǔ)言。
- LangChain-Community：集成的各種第三方部件。
- LangChain：構(gòu)成LLM應(yīng)用程序需要的 鏈、代理和檢索等。
- LangSmith：開發(fā)者平臺(tái)，可讓 調(diào)試、測(cè)試、評(píng)估和監(jiān)控 基于任何 LLM 框架上構(gòu)建的鏈，并與 LangChain 無(wú)縫集成。
- LangServe：用于將 LangChain 的應(yīng)用 部署為 REST API。
這幾點(diǎn)我們從官網(wǎng)的架構(gòu)圖清晰可見。也可以認(rèn)為此時(shí)的LangChain變成了一個(gè)SAAS化的開發(fā)者平臺(tái)。而它提供的組件、工具、監(jiān)控、部署等生態(tài)，也都是為了讓開發(fā)者方便的開發(fā)出LLM App，然后部署到這個(gè)平臺(tái)上。
LangChain是一個(gè)優(yōu)秀的LLM開源框架，也無(wú)法避免走上常規(guī)的開源軟件商業(yè)化的套路。
三、早期的LangChainHub
LangChain早期推出的各種組件中LangChainHub是其中一個(gè)比較有意思的項(xiàng)目。
早期LangChainHub對(duì)自己的定位如下：LangChainHub 受 Hugging Face Hub 啟發(fā)，是一個(gè)用于發(fā)現(xiàn)和提交常用的 提示、鏈、代理等的平臺(tái)。早期，LangChainHub以Prompt集合為起點(diǎn)，然后很快擴(kuò)展到 鏈 和 代理。
這個(gè)定位我們從之前的LangChainHub在github倉(cāng)庫(kù)上的目錄可見一斑。
此時(shí)的LangChainHub 可以理解為L(zhǎng)angChain 工具包 或者說(shuō) 組件中心，里面提供了高質(zhì)量的組件方便開發(fā)者使用。確確實(shí)實(shí)是一個(gè)分享和探索Prompt、鏈 和Agent的地方。
比如，我們要基于reAct機(jī)制實(shí)現(xiàn)一個(gè)Agent，如果自己寫一堆Prompt（提示詞）那就太費(fèi)勁了。此時(shí)，在LangChainHub就有許多現(xiàn)成可用的Prompt模板，使用簡(jiǎn)單又省事，所以LangChainHub迅速流行開。
四、現(xiàn)在的LangChainHub
那現(xiàn)在的LangChainHub在新的LangChain架構(gòu)圖的哪里呢？我也覺得挺奇怪的，LangChainHub也是算生態(tài)里較為重要的版塊，架構(gòu)圖里居然沒提。
后來(lái)發(fā)現(xiàn)，LangChainHub被放到了LangSmith里。這個(gè)從新版的官方文檔也是清晰可見。
這也算合情合理吧，畢竟LangSmith是一個(gè)開發(fā)者平臺(tái)，用于調(diào)試、測(cè)試、評(píng)估、監(jiān)控基于LLM框架的鏈，在這個(gè)平臺(tái)上，可以使用和創(chuàng)建Prompt。
早期的時(shí)候LangChainHub有Prompt、Chain、Agent，現(xiàn)在也只有Prompt了。我個(gè)人對(duì)LangChainHub的定位多少覺得有些悲涼了，LangChainHub淪為了Prompt模板倉(cāng)庫(kù)。
我認(rèn)為這背后存在兩種可能的原因：
- 可能是商業(yè)化的要求吧，將常用的Prompt模板挪到開發(fā)者平臺(tái)LangSmith里，畢竟LangSmith是有各種付費(fèi)計(jì)劃的。
- 可能是官方對(duì)于LangChainHub里的內(nèi)容開始做收縮，聚焦于Prompt，畢竟Prompt比較獨(dú)立 而且易于交付。而Chains 和 Agents 相對(duì)來(lái)說(shuō)，交付難度高一些，變動(dòng)性也低，所以官方直接將 Chains 和 Agents 沉淀到自己的核心庫(kù)里，這樣也能保證Chains 和 Agents 的質(zhì)量，保證自己的口碑。
LangChainHub真的是始于Prompt，終于Prompt！！！當(dāng)然啦，以后的LangChainHub怎么發(fā)展就不得而知了。
慶幸的是，我們大部分場(chǎng)景還是使用Prompt模板居多，此時(shí)的LangChainHub里依舊能找到大咖們貢獻(xiàn)的復(fù)雜常用的Prompt模板，降低了我們使用ReAct、Tool的門檻。
五、LangChainHub的使用
下面我們通過(guò)一個(gè)示例，來(lái)看看如何使用LangChainHub。
1.拆解LangChainHub的Prompt
比如：要實(shí)現(xiàn)一個(gè)reAct機(jī)制，如果我們自己寫提示詞，那太復(fù)雜了。但是LangChainHub上已經(jīng)有大佬定義好了相關(guān)提示詞。
比如：structured-chat-agent（https://smith.langchain.com/hub/hwchase17/structured-chat-agent），提示詞寫的還是有點(diǎn)復(fù)雜的，大致意思就是：告訴LLM，它可以使用一堆什么格式的工具，然后先推理，選擇合適的工具，執(zhí)行之后，進(jìn)行觀察，觀察完了之后，繼續(xù)推理，如果有答案了，就回復(fù)用戶。
具體內(nèi)容如下：
2.使用LangChainHub
使用LangChainHub上的Prompt就2步：
- 導(dǎo)入LangChainHub庫(kù)
- 從Hub上拉取對(duì)應(yīng)的提示詞
接下來(lái)舉個(gè)例子，比如，LLM在直接計(jì)算浮點(diǎn)數(shù)加減時(shí)會(huì)出現(xiàn)錯(cuò)誤，我要做一個(gè)基于reAct框架的AI Agent，讓這個(gè)Agent幫我精準(zhǔn)計(jì)算浮點(diǎn)數(shù)。這里使用LangChainHub里的structured-chat-agent來(lái)簡(jiǎn)化我的流程。
具體代碼如下：
from langchain import hub
from langchain.agents import create_structured_chat_agent, AgentExecutor, tool
from langchain.memory import ConversationBufferMemory
from langchain.schema import HumanMessage
from langchain.tools import BaseTool
from langchain_openai import ChatOpenAI
model = ChatOpenAI(
model="gpt-3.5-turbo",
openai_api_key="sk-xnAKVC6V0LzBwqGK9fE59cFcBc3f40DcBf96C135112dFb63",
openai_api_base="https://api.aigc369.com/v1",
)
# 定義工具
class SumNumberTool(BaseTool):
name = "數(shù)字相加計(jì)算工具"
description = "當(dāng)你被要求計(jì)算2個(gè)數(shù)字相加時(shí)，使用此工具"
def _run(self, a, b):
return a["title"] + b["title"]
# 加入到工具合集
tools = [SumNumberTool()]
# 使用reAct的提示詞
prompt = hub.pull("hwchase17/structured-chat-agent")
# 創(chuàng)建Agent
agent = create_structured_chat_agent(llm=model, tools=tools, prompt=prompt)
# 創(chuàng)建記憶組件
memory = ConversationBufferMemory(memory_key="chat_history", return_messages=True)
# 創(chuàng)建Agent執(zhí)行器
agent_executor = AgentExecutor.from_agent_and_tools(
agent=agent, tools=tools, memory=memory, verbose=True, handle_parsing_errors=True
)
agent_executor.invoke({"input": "你幫我算下 3.941592623412424 + 4.3434532535353的結(jié)果"})六、總結(jié)
本文主要聊了LangChain和LangChainHub的發(fā)展變遷，還介紹了LangChainHub的使用，希望對(duì)你有幫助！
