如何讓AI Agent在多輪對話中保持長期記憶？7種關(guān)鍵優(yōu)化方法解析原創(chuàng)

發(fā)布于 2025-6-20 06:40

瀏覽

0收藏

在基于大模型的 Agent 中，長期記憶的狀態(tài)維護(hù)至關(guān)重要，在 OpenAIAI 應(yīng)用研究主管 Lilian Weng 的博客《基于大模型的 Agent 構(gòu)成》中，將記憶視為關(guān)鍵的組件之一，下面我將結(jié)合 LangChain 中的代碼，分享7 種不同的Agent記憶維護(hù)方式在不同場景中的應(yīng)用。

獲取全量歷史對話

在電信公司的客服聊天機(jī)器人場景中，如果用戶在對話中先是詢問了賬單問題，接著又談到了網(wǎng)絡(luò)連接問題，ConversationBufferMemory 可以用來記住整個與用戶的對話歷史，可以幫助 AI 在回答網(wǎng)絡(luò)問題時還記得賬單問題的相關(guān)細(xì)節(jié)，從而提供更連貫的服務(wù)。

from langchain.memory import ConversationBufferMemory
memory = ConversationBufferMemory()
memory.save_context({"input": "你好"}, {"output": "怎么了"})
print(memory.load_memory_variables({}))

滑動窗口獲取最近部分對話內(nèi)容

在一個電商平臺上，如果用戶詢問關(guān)于特定產(chǎn)品的問題（如手機(jī)的電池續(xù)航時間），然后又問到了配送方式，ConversationBufferWindowMemory 可以幫助AI 只專注于最近的一兩個問題（如配送方式），而不是整個對話歷史，以提供更快速和專注的答復(fù)。

from langchain.memory import ConversationBufferWindowMemory
memory = ConversationBufferWindowMemory(k=1)
memory.save_context({"input": "iphone15續(xù)航"}, {"output": "續(xù)航一般"})
memory.save_context({"input": "配送"}, {"output": "很快"})
# {'history': 'Human: 配送\nAI: 很快'}
print(memory.load_memory_variables({}))

ConversationBufferWindowMemory 這個類在存儲message還是全量存儲的，只是在讀數(shù)據(jù)的時候只讀k個窗口。

獲取歷史對話中實(shí)體信息

在法律咨詢的場景中，客戶可能會提到特定的案件名稱、相關(guān)法律條款或個人信息（如“我在去年的交通事故中受了傷，想了解關(guān)于賠償?shù)姆山ㄗh”）。 ConversationEntityMemory可以幫助 AI 記住這些關(guān)鍵實(shí)體和實(shí)體關(guān)系細(xì)節(jié)，從而在整個對話過程中提供更準(zhǔn)確、更個性化的法律建議。

llm = ChatOpenAI(temperature=0, model="gpt-4o")


memory = ConversationEntityMemory(
    llm=llm,
    return_messages=True,
)
print(memory.load_memory_variables(inputs={"input": "good!  busy working on Langchain.  lots to do."}))
memory.save_context({"input": "good!  busy working on Langchain.  lots to do."}, {"output": "That sounds like a lot of work!  What kind of things are you doing to make Langchain better?"})
print(memory.load_memory_variables(inputs={"input": "i'm trying to improve Langchain's interfaces, the UX, its integrations with various products the user might want ...  a lot of stuff"}))
memory.save_context(inputs={"input": "i'm trying to improve Langchain's interfaces, the UX, its integrations with various products the user might want ...  a lot of stuff"}, outputs={"output": "that sounds great job"})
print(memory.load_memory_variables(inputs={"input": "what is langchain"}))

在會話過程中，需要從memory load 變量時：

根據(jù)history和用戶的提問(也就是最新一句話)提取實(shí)體，注意這里提取的是用戶最新提問的query的實(shí)體
從entity_store這個大字典查詢之前是否存在對應(yīng)實(shí)體的描述信息，如果有對應(yīng)的描述信息，則把對應(yīng)的實(shí)體和描述信息作為entities字段返回
如果之前提取了實(shí)體，但是最新一句話

當(dāng)一次會話結(jié)束之后，需要save_contexts:

保存human message和ai message到 messages列表
因?yàn)锳I message 可能補(bǔ)充了human 提到的實(shí)體信息，所以使用LLM更新當(dāng)前query提到的實(shí)體的描述信息
如果在當(dāng)前會話之前提取了實(shí)體，但是當(dāng)前會話只是簡單的問候，那么就不會更新實(shí)體的描述信息，本質(zhì)還是因?yàn)閷?shí)體信息是綁定在當(dāng)前的query的

利用知識圖譜獲取歷史對話中的實(shí)體及其聯(lián)系

在醫(yī)療咨詢中，一個病人可能會描述多個癥狀和過去的醫(yī)療歷史（如“我有糖尿病史，最近覺得經(jīng)常口渴和疲勞”）。 ConversationKGMemory 可以構(gòu)建一個包含病人癥狀、疾病歷史和可能的健康關(guān)聯(lián)的知識圖譜，從而幫助 AI 提供更全面和深入的醫(yī)療建議。

from langchain_community.memory.kg import ConversationKGMemory

llm = ChatOpenAI(temperature=0, model="gpt-4o")

memory = ConversationKGMemory(llm=llm)
memory.save_context({"input": "say hi to sam"}, {"output": "who is sam"})
memory.save_context({"input": "sam is a friend"}, {"output": "okay"})
print(memory.load_memory_variables({"input": "who is sam"}))  # {'history': 'On Sam: Sam is a friend.'}
print(memory.get_current_entities("what's Sams favorite color?"))  # ['Sam']

當(dāng)每次會話結(jié)束的時候，會利用LLM從history中抽取知識的三元組，并存儲到NetworkxEntityGraph圖對象中。

當(dāng)新的會話開始需要從memory load數(shù)據(jù)的時候，從當(dāng)前Query中利用LLM抽取實(shí)體，并從NetworkxEntityGraph圖對象中獲取這個實(shí)體的knowledge, 把所有實(shí)體的知識信息返回。

對歷史對話進(jìn)行階段性總結(jié)摘要

在一系列的教育輔導(dǎo)對話中，學(xué)生可能會提出不同的數(shù)學(xué)問題或理解難題（如“我不太理解二次方程的求解方法”）。 ConversationSummaryMemory 可以幫助 AI 總結(jié)之前的輔導(dǎo)內(nèi)容和學(xué)生的疑問點(diǎn)，以便在隨后的輔導(dǎo)中提供更針對性的解釋和練習(xí).

llm = ChatOpenAI(temperature=0, model="gpt-4o")
memory = ConversationSummaryMemory(llm=llm)
memory.save_context({"input": "hi"}, {"output": "whats up"})
print(memory.load_memory_variables({}))  # {'history': 'The human greets the AI with "hi," and the AI responds with "what\'s up."'}

ConversationSummaryMemory 有個buffer的屬性，存放summary信息。每次會話結(jié)束的時候，用新生成的會話和之前的summary生成新的summary存儲在buffer屬性中。

ConversationSummaryMemory 特點(diǎn):

只存儲摘要，不存儲原始對話
每次對話后都會更新摘要
適合長期對話，節(jié)省 token
可能丟失細(xì)節(jié)信息

需要獲取最新對話，又要兼顧較早歷史對話

在處理一個長期的技術(shù)問題時（如軟件故障排查），用戶可能會在多次對話中提供不同的錯誤信息和反饋。ConversationSummaryBufferMemory 可以幫助 AI 保留最近幾次交互的詳細(xì)信息，同時提供歷史問題處理的摘要，以便于更有效地識別和解決問題。

llm = ChatOpenAI(temperature=0, model="gpt-4o")
memory = ConversationSummaryBufferMemory(llm=llm, max_token_limit=10)
memory.save_context({"input": "hi"}, {"output": "whats up"})
memory.save_context({"input": "not much you"}, {"output": "not much"})
# {'history': 'System: The human greets with "hi." The AI responds with "what\'s up," and the human replies with "not much, you?"\nAI: not much'}
print(memory.load_memory_variables({}))

ConversationSummaryBufferMemory 會暫存不會超過max_token_limit的會話歷史，當(dāng)歷史長度超過這個大小的時候，會截?cái)嘀暗臅挌v史以使得會話現(xiàn)存的會話長度不超過max_token_limit，并把截?cái)嗟闹暗臅挌v史和之前的moving_summary_buffer更新moving_summary_buffer信息。

ConversationSummaryBufferMemory 特點(diǎn):

存儲最近的對話 + 早期對話的摘要
結(jié)合了完整對話和摘要的優(yōu)勢
保持最近對話的細(xì)節(jié)，壓縮早期對話
適合中等長度的對話

基于向量檢索對話信息

用戶可能會對特定新聞事件提出問題，如“最近的經(jīng)濟(jì)峰會有什么重要決策？? VectorStoreRetrieverMemory 能夠快速從大量歷史新聞數(shù)據(jù)中檢索出與當(dāng)前問題最相關(guān)的信息，即使這些信息在整個對話歷史中不是最新的，也能提供及時準(zhǔn)確的背景信息和詳細(xì)報(bào)道。

import faiss

from langchain.docstore import InMemoryDocstore
from langchain.vectorstores import FAISS


embedding_size = 1536 # Dimensions of the OpenAIEmbeddings
index = faiss.IndexFlatL2(embedding_size)
embedding_fn = OpenAIEmbeddings().embed_query
vectorstore = FAISS(embedding_fn, index, InMemoryDocstore({}), {})


# the vector lookup still returns the semantically relevant information
retriever = vectorstore.as_retriever(search_kwargs=dict(k=1))
memory = VectorStoreRetrieverMemory(retriever=retriever)

# When added to an agent, the memory object can save pertinent information from conversations or used tools
memory.save_context({"input": "My favorite food is pizza"}, {"output": "thats good to know"})
memory.save_context({"input": "My favorite sport is soccer"}, {"output": "..."})
memory.save_context({"input": "I don't the Celtics"}, {"output": "ok"})