精品欧美一区二区三区在线观看 _久久久久国色av免费观看性色_国产精品久久在线观看_亚洲第一综合网站_91精品又粗又猛又爽_小泽玛利亚一区二区免费_91亚洲精品国偷拍自产在线观看 _久久精品视频在线播放_美女精品久久久_欧美日韩国产成人在线

大模型的“記憶”不應僅僅只依靠向量數據庫,mem0是一個很好的“融合架構”實踐方向

發布于 2024-9-3 11:22
瀏覽
0收藏

我們在探討大模型應用的成敗時,我們往往會聚焦于三個關鍵要素:模型本身的性能、支撐長期記憶能力的知識庫,以及擴展執行能力的工具箱。企業級層面更多因素參考下圖:

大模型的“記憶”不應僅僅只依靠向量數據庫,mem0是一個很好的“融合架構”實踐方向-AI.x社區

感興趣可以聯系獲取更多細節

就為大模型構建記憶能力來講,過去一年里我們的重點落在向量檢索層面,其存儲底層焦點就是向量數據庫,曾一度爆發向量數據庫大戰。隨著需求的復雜化,我們越來越清楚地意識到,大模型的記憶能力僅僅依賴向量數據庫是不夠的。在今年,隨著GraphRAG的爆火,知識圖譜融合到RAG中變成一個新的熱點,這也反映了在此領域的發展趨勢。

融合"記憶"架構

從筆者來看,不論是向量數據庫,圖數據庫,KV數據庫,以及關系數據庫,他們都各有所長,都可以為大模型提供特有的上下文供給,比如檢索一個問題可以知識圖譜構建骨架,向量數據庫來聯想周邊相似的內容,kv數據庫豐富細節,關系數據庫提供可靠數據支持。它們融合起來,能夠更全面,更準確的召回結果,以便大模型生成更準確的結果。可以預言,向量數據庫、圖數據庫、KV數據庫等多種存儲方式結合,構建出一個多層次的記憶系統,為大模型提供了更全面、更智能的記憶支持,將會成為主流實踐。

最近有一篇論文《HybridRAG: Integrating Knowledge Graphs and Vector Retrieval Augmented Generation for Efficient Information Extraction》,也用實際的評估結果證明GraphRAG + VectorRAG,即 HybridRAG,從向量數據庫和知識圖譜(KG)中檢索上下文,顯著優于傳統的單一使用 VectorRAG 和 GraphRAG的結果。在信息提取過程中,利用向量數據庫進行廣泛的相似性檢索,同時通過知識圖譜提供結構化的、關系豐富的上下文數據,從而生成更準確、上下文相關的回答。

在論文提到的金融領域的實驗顯示,HybridRAG在檢索準確性和答案生成方面表現出色,尤其在結合了兩種RAG方法后,相比單獨使用任一技術,HybridRAG在信實性(faithfulness)和答案相關性(answer relevance)等關鍵指標上都有顯著提升。以下是論文中三種RAG管道(VectorRAG、GraphRAG、HybridRAG)在不同評估指標上的實驗結果展示:

評估指標

VectorRAG

GraphRAG

HybridRAG

準確性(Faithfulness)

0.94

0.96

0.96

答案相關性(Answer Relevance)

0.91

0.89

0.96

上下文精度(Context Precision)

0.84

0.96

0.79

上下文召回率(Context Recall)

1.0

0.85

1.0

來自:https://arxiv.org/abs/2408.04948

現在,我們已經理解了多種異構存儲對大模型記憶構建的意義,那么在這方面比較有前途的框架支持呢。

Mem0

大模型的“記憶”不應僅僅只依靠向量數據庫,mem0是一個很好的“融合架構”實踐方向-AI.x社區

Mem0正是這樣一個項目,它通過結合知識圖譜、向量數據庫和鍵值存儲等多種數據存儲方式,為AI提供了一個強大的記憶中間層。這不僅讓AI能夠記住用戶偏好,還能根據個體需求不斷學習和適應。

Mem0的記憶系統不僅僅是數據的簡單存儲和檢索,而是通過智能化的分析和管理,讓大模型的記憶變得更具個性化,Mem0可以即時更新記憶,加入新的信息和交互,在多個會話中保留信息,保持對話連續性,對于長期參與至關重要,如虛擬伴侶或個性化學習助手。,維持上下文的連貫性,具有時效性、相關性和遺忘機制,會優先考慮最近的對話,并逐漸遺忘過時的信息,這能夠確保記憶的準確和及時,以便給出更準確的響應。

官方是這么解釋其工作過程的:

Mem0 采用混合數據庫方法來管理和檢索人工智能代理和助手的長期記憶。每個記憶都與唯一標識符(如用戶 ID 或Agent ID)相關聯,從而使 Mem0 能夠組織和訪問特定于個人或上下文的記憶。當使用 add() 方法將信息添加到 Mem0 時,系統會提取相關事實和偏好,并將其存儲到不同的數據存儲區:向量數據庫、KV數據庫和圖數據庫。當AI Agent或 LLM 需要調用記憶時,就會使用 search() 方法。然后,Mem0 會在這些數據存儲中執行搜索,從每個來源檢索相關信息。然后,這些信息會通過一個評分層,評分層會根據相關性、重要性和再現性來評估這些信息的重要性。檢索到的記憶可以根據需要添加到 LLM 的提示中,從而增強其響應的個性化和相關性。

當一個AI助手或代理與用戶互動時,Mem0會根據交互中的關鍵信息,為用戶建立專屬的記憶空間。通過對用戶的長期行為進行分析,Mem0能夠實時調整和優化大模型的應答,使其更加貼近用戶的個性和需求。

例如,當你告訴AI助手你喜歡在周末打網球時,Mem0不僅會記錄下這條信息,還會通過圖數據庫將這條信息與其他相關記憶(如你平時的運動習慣、喜歡的運動品牌等)關聯起來。未來,當你再與AI互動時,它不僅能記住你喜歡網球,還能根據這些信息提供更為細致和個性化的建議。

下面是mem0使用的基本方法。

pip install mem0ai

import os
from mem0 import Memory

# 假設你已經有了OpenAI API密鑰
os.environ['OPENAI_API_KEY'] = 'sk-proj-V7DGXzoKsCZVKMGSq3otY4ir2ip8vUwpI8ec_nT3BlbkFJAOz9PVs3oe-6Qq8gW0DRBGBOqTmcsfWP4FDkdXymrdTN9kSUXFqmEdrycA'

m = Memory()

def store_practice_memory(user_id, practice_details):
    """
    存儲用戶的網球訓練記憶。
    """
    m.add(practice_details, user_id=user_id, metadata={"category": "tennis_practice"})
    all_memories = m.get_all(user_id=user_id)
    print("memorie0------: ", all_memories[0])
    memory_id = all_memories[0]["id"] # get a memory_id
    return memory_id


def retrieve_practice_memory(user_id, query):
    """
    檢索用戶的網球訓練記憶。
    """
    related_memories = m.search(query=query, user_id=user_id)
    return related_memories

def provide_training_advice(user_id, query):
    """
    提供個性化的網球訓練建議。
    """
    training_history = retrieve_practice_memory(user_id, query)
    
    if training_history:
        response = "基于你之前的訓練,建議你今天專注于提升反手擊球技巧。"
    else:
        response = "歡迎開始你的網球訓練之旅,讓我們從基礎的正手和反手擊球開始吧。"
    
    return response

def update_practice_memory(memory_id, new_details):
    """
    更新用戶的網球訓練記憶。
    """

    m.update(memory_id=memory_id, data=new_details)
    return memory_id

def get_memory_history(user_id, memory_id):
    """
    獲取特定記憶的歷史記錄。
    """
    all_memories = m.get_all(user_id=user_id)
    print(all_memories)
    memory_id = all_memories[0]["id"] # get a memory_id
    history = m.history(memory_id=memory_id)
    return history

def delete_memory(memory_id):
    """
    刪除特定記憶。
    """
    result = m.delete(memory_id=memory_id)
    return result

def delete_all_memory(user_id):
    """
    刪除所有記憶。
    """
    result = m.delete_all(user_id=user_id)
    return result


user_id = "alice"
practice_details = "今天練習了正手擊球,感覺力量控制有所提升。"
memory_id = store_practice_memory(user_id, practice_details)
print(f"memory_id: {memory_id}\n")
#memory_id: 66b96ee0-dab6-4347-bcf6-280845f87983


# 用戶請求訓練建議
query = "正手擊球訓練"
advice = provide_training_advice(user_id, query)
print(f"advice: {advice}\n")
#advice: 基于你之前的訓練,建議你今天專注于提升反手擊球技巧。

# 用戶在某項技能上取得了顯著進步,更新記憶
new_details = "正手擊球技巧已顯著提升,可以開始練習截擊了。"
update_practice_memory(memory_id, new_details)

# 獲取記憶的歷史變化
memory_history = get_memory_history(user_id, memory_id)
print(f"memory_history: {memory_history}\n")

#memory_history: [{'id': '1d1e7ac4-6cd5-431a-b931-b71d4940c30b', 'memory_id': '66b96ee0-dab6-4347-bcf6-280845f87983', 'old_memory': None, 'new_memory': 'Practiced forehand strokes today. Feels that power control has improved.', 'event': 'ADD', 'created_at': '2024-09-01T22:38:57.313817-07:00', 'updated_at': None}, {'id': 'fd36b9a3-4d50-44e8-9997-1d5a1a9f09f4', 'memory_id': '66b96ee0-dab6-4347-bcf6-280845f87983', 'old_memory': 'Practiced forehand strokes today. Feels that power control has improved.', 'new_memory': '正手擊球技巧已顯著提升,可以開始練習截擊了。', 'event': 'UPDATE', 'created_at': '2024-09-01T22:38:57.313817-07:00', 'updated_at': '2024-09-01T22:38:57.752296-07:00'}]

# 刪除記憶
delete_memory(memory_id)
all_memories = m.get_all(user_id)
print(f"all_memories: {all_memories}\n")

#all_memories: []

圖數據庫使用:

  • 構建

from mem0 import Memory

config = {
    "llm": {
        "provider": "openai",
        "config": {
            "model": "gpt-4o-mini",
            "temperature": 0
        }
    },
    "graph_store": {
        "provider": "neo4j",
        "config": {
            "url": URL,
            "username": USERNAME,
            "password": PASSWORD
        }
    },
    "version": "v1.1"
}

m = Memory.from_config(config_dict=config)

user_id = "alice123"
m.add("I like painting", user_id=user_id)
m.add("I love to play badminton", user_id=user_id)
m.add("I hate playing badminton", user_id=user_id)
m.add("My friend name is john and john has a dog named tommy", user_id=user_id)
m.add("My name is alice", user_id=user_id)
m.add("John loves to hike and Harry loves to hike as well", user_id=user_id)
m.add("My friend peter is the spiderman", user_id=user_id)

大模型的“記憶”不應僅僅只依靠向量數據庫,mem0是一個很好的“融合架構”實踐方向-AI.x社區

  • 查詢:

m.get_all(user_id=user_id)
m.search("Who is spiderman?", user_id=user_id)
{'memories': [{'id': '44c054fc-a671-4b51-baee-76f4f73b8135',
   'memory': "Friend named Peter is referred to as 'the spiderman.'",
   'hash': '3990cbff8c4252e1ea3435a9f0eebf3d',
   'metadata': None,
   'score': 0.657225732037368,
   'created_at': '2024-08-27T15:53:17.605817-07:00',
   'updated_at': None,
   'user_id': 'alice123'}],
 'entities': [{'source': 'peter',
   'relation': 'identity',
   'destination': 'spiderman'}]}

在這一過程中,Mem0不僅僅是一個簡單的記憶存儲工具,而是通過對信息的深度處理,成為了一個智能化的“記憶中樞”,幫助大模型在與用戶的每次互動中都能變得更加精準和貼心。

還有一個類似的項目GraphMemory(https://github.com/bradAGI/GraphMemory),感興趣可以查閱。

可以推測,混合的記憶存儲結構會和混合RAG檢索結構一起,成為LLM應用的標準范式。?

本文轉載自 ??AI工程化??,作者: ully

收藏
回復
舉報
回復
相關推薦
欧美a免费在线| 亚洲最大成人av| 国产99精品一区| 欧美另类z0zxhd电影| 青青青青在线视频| 国产在线观看高清视频| 国产精品一区二区在线观看不卡| 国模极品一区二区三区| 在线观看亚洲大片短视频| 日本伊人久久| 在线观看日韩电影| 久久av综合网| 女女色综合影院| 99re这里只有精品视频首页| 国产日韩av在线播放| 亚洲精品视频在线观看免费视频| 91亚洲人成网污www| 亚洲高清一二三区| 亚洲精品国产久| 欧美成人h版| 亚洲高清免费视频| 综合色婷婷一区二区亚洲欧美国产| 色丁香婷婷综合久久| 国产自产高清不卡| 国产精品久久999| 久久国产精品免费看| 中文字幕一区二区三三| 在线播放日韩欧美| 国产男女猛烈无遮挡a片漫画| japansex久久高清精品| 色爱区综合激月婷婷| 国产精品12345| 一区二区三区伦理| 中文字幕一区二区三区不卡| 日本一区二区精品视频| 色av男人的天堂免费在线| 国产99久久久国产精品潘金网站| 国产欧美一区二区| 少妇无套内谢久久久久| 久久久久国产精品一区三寸| 97婷婷涩涩精品一区| 国产污视频在线看| 亚洲视频一二| 久久久久久久久久国产| 麻豆91精品91久久久| 中文字幕人成人乱码| 久久九九国产精品怡红院| 国产成人免费观看网站| 成人激情免费视频| 中日韩美女免费视频网址在线观看 | 欧美aaaaa成人免费观看视频| 国产98色在线| 男人天堂视频网| 日韩成人一级片| 国产精品美女免费| 在线亚洲欧美日韩| 激情久久五月天| 91在线视频成人| 精品国产九九九| 国产毛片精品国产一区二区三区| 91久久久在线| 国产黄a三级三级三级| 国产成人自拍网| 国产精品我不卡| 深夜福利免费在线观看| 久久久久国产精品麻豆ai换脸| 欧美日韩在线观看一区| 自拍视频在线免费观看| 自拍av一区二区三区| 老司机午夜网站| 欧洲一区二区三区| 精品日本高清在线播放| 91淫黄看大片| 91精品亚洲一区在线观看| 欧美一级二级在线观看| 国产精品二区视频| 欧美黑白配在线| 在线观看国产精品日韩av| 亚洲不卡的av| 很黄很黄激情成人| 日韩av大片免费看| 97免费观看视频| 成人中文字幕电影| 亚洲高清在线观看一区| www在线视频| 狠狠色噜噜狠狠狠狠97| 成年网站免费在线观看| 亚洲高清999| 亚洲毛片一区二区| 精品国产视频一区二区三区| 影音先锋亚洲一区| 国产精品久久中文| 国产综合视频在线| 国产精品私人影院| 国产美女作爱全过程免费视频| 天堂av中文在线观看| 欧美片网站yy| 久久国产精品影院| 在线国产一区| 欧美一区二区三区精品电影| 国产精品日韩无码| 久久久午夜精品理论片中文字幕| 伊人狠狠色丁香综合尤物| 国产美女高潮在线| 欧美一区二区三区日韩视频| 亚洲人成人无码网www国产| 女同性一区二区三区人了人一| 欧美资源在线观看| 亚洲乱码精品久久久久..| 国产欧美一区二区三区鸳鸯浴| www.亚洲成人网| 国产成人a视频高清在线观看| 精品国产露脸精彩对白| 一级片一级片一级片| 久久精品主播| 国产综合18久久久久久| 欧美videos极品另类| 日韩欧美aⅴ综合网站发布| 91精品国产高清91久久久久久 | 亚洲男人天堂九九视频| 久久精品国产亚洲av麻豆色欲| 免费美女久久99| 久久综合九色综合久99| av在线网页| 日韩一区二区三免费高清| 欧美老女人性生活视频| 久久婷婷亚洲| 蜜桃狠狠色伊人亚洲综合网站| 青草av在线| 日韩午夜在线观看视频| 任我爽在线视频| 免费成人美女在线观看| 欧美中日韩免费视频| 第一福利在线视频| 亚洲电影免费观看高清完整版在线观看 | 成人性生交大片免费看小说| av二区在线| 欧美视频在线播放| 超碰人人干人人| 日韩高清在线观看| 日韩一区二区电影在线观看| 台湾佬中文娱乐久久久| 亚洲欧美另类在线观看| 亚洲婷婷综合网| 国产色91在线| 亚洲欧美另类动漫| 欧美色女视频| 国产热re99久久6国产精品| 国产福利免费在线观看| 在线区一区二视频| 纪美影视在线观看电视版使用方法| 丝袜美腿亚洲色图| 日韩免费电影一区二区三区| 丝袜美腿一区| yellow中文字幕久久| 国产毛片在线视频| 夜夜揉揉日日人人青青一国产精品| 国偷自产av一区二区三区麻豆| 欧美日韩免费观看一区=区三区| 99久久99| 免费毛片b在线观看| 亚洲欧美激情一区| 又骚又黄的视频| 亚洲特黄一级片| 成年女人免费视频| 国产日韩一区| 四虎一区二区| 精品一区二区三区中文字幕在线 | 欧美gay囗交囗交| 亚洲人成电影网站色| 亚洲天堂网视频| 亚洲精品国产无套在线观| 成人区人妻精品一区二| 久久午夜激情| 欧美 日韩 国产 在线观看| 91亚洲精品视频在线观看| 5566成人精品视频免费| 日韩三级影院| 亚洲第一区在线| 中文字幕日韩三级| 一区二区三区中文字幕| 久久午夜夜伦鲁鲁片| 欧美aaa在线| 日韩av中文字幕第一页| 精品欧美激情在线观看| 亚洲综合小说区| 综合毛片免费视频| 久久精品视频导航| 天堂中文在线8| 欧美日韩精品一区二区| 日本在线免费观看| 国产精品国产三级国产普通话三级 | 国产视频一区二区三| 激情懂色av一区av二区av| 亚洲色图日韩精品| 99精品视频免费在线观看| 尤物国产在线观看| 亚洲黄色天堂| 国产精品无码乱伦| 亚洲三级性片| 91传媒视频在线观看| 日韩精品影院| 国内免费精品永久在线视频| 久久精品视频观看| 亚洲人成绝费网站色www| 亚洲高清精品视频| 欧美日韩aaaaaa| 六月丁香婷婷综合| 亚洲一区国产视频| 男人的午夜天堂| 国产色91在线| 真人bbbbbbbbb毛片| 国产剧情av麻豆香蕉精品| 热久久精品免费视频| 亚洲精品欧美| av日韩在线看| 亚洲精品97| 少妇免费毛片久久久久久久久| 麻豆一区二区| 国产伦精品一区二区三| 国产精品视频一区二区三区| 国产精品久久久久久久久久三级 | 精品视频免费看| 丁香六月婷婷综合| 激情av一区二区| 日韩免费一二三区| 一区二区高清在线| av成人免费网站| 亚洲欧洲韩国日本视频| 欧美a在线播放| 日本一区二区动态图| 最近中文字幕在线mv视频在线| 97se亚洲国产综合在线| 88av在线播放| 99久久婷婷国产| 韩国三级hd两男一女| 风流少妇一区二区| 台湾佬美性中文| 高清国产一区二区三区| 在线观看免费看片| 国产精品综合二区| 九九久久久久久| 国产精品一品二品| 麻豆av免费看| 成人免费视频网站在线观看| 欧美丰满熟妇bbb久久久| 国产成a人亚洲精品| 久久久久亚洲av无码专区首jn| 成人在线视频一区二区| 无码人妻一区二区三区在线| 成人av免费网站| 中文在线永久免费观看| 久久网站热最新地址| 91网站免费入口| 中文字幕乱码久久午夜不卡| 国精产品视频一二二区| 亚洲视频 欧洲视频| 青青草偷拍视频| 亚洲成人自拍偷拍| 国产91精品一区| 在线观看日韩国产| 97视频免费在线| 日韩美女视频一区二区在线观看| 亚洲精品视频专区| 国产视频丨精品|在线观看| 免费观看成年在线视频网站| 最近2019年日本中文免费字幕| 麻豆视频在线| 久久免费视频网站| www.精品| 成人日韩在线电影| 国产精品久av福利在线观看| 久久综合九色综合久99| 四虎8848精品成人免费网站| www.一区二区.com| 午夜一区在线| 最新免费av网址| 成人激情视频网站| 波多野结衣av在线观看| 亚洲欧美怡红院| 国产在线精品观看| 欧美色视频一区| www.激情五月| 亚洲欧洲国产一区| 成人国产免费电影| 欧美专区国产专区| 日韩欧美一级| 欧美精品在线一区| 综合激情婷婷| 成年人在线看片| 国产成人av网站| 中国女人特级毛片| 亚洲成人免费视频| 一级黄色大片网站| 亚洲电影第1页| 黄视频在线观看网站| 欧美一区在线直播| 欧美第一在线视频| 午夜精品电影在线观看| 影音先锋日韩资源| 亚洲精品mv在线观看| 久久久久久久电影| 久久久久久久久99| 精品视频全国免费看| 欧美新色视频| 欧美国产日本在线| 欧美男女视频| 日本不卡一二三区| 国产视频一区免费看| 中文字幕人妻无码系列第三区| 国产亚洲精品aa| 日韩 国产 在线| 欧美一区二区三区视频免费| 9色在线视频网站| 2023亚洲男人天堂| 成人涩涩网站| 日韩a级黄色片| 国产揄拍国内精品对白| 自拍偷拍你懂的| 日韩欧美成人精品| 人人妻人人澡人人爽久久av| 久久这里只有精品视频首页| 成人国产激情| 欧美一二三四五区| 久久aⅴ国产紧身牛仔裤| 中文字幕99页| 亚洲综合一区在线| 国产高清第一页| 久久夜精品香蕉| 电影91久久久| 黄色网址在线免费看| 久久精品国产99国产精品| 国产人妻一区二区| 色悠悠久久综合| 久久综合九色综合久| 欧美中在线观看| 精品产国自在拍| 黄色av免费在线播放| 久久久精品国产99久久精品芒果| 国产69精品久久久久久久久久| 亚洲精品一区二区三区精华液| 女人黄色免费在线观看| 国产成人看片| 在线观看亚洲| 国产一级伦理片| 天天av天天翘天天综合网| 天堂av在线免费| 5566日本婷婷色中文字幕97| 中日韩免视频上线全都免费| 成年人视频在线免费| 国产丝袜在线精品| 中文字幕精品一区二| 久久精品国亚洲| 秋霞一区二区三区| 久草视频这里只有精品| 成人免费看黄yyy456| 日韩 欧美 综合| 亚洲区在线播放| 日韩五码电影| 欧美无砖专区免费| 91丨九色丨国产丨porny| 久久亚洲精品石原莉奈| 在线成人免费网站| 欧美.com| 久久久久久久中文| 亚洲国产精品t66y| 国产特级aaaaaa大片| 久久久亚洲精选| 欧美禁忌电影| 91亚洲精品久久久蜜桃借种| 一区二区三区免费观看| 亚洲欧美丝袜中文综合| 国产成人在线播放| 亚洲破处大片| 性色av蜜臀av浪潮av老女人| 色综合久久久久| 免费黄色网页在线观看| 91精品免费| 久久久成人网| 特级片在线观看| 亚洲摸下面视频| 日韩av综合| 久久久久狠狠高潮亚洲精品| 中文字幕一区二区三区四区不卡| 丰满人妻熟女aⅴ一区| 日本亚洲欧洲色| 午夜久久影院| 男人天堂av电影| 日韩精品一区二区三区蜜臀 | 红桃视频亚洲| 日本爱爱爱视频| 精品国产自在久精品国产| 三上悠亚一区二区| 国产九色porny| 国产精品久久久久国产精品日日 | 成人精品免费看| 中文字幕乱码在线观看| 午夜精品福利在线观看| 日韩夫妻性生活xx| 三级男人添奶爽爽爽视频|