本周一，創(chuàng)業(yè)公司 Letta 面世的消息引發(fā)了人們的關(guān)注，它提供的技術(shù)可以幫助 AI 模型記住用戶和對話。

Letta 成立于加州大學(xué)伯克利分校（UC Berkeley）著名的實(shí)驗(yàn)室創(chuàng)業(yè)工廠，并已宣布獲得了由 Felicis 的 Astasia Myers 領(lǐng)投的 1000 萬美元種子資金，本輪估值為 7000 萬美元。

Letta 還得到了人工智能領(lǐng)域一系列天使投資人的支持，其中包括谷歌的 Jeff Dean、Hugging Face 的 Clem Delangue、Runway 的 Cristóbal Valenzuela 和 Anyscale 的 Robert Nishihara 等。

這家由伯克利博士生 Sarah Wooders 和 Charles Packer 創(chuàng)立的 AI 初創(chuàng)公司備受期待，它是伯克利 Sky Computing Lab 的子公司，也是廣受歡迎的 MemGPT 開源項(xiàng)目的商業(yè)實(shí)體。

GitHub 鏈接：https://github.com/cpacker/MemGPT

伯克利的 Sky Computing Lab 由著名教授兼 Databricks 聯(lián)合創(chuàng)始人 Ion Stoica 領(lǐng)導(dǎo)，是 RISELab 和 AMPLab 的接班人，后兩個(gè)實(shí)驗(yàn)室催生了 Anyscale、Databricks 和 SiFive 等公司。尤其是 Sky Lab，它催生了許多流行的開源大型語言模型（LLM）項(xiàng)目，例如 Gorilla LLM、vLLM 和 LLM 結(jié)構(gòu)化語言 SGLang。

「在不到一年時(shí)間里，實(shí)驗(yàn)室很快就誕生了大量項(xiàng)目。他們就是坐在我旁邊的那些人，」Wooders 描述道。「那真是一段不可思議的時(shí)光。」

MemGPT 也是這樣一個(gè)項(xiàng)目，不過它的熱門程度很高，以至于還沒宣傳就火出圈了。

項(xiàng)目的創(chuàng)建者于 2023 年 10 月 12 日周四發(fā)布了一份白皮書，并計(jì)劃在接下來的星期一將更深入的論文和代碼發(fā)布到 GitHub 上。但有人偶然發(fā)現(xiàn)了這篇論文，并于周日將其發(fā)布到 Hacker News 上。Packer 表示，它「在我們有機(jī)會正式發(fā)布代碼、論文或發(fā)布推文介紹之前就在 Hacker News 上火了，」他說。

項(xiàng)目主頁：https://memgpt.ai/

MemGPT 令人興奮的原因在于 —— 它的目標(biāo)是解決大語言模型（LLM）的一個(gè)痛點(diǎn)：在其原生形式中，像 GPT-4 這樣的模型是無狀態(tài)的，這意味著它們不會將歷史數(shù)據(jù)存儲在長期記憶中。

這對于需要隨著時(shí)間推移逐漸了解和學(xué)習(xí)用戶的 AI 應(yīng)用來說是個(gè)大問題 —— 從客戶支持機(jī)器人到醫(yī)療保健癥狀跟蹤應(yīng)用，很多潛在的 AI 應(yīng)用需要我們讓大模型擁有「長期記憶」。而 MemGPT 管理數(shù)據(jù)和內(nèi)存，以便大模型 Agent 和聊天機(jī)器人能夠記住以前的用戶和對話。

Packer 回憶說，MemGPT 論文的帖子在 Y Combinator 運(yùn)營的網(wǎng)站 Hacker News 首頁上停留了 48 小時(shí)，他花了幾天時(shí)間在網(wǎng)站上回答問題，同時(shí)準(zhǔn)備發(fā)布代碼。MemGPT 項(xiàng)目在 GitHub 上發(fā)布后，其鏈接再次在 Hacker News 上瘋傳。YouTube 上的采訪和教程、Medium 帖子、1.1 萬個(gè)星標(biāo)和 1.2K 個(gè) Fork 迅速涌現(xiàn)。

VC Felicis 的 Myers 也在閱讀有關(guān) MemGPT 的文章時(shí)發(fā)現(xiàn)了 Wooders 和 Packer，并立即意識到該技術(shù)的商業(yè)潛力。

「我在論文發(fā)布時(shí)就看到了它，」她表示，并立即聯(lián)系了項(xiàng)目團(tuán)隊(duì)。「我們的投資主題是圍繞人工智能智能體基礎(chǔ)設(shè)施，并且意識到其中一個(gè)非常重要的組成部分是數(shù)據(jù)和內(nèi)存管理，以使這些對話聊天機(jī)器人和智能體有效。」

在找到最先看中他們的那家公司之前，MemGPT 團(tuán)隊(duì)仍然在 Sand Hill Road 四處游蕩，通過 Zoom 與風(fēng)投公司進(jìn)行通話。

與此同時(shí)，Stoica 還幫助公司結(jié)識了 Jeff Dean、Robert Nishihara 和其他知名的硅谷天使投資人。Packer 回憶說，天使投資的過程異常簡單：「伯克利的許多教授由于在本地工作，所以人脈很廣。他們都很關(guān)注這個(gè)實(shí)驗(yàn)室即將商業(yè)化的項(xiàng)目。」

競爭和 OpenAI o1 的威脅

雖然 MemGPT 去年就已投入使用，但 Letta 的商業(yè)版本 Letta Cloud 尚未開放。截至周一，Letta 正在接受測試版用戶的請求。它將提供托管代理服務(wù)，允許開發(fā)人員在云平臺上部署和運(yùn)行有狀態(tài)智能體，可通過 REST API（一種可以維護(hù)狀態(tài)的編程接口）訪問。Letta Cloud 將存儲這樣做所需的長期數(shù)據(jù)。Letta 還將提供用于構(gòu)建 AI 智能體的開發(fā)人員工具。

Wooders 看到了 MemGPT 的廣泛用途。「我們看到的頭號用例是高度個(gè)性化、非常吸引人的聊天機(jī)器人，」她說。但也有前沿用途，如「癌癥患者的聊天機(jī)器人」，患者上傳他們的病史，然后分享持續(xù)的癥狀，這樣 AI 就可以學(xué)習(xí)并隨著時(shí)間的推移提供指導(dǎo)。

值得注意的是，MemGPT 并不是唯一一家致力于此的公司。LangChain 可能是其最知名的競爭對手，它已經(jīng)提供了商業(yè)選項(xiàng)。大模型的龍頭公司也在提供智能體工具，例如 OpenAI 的 Assistants API。

OpenAI 的 o1 新模型可能會讓用戶不再需要修復(fù)狀態(tài)。由于它是一個(gè)多步驟模型，因此它從根本上必須在一定程度上保持狀態(tài)，以便在回復(fù)之前「思考」和核實(shí)事實(shí)。

但 Wooders、Packer 和 Myers 認(rèn)為 Letta 提供的產(chǎn)品與 OpenAI 存在一些關(guān)鍵差異。Letta 聲稱它可以與任何 AI 模型配合使用，并期待其用戶使用其中的許多模型：OpenAI、Anthropic、Mistral 以及他們自研的大模型。OpenAI 的技術(shù)目前僅適用于其自身。

更重要的是，Letta 正在使用開源 MemGPT 項(xiàng)目，并堅(jiān)定地站在開源陣營一邊，并認(rèn)為開源是 AI 應(yīng)用的更好選擇。

「我們將自身定位為 OpenAI 的開放替代品，」Packer 說道。「構(gòu)建最好的 AI 應(yīng)用是非常困難的事，尤其是當(dāng)你關(guān)心幻覺之類的問題時(shí)。」