近期，Open AI 推出的 Deep Research（深度研究）功能引發了廣泛關注。該功能通過整合大模型、超級搜索和研究助理于一體，使得能夠一鍵生成報告，科研人員能夠一鍵撰寫綜述，極大提升了效率。然而，由于企業場景中私有化數據的敏感性和成本考慮，如何將 Deep Research 進行開源的本地化部署，成為許多人的關注焦點。

在這篇文章中，我們將對市場上模仿 Deep Research 的開源項目進行簡要分析，并結合 Deepseek 等主流開源模型，Zilliz 推出一款名為 Deep Searcher 的開源項目。該項目的目標是幫助用戶在企業級場景下，基于 Deep Research 的思路，實現私有化部署。此外，此方案在現有的 RAG（Retrieval-Augmented Generation）方案上進行了重要升級。

GitHub 地址：

??https://github.com/zilliztech/deep-searcher??

1、什么是 Deep Research，為什么需要開源平替？

最近，OpenAI 推出了一款先進的 AI 研究工具——Deep Research，目的是為了幫助用戶更高效地處理復雜的研究工作。這款工具基于 OpenAI 最新的 o3 大模型，特別針對網絡瀏覽和數據分析進行了優化。

第一、核心功能

• 多階段信息搜集與推理：Deep Research 能夠自動執行多階段的網絡調研，迅速整合網絡上的大量信息，涵蓋文本、圖片和 PDF 文件。
• 專業報告自動生成：通過分析綜合數百個在線資源，Deep Research 可以在5至30分鐘內生成一份包含詳細引用的專業報告，顯著減少傳統研究所需的時間。

第二、應用場景

• 學術研究：學者和研究人員可以利用 Deep Research 快速搜集相關領域的深入資料，輔助撰寫論文和進行研究。
• 市場分析：企業可以使用此工具進行市場調研、競爭分析和產品比較，為商業決策提供支持。
• 產品評估：消費者可以利用 Deep Research 比較不同產品的特點和評價，做出更明智的購買選擇。

總體而言，Deep Research 作為 OpenAI 推出的深度研究產品，旨在通過自動化的信息搜集和分析，助力用戶高效完成復雜的研究任務。

第三、開源解決方案

目前，大多數用戶尚無法使用 OpenAI 的 Deep Research 功能。不過，自從 OpenAI 發布該功能后，許多開源社區的貢獻者開始分析并嘗試復現這一功能。

GitHub 上已經出現了多個開源方案，它們的實現流程大致分為以下四個步驟：

• 第一步、問題分析：大模型分析用戶提出的問題，確定回答問題所需的角度和步驟。許多大模型（比如：DeepSeek、Qwen3 等）只需開啟推理選項即可完成這一過程。
• 第二步、在線搜索：根據大模型生成的問題進行在線搜索，獲取搜索結果的前 K 項，并將內容反饋給大模型。
• 第三步、內容總結：大模型根據在線內容生成簡潔的答案。
• 第四步、答案驗證：將所有內容匯總后，由大模型判斷答案的完整性和準確性。

如果答案完整且準確，則輸出最終答案。如果達到預設的循環次數或 token 上限，同樣輸出最終答案。否則，生成新問題，返回第一步，并將歷史解決信息帶入下一輪循環。

2、相比傳統 RAG，Deep Research 有何亮點與不足

相較于之前的 RAG（Retrieval-Augmented Generation）方案，新方案實現了以下三個方面的創新。

• 第一、判定邏輯：通過引入額外的判定邏輯，提升了答案的精確度。Deep Research 利用多源驗證、邏輯推理等質量控制手段，確保了研究成果的可靠性，并有效避免了傳統 RAG 中常見的無目的檢索和過度檢索問題。與傳統的 RAG 相比，Deep Research 在信息整合和驗證方面更為嚴謹。
• 第二、以搜索結果為核心：答案主要基于搜索結果而非單純依賴大模型的生成。大模型的作用在于內容匯總和相關性判斷，從而增強了答案的可靠性。
• 第三、深度思考與處理復雜任務：Deep Research 能夠模仿人類研究員進行多階段的網絡研究，理解信息、整合資源，并根據新發現調整研究策略。這種自主進行多步驟問題解決的能力，是普通 RAG 所不具備的。

雖然這些優勢顯著，但 Deep Research 也存在一些不足。從前面提供的方案中可以看出，Deep Research 的響應速度較慢，對計算資源和網絡環境的要求也更高。更重要的是，其答案的主要信息來源依然是公開的網絡搜索結果。

然而，在大多數企業場景中，真正有價值的數據通常是企業的內部數據，這些數據無法通過在線搜索獲取，也不適合上傳至大模型以避免隱私泄露的風險。此外，在線搜索引擎的結果可能包含誤導性信息（比如：廣告），且一些小眾搜索引擎可能存在搜索延遲。

鑒于此，在多數企業級應用場景中，采用基于 Deep Research 思路的私有化部署可能是一個更佳的選擇。

接下來，我們將以 Deep Searcher 為例，展示如何結合開源項目和本地數據，實現一個升級版的 Deep Research 本地部署。

3、如何針對私有數據，做 Deep Research

以下是基于多數開源 Deep Research 方案改進后，Zilliz 推出的 Deep Searcher 開源實現方案的架構設計如下所示：

從圖中可以看出，Deep Searcher 通過集成向量數據庫 Milvus，實現了對用戶本地存儲數據的快速、低延遲的大規模離線搜索。

Deep Searcher 的實現步驟如下：

• 第一步、問題解析：在接收到用戶提問后，利用 LLM 對問題進行分析，生成多個子問題，并明確每個子問題對應的數據集。
• 第二步、信息檢索：根據 LLM 的分析結果，在向量數據庫中檢索相關信息。需要注意的是，向量數據庫中的數據是離線存儲的，因此在執行查詢之前，需要先將數據導入向量數據庫。這些數據可以是企業內部數據、在線下載的數據，或者是其他系統中定期導入的數據。
• 第三步、內容判斷：向量數據庫檢索到相似信息后，將用戶的原始問題、子問題及其對應的搜索結果一同提交給大模型進行內容判斷。

如果問題已經得到完整回答，則進入最終回答階段。

如果達到預設的循環次數或 token 上限，同樣進入最終回答階段。

否則，大模型將生成新的問題，并繼續下一輪循環。

方案亮點包括：

• 私有數據利用：充分挖掘私有數據的價值，更好地與大模型結合。
• 向量數據庫優勢：發揮向量數據庫在處理大規模數據、低延遲搜索、多種索引策略、高可用性和資源彈性管理等方面的優勢。
• 數據管理：通過向量數據庫高效管理私有數據，對不同類型的數據進行分庫分表，支持多種應用，最大化數據價值，降低管理成本。

值得注意的是，為了更有效地保護私有數據，建議使用離線 LLM 大模型。如果使用 LLM API，即使僅返回部分檢索數據，仍然存在數據泄露的風險。

4、Deep Searcher 落地效果

遵循上述思路，Deep Research 的本地部署開源版本——Deep Searcher。

當前項目功能包括：

• 第一、LLM 支持：支持 OpenAI o3、Qwen3、DeepSeek、Grok 3、Claude 3.7 Sonnet、Llama 4、QwQ 等。
• 第二、Embedding 模型支持：支持 Pymilvus 內置模型、OpenAI Embedding、VoyageAI Embedding。
• 第三、數據 Loader 支持：支持離線文檔（比如：PDF、Markdown、TXT）、在線文檔（可通過 FireCrawl、JinaReader、Crawl4AI 獲取）。
• 第四、向量數據庫支持：支持 Milvus、Zilliz Cloud 等。

最終效果預覽如下：

本文轉載自??玄姐聊AGI??  作者：玄姐