原文： Retrieval Augmented Generation (RAG) and Beyond: A Comprehensive Survey on How to Make your LLMs use External Data More Wisely

每當我向非技術背景的朋友解釋大語言模型時，我常常用"博學但缺乏實踐經驗的應屆生"作比喻。這些模型確實掌握了海量的知識，但在特定領域的實際應用中，常常會暴露出"經驗不足"的問題。就像一位剛畢業的法學生，雖然能流暢地背誦法條，但面對真實的案件時可能會覺得無從下手。

微軟亞洲研究院的研究團隊近期發布的這篇綜述，正是致力于解決這個"經驗不足"的問題。這篇論文不僅系統地梳理了檢索增強生成(RAG)技術的發展脈絡，更重要的是提供了一個全新的視角，幫助我們理解和解決大模型在實際應用中遇到的各種挑戰。

為什么簡單的RAG還不夠用？

讓我們先看一個真實的場景。某金融機構嘗試用ChatGPT來回答客戶的投資咨詢問題。為了確保答案的準確性，他們實施了一個基礎的RAG方案：把投資產品說明書、市場分析報告等文檔接入模型。但實際效果卻不盡如人意。

當客戶問"這個基金適合我嗎？"時，模型往往會直接從產品說明書中摘錄風險收益特征。但一個專業的投資顧問會怎么做？

他會先了解客戶的投資目標、風險承受能力、投資期限等信息，然后結合市場環境和產品特點給出建議。這種專業的咨詢過程涉及到復雜的推理和判斷，遠非簡單的文檔檢索所能支持。

理解四個層次的知識需求

論文首次系統地定義了RAG應用中的四個層次需求。這個分層框架源于對大量實際應用案例的觀察和總結，讓我們通過具體例子來理解每個層次：

**第一層是顯式事實查詢。**比如"公司的退休金政策是什么？"這類問題只需要從員工手冊中找到相關段落即可。這是最基礎的RAG應用場景。

**第二層是隱式事實查詢，需要綜合多個信息源。**例如"我現在的工資和工齡，五年后能拿到多少退休金？"這就需要檢索并關聯多個政策條款，還要進行簡單的計算。

**第三層是可解釋推理查詢，要求理解和運用專業的決策流程。**以醫療診斷為例，醫生會遵循"望聞問切"的次序，逐步收集信息，形成診斷。模型需要理解并模仿這種專業的思維過程。

**第四層是隱性推理查詢，這可能是最接近人類專家直覺的層次。**比如經驗豐富的醫生看到某些癥狀組合，就能聯想到可能的罕見病因，這種判斷往往基于大量病例經驗，而非明確的診斷規則。

走向更智能的RAG解決方案

理解了不同層次的需求，我們就能更有針對性地設計解決方案。

對于第一層的顯式事實查詢，傳統的RAG方案其實已經夠用，但在工程實現上還有優化空間。比如文檔切分的策略就很關鍵。如果切分得太細，可能會丟失上下文信息；切分得太粗，又會引入無關信息。一個實用的做法是根據文檔的邏輯結構來切分，比如保持完整的段落或章節，而不是機械地按字數切分。

對于第二層的隱式事實查詢，核心挑戰是如何讓模型"主動"獲取必要信息。迭代式RAG是一個有效的解決方案：模型先基于初始問題檢索一部分信息，發現信息不足時，自動形成新的檢索請求，直到收集足夠的信息才給出最終答案。

在處理第三層的可解釋推理查詢時，"提示調優"顯示出獨特優勢。以醫療問診為例，我們可以設計這樣的提示模板：

1. 請先詳細了解患者的主訴和癥狀；
2. 根據癥狀有針對性地詢問病史；
3. 建議必要的檢查；
4. 結合所有信息作出初步診斷；
5. 制定治療方案。

這種結構化的提示能有效引導模型遵循專業的診療規范。

第四層的隱性推理查詢最具挑戰性，因為我們要讓模型學習專家的"直覺"。一個可行的方案是構建特定領域的案例庫，并通過精心設計的標注來捕捉專家的判斷依據。

比如在醫療領域，除了記錄最終診斷，還要讓專家解釋為什么會想到這個診斷，看到了哪些關鍵線索。這些解釋可以幫助模型學習專家的思維模式。

總結

這篇綜述不僅梳理了當前RAG技術的現狀，也為未來發展指明了方向。一個明顯的趨勢是，RAG正在從單純的知識檢索，向知識的結構化表達和專業化推理演進。

未來的RAG系統可能會更像一個"數字學徒"，不斷從與人類專家的互動中學習和改進。它不僅要會查資料，還要學會專家思考問題的方式。

本文轉載自 ??芝士AI吃魚??，作者： 芝士AI吃魚