本文中將重點介紹如何優(yōu)化RAG系統(tǒng)，使其盡可能高效。我們從多個角度介紹RAG系統(tǒng)，深入了解其用途以及如何優(yōu)化。

介紹

檢索增強生成（RAG）模型通常被稱為RAG系統(tǒng)，在AI行業(yè)得到極大的關(guān)注。這種模型背后的概念很簡單：我們允許模型根據(jù)需要從單獨的數(shù)據(jù)集檢索信息，而不是使用海量數(shù)據(jù)訓練模型。

將如何改進機器學習模型？首先，訓練或微調(diào)大語言模型（LLM）的過程極其費錢、費時且乏味。它需要訓練有素的機器學習和AI從業(yè)人員。RAG系統(tǒng)利用基礎(chǔ)LLM，增強輸入內(nèi)容，以保持模型處于最新版本，同時仍能夠合并新數(shù)據(jù)。新數(shù)據(jù)生成后，幾乎可以立即添加到檢索數(shù)據(jù)庫中。

我們在本文中將重點介紹如何優(yōu)化RAG系統(tǒng)，使其盡可能高效。我們從多個角度介紹RAG系統(tǒng)，深入了解其用途以及如何優(yōu)化。

走近RAG模型

顧名思義，RAG模型由三大部分組成：檢索、增強和生成。這些部分代表模型的大體工作流，每個單獨的部分包括更多的細節(jié)。

1. 查詢輸入——這個過程從用戶輸入查詢或提示開始，比如要求LLM執(zhí)行一個任務(wù)，比如回答問題或幫助研究主題。視模型及其訓練數(shù)據(jù)而定，你可以依賴基礎(chǔ)模型的訓練數(shù)據(jù)，也可以依賴為模型提供數(shù)據(jù)。

2. 查詢編碼——使用編碼器模型（通常是像BERT這樣的預(yù)訓練語言模型或另一個基于Transformer的模型）將查詢編碼成向量表示。這個向量表示捕獲查詢的語義含義。

3. 信息檢索——使用編碼查詢向量，系統(tǒng)從提供的數(shù)據(jù)檢索相關(guān)文檔或段落。這個檢索步驟至關(guān)重要，可以使用密集檢索和稀疏檢索等各種技術(shù)來實現(xiàn)。先進的索引技術(shù)也可以用來加快檢索過程。從檢索到的文檔中選擇前N個候選文檔（基于相關(guān)性分數(shù)）。這些文檔被認為與輸入查詢最密切相關(guān)，對于生成最終響應(yīng)是不可或缺的。

4. 文檔編碼——隨后將每個選定的候選文檔由向量表示解碼為人類可理解的語言。這個步驟確保檢索到的數(shù)據(jù)將用于生成階段。

5. 響應(yīng)生成——連接的向量被饋送到像GPT、Mistral、Llama或其他的LLM中。生成器根據(jù)輸入生成連貫且符合上下文的響應(yīng)。該響應(yīng)應(yīng)該以清晰、相關(guān)的方式回答查詢或提供所請求的信息。

那么我們可以加快這個過程的哪些方面呢？就在它的名字里！我們可以優(yōu)化RAG中的R（檢索）、A（增強）和G（生成）。

改進RAG檢索——增加向量化

通過增加維度和值精度來增強向量化過程，創(chuàng)建更詳細更精確的嵌入，這是提高RAG系統(tǒng)性能的有效方法。向量化過程將單詞或短語轉(zhuǎn)換成數(shù)字向量，捕獲它們的含義和關(guān)系，并將它們存儲在維度數(shù)據(jù)庫中。通過增加每個數(shù)據(jù)點的精細度，我們有望獲得更準確的RAG模型。

1. 增加向量維度——增加維度的數(shù)量讓向量可以捕獲單詞更細微的特征。高維向量可以編碼更多的信息，為單詞的含義、上下文以及與其他單詞的關(guān)系提供更豐富的表示。

• 低維向量：一些基本的嵌入模型可能會將單詞轉(zhuǎn)換成512維向量。
• 高維向量：較復(fù)雜的模型可以將單詞轉(zhuǎn)換成超過4000維的向量。

2. 提高值的精度——通過增加值的范圍，可以提高向量表示的精細度。這意味著模型可以捕獲單詞之間的細微差異和相似之處，從而獲得更精確更準確的嵌入。

• 低精度向量：在簡單模型中，字段值的范圍可能在0到10之間。
• 高精度向量：為了提高精度，可以將這個范圍從0擴展到1000，甚至更高。這允許模型捕獲更準確的值。比如說，人的年齡通常在1歲到100歲之間，因此0到10的范圍將缺乏準確表示的必要能力。擴大范圍增強了模型更準確地反映實際變化或差異的能力。

需要注意的是，這些優(yōu)化是有代價的。增加系統(tǒng)的向量維度和精度值會導致更龐大的存儲開銷和計算密集型模型。

改進RAG增強——多個數(shù)據(jù)源

在檢索增強生成（RAG）系統(tǒng)中，檢索部分負責獲取生成式模型用于生成響應(yīng)的相關(guān)信息。

如果整合多個數(shù)據(jù)源，我們可以顯著提高RAG系統(tǒng)的性能和準確性。這種方法被稱為增強優(yōu)化，利用眾多信息庫來提供更豐富更全面的上下文，從而最終獲得更準確的響應(yīng)。下面是幾個例子：

• 醫(yī)療保健——旨在回答復(fù)雜的醫(yī)療查詢以幫助醫(yī)生的RAG系統(tǒng)得益于從醫(yī)學期刊和患者病歷檢索信息，以生成定制的方案。
• 法律——旨在協(xié)助律師進行案件研究的RAG系統(tǒng)得益于從多個相關(guān)案件檢索信息。通過對每個案件中的主題進行向量化，接受輸入提示后，RAG模型可以確定哪些案件可用于支持或辯駁訴訟觀點。
• 技術(shù)文檔——針對任何產(chǎn)品、軟件、硬件甚至棋盤類游戲，回答常見問題（FAQ）的RAG LLM可以極大地幫助用戶獲得快速響應(yīng)，無需閱讀大量的用戶手冊術(shù)語。

改進RAG生成——選擇最優(yōu)模型

雖然實現(xiàn)檢索增強生成（RAG）系統(tǒng)時使用最先進的LLM常常可以保證卓越的內(nèi)容生成和分析能力，但選擇最復(fù)雜的LLM并不總是最佳選擇。

下面是在使用RAG系統(tǒng)的生成部分時，需要注意的四點。

• 復(fù)雜性與效率——雖然GPT或Llama之類的高級LLM功能強大，但它們帶來巨大的計算成本和資源需求。將這些模型集成到RAG系統(tǒng)中可能帶來延遲問題或?qū)е掠嬎阗Y源緊張，特別是在需要實時響應(yīng)能力的場景中。
• 用例——基于RAG的LLM的有效性在很大程度上依賴特定的用例和領(lǐng)域需求。在一些情況下，較簡單的已微調(diào)模型可能優(yōu)于較復(fù)雜的通用LLM。根據(jù)應(yīng)用的實際需要定制模型的選擇可以確保有效地利用計算資源，又不影響性能。
• 用戶體驗和響應(yīng)性——對于響應(yīng)性和實時交互至關(guān)重要的應(yīng)用，優(yōu)先考慮較小的LLM中的速度和效率可以增強用戶體驗。一種兼顧計算效率與內(nèi)容高效生成的簡化方法可確保用戶收到快速而相關(guān)的響應(yīng)。
• 成本考慮——部署基于RAG的復(fù)雜LLM可能需要更高的硬件及/或運營成本。評估操作目標并權(quán)衡收益和成本，以便在致力于部署高度復(fù)雜的RAG時做出明智的決策。

提高RAG模型的速度——硬件

基于RAG的LLM的巨大價值因其優(yōu)化、成本效益和高效使用的潛力而得到普及。這些優(yōu)化已經(jīng)提供了一種有效的方式來增強LLM的能力，允許它們檢索和合并最新的信息，確保模型保持相關(guān)性和準確性。

然而，改進RAG系統(tǒng)需要考慮其他方面。增加向量精度可以提高檢索準確度，但會導致更高的計算成本、更長的訓練時間和更慢的推理響應(yīng)速度。最有效的RAG系統(tǒng)是根據(jù)你的獨特需求和目標量身定制的，又不影響整體效率。定制你的RAG系統(tǒng)，使其與你的特定用例、數(shù)據(jù)源和操作需求保持一致，有望提供最佳結(jié)果。

存儲數(shù)據(jù)和支持RAG的系統(tǒng)也是如此。高性能硬件供不應(yīng)求，它們可以提供相比AI行業(yè)競爭對手最佳的性能，但這種系統(tǒng)很少具有普適性，無法適應(yīng)所有場景。

原文標題：??How To Improve the Performance of a RAG Model?，作者：Kevin Vu