Hello folks，我是 Luga，今天我們來聊一下人工智能(AI)生態(tài)領(lǐng)域相關(guān)的技術(shù) - LLM 構(gòu)建塊：向量、令牌和嵌入 。

隨著技術(shù)的不斷進步，LLM 帶來了前所未有的機遇，吸引了開發(fā)者和組織紛紛嘗試?yán)闷鋸姶蟮哪芰?gòu)建應(yīng)用程序。然而，當(dāng)預(yù)訓(xùn)練的 LLM 在實際應(yīng)用中無法達到預(yù)期的性能水平時，人們將不由自主地開始思考：我們到底應(yīng)該使用哪種技術(shù)來改善這些模型在特定場景下的表現(xiàn)?

Fine-Tuning(微調(diào))和 RAG(檢索增強生成)，作為兩種常見的 LLM 性能優(yōu)化方法，在很多人眼中可能還帶有一絲神秘感。在深入探討兩者的利弊之前，我們有必要先了解這兩種方法的基本原理和特點。

一、高效賦能 LM 的利器—Fine-Tuning

什么是 Fine-Tuning (微調(diào))?

在當(dāng)今的自然語言處理領(lǐng)域，預(yù)訓(xùn)練語言模型(PLM)憑借其在大規(guī)模語料上學(xué)習(xí)到的通用語義知識，儼然已成為各類下游任務(wù)的強力基石。但要充分發(fā)揮 PLM 在特定場景中的專業(yè)能力，就需要有一種高效的"定制化"方法，那便是 Fine-Tuning(微調(diào))。

Fine-Tuning (微調(diào))過程的核心，是在新的任務(wù)和數(shù)據(jù)集上對預(yù)訓(xùn)練模型的參數(shù)進行微小的調(diào)整，使其能精準(zhǔn)契合目標(biāo)場景的需求。不同于完全從頭訓(xùn)練一個全新模型，F(xiàn)ine-Tuning (微調(diào))巧妙地利用了 PLM 在大規(guī)模語料上學(xué)習(xí)到的通用語義表征，在此基礎(chǔ)上進行"權(quán)重調(diào)校"，從而大幅提高了模型收斂的速度和效率。

以情感分析任務(wù)為例，假設(shè)我們需要對電影評論進行正負(fù)面情緒判斷。此時，與從零開始構(gòu)建一個全新模型不同，我們可以選擇像 GPT-3 這樣在海量文本上預(yù)訓(xùn)練過的 PLM，并使用標(biāo)注好的電影評論數(shù)據(jù)集對其進行微調(diào)。通過這一調(diào)整權(quán)重的過程，原本通用的語義模型就被"賦能"了情感分析的專業(yè)技能，可以高精度地捕捉評論中的情感傾向。

Fine-Tuning (微調(diào))參考架構(gòu)示意圖

二、開辟 LLM 智能認(rèn)知的新領(lǐng)域—RAG

LLM (大型語言模型)正以其驚人的學(xué)習(xí)能力和泛化性能，開辟著認(rèn)知智能的全新境界，而 RAG(檢索增強生成)便是為其插上智能利用外部知識的強力翅膀。

那么，什么是 Retrieval-Augmented Generation(檢索增強生成)?

RAG(檢索增強生成)是一種優(yōu)化大型語言模型輸出的技術(shù)，在生成響應(yīng)之前,讓模型除了查詢訓(xùn)練數(shù)據(jù)源外，還能同時查閱可靠的知識庫。 LLM (大型語言模型)在訓(xùn)練過程中使用了數(shù)十億參數(shù)和大量數(shù)據(jù)，能夠?qū)柎稹⒄Z言翻譯、句子補全等任務(wù)生成獨特的輸出。RAG 無需重新訓(xùn)練模型，便能擴展 LLM 已有的強大能力，讓其能夠適用于新的領(lǐng)域或組織的內(nèi)部知識庫。這是一種經(jīng)濟高效的方式，能夠提升 LLM 輸出的準(zhǔn)確性、相關(guān)性和實用性，使其在各種環(huán)境中依然保持出色表現(xiàn)。

RAG(檢索增強生成)參考架構(gòu)示意圖

在 RAG 的智能架構(gòu)下，語言模型不再是相對封閉的"語義孤島"。它們將與龐大的異構(gòu)知識庫無縫集成，在生成響應(yīng)之前，先通過智能檢索系統(tǒng)獲取與任務(wù)相關(guān)的外部知識作為補充。由此，語言模型的認(rèn)知能力得以突破自身訓(xùn)練語料的局限，注入更為廣博、專業(yè)的知識維度。無論是回答一個特定領(lǐng)域的問題，還是完成專業(yè)化的文本生成任務(wù)，LLM 均能依托 RAG 的知識補給，提供更加準(zhǔn)確、流暢、內(nèi)容充實的輸出，大大增強了其在特殊場景下的適用性。

除了認(rèn)知能力的開放突破，RAG 還為 LLM 的訓(xùn)練和應(yīng)用效率帶來了全新的優(yōu)化。采用傳統(tǒng)方式，我們需要用特定領(lǐng)域的大量數(shù)據(jù)反復(fù)訓(xùn)練 LLM，從而使其"學(xué)會"相關(guān)知識。這種重新訓(xùn)練的過程不僅代價昂貴、效率低下，同時，知識的覆蓋面和時效性也極為有限。而 RAG 則通過靈活、高效的知識檢索和融合，快速賦能了 LLM 在新領(lǐng)域的應(yīng)用能力，無需進行大規(guī)模的重復(fù)訓(xùn)練。我們只需構(gòu)建合適的知識庫，RAG 就能自動獲取與任務(wù)相關(guān)的最新信息，為 LLM 提供有力補充。

三、評估 Fine-Tuning & RAG 5 要素解析

在評估和應(yīng)用 Fine-Tuning (微調(diào))與 RAG(檢索增強生成)等語言 AI 技術(shù)時，我們需要全面審視和深入權(quán)衡諸多關(guān)鍵因素，方能最大限度發(fā)揮它們的能力，并將其貫徹落實到實際場景中。

1. 動態(tài)數(shù)據(jù)挑戰(zhàn) vs 靜態(tài)數(shù)據(jù)局限

面對瞬息萬變的動態(tài)數(shù)據(jù)環(huán)境，RAG 憑借其獨特的檢索增強生成架構(gòu)，展現(xiàn)出了卓越的適應(yīng)能力和實時更新優(yōu)勢。通過持續(xù)從外部知識源中查詢并融合最新信息，RAG 能夠確保模型的輸出始終保持高度時效性，完全無需頻繁的重新訓(xùn)練過程。

相比之下，傳統(tǒng)的 Fine-Tuning (微調(diào))方法則面臨著更多的困難和局限性。由于微調(diào)后的模型實際上只是訓(xùn)練數(shù)據(jù)的靜態(tài)快照，在高速變化的數(shù)據(jù)場景中，很快就會被動態(tài)信息所超越而過時失效。更為棘手的是，微調(diào)無法保證模型對知識的持久記憶和回憶能力，從而使其在特定任務(wù)上的表現(xiàn)難以可靠把控。

綜上所述，RAG 作為一種全新的語言模型架構(gòu)，憑借其對動態(tài)外部信息的高度敏感性和融合能力，使其成為應(yīng)對多變數(shù)據(jù)環(huán)境的不二之選。無論是確保輸出時效性，還是保證知識覆蓋的廣度和深度，RAG 都展現(xiàn)出了其獨特的優(yōu)越性。

2. 外部知識融合

在智能語言時代，知識獲取的廣度和深度決定了模型的天花板。面對海量異構(gòu)知識庫，RAG 以其超越者的氣概，為語言模型賦能于外部知識融合的非凡能力。

作為一種革命性的語言模型架構(gòu)，RAG 被誕生于充分利用外部知識源的終極需求。它通過智能檢索機制，高效地從各類結(jié)構(gòu)化、非結(jié)構(gòu)化的知識庫中獲取與任務(wù)相關(guān)的信息，并將其與內(nèi)部語義表征相融合，生成增強后的最終響應(yīng)。無論是查詢數(shù)據(jù)庫、文檔，還是其他異構(gòu)數(shù)據(jù)存儲庫，RAG 均能輕松駕馭，展現(xiàn)出卓越的外部知識利用能力。

反觀傳統(tǒng)的 Fine-Tuning (微調(diào))方式，其知識獲取能力受到了諸多束縛。雖然通過微調(diào)，可以使大型語言模型"學(xué)習(xí)"特定領(lǐng)域的知識，但這種學(xué)習(xí)過程無法適應(yīng)頻繁變化的外部數(shù)據(jù)源，并且每一次模型重新訓(xùn)練，都需要付出極高的計算代價，效率顯著低下。更為關(guān)鍵的是，微調(diào)模型的知識種類和來源也受到了較大限制，難以全面獲取和利用互聯(lián)網(wǎng)上的異構(gòu)海量知識。

綜上所述，對于高度依賴外部知識源、且知識存儲形式多變的應(yīng)用場景而言，RAG 無疑是當(dāng)前最具前景的解決方案。它為語言模型賦予了無與倫比的知識檢索與融合能力，輕松突破了傳統(tǒng) Fine-Tuning (微調(diào))方式的種種局限，讓模型的輸出質(zhì)量和知識覆蓋面得到了極大的提升。

3. 幻覺減少

通常而言，RAG 系統(tǒng)的設(shè)計本質(zhì)上可以降低其產(chǎn)生幻覺的可能性。這是因為 RAG 系統(tǒng)不是單純地根據(jù)生成模型的輸出生成響應(yīng)，而是將每個響應(yīng)都基于實際檢索到的證據(jù)進行構(gòu)建。

具體來說，RAG 系統(tǒng)由兩個主要組件組成：一個檢索模塊和一個生成模塊。檢索模塊負(fù)責(zé)從大規(guī)模的知識庫中找到與輸入相關(guān)的信息片段。而生成模塊則根據(jù)這些檢索到的證據(jù)來生成最終的響應(yīng)。

這種基于檢索的方式限制了模型單憑自身的生成能力來構(gòu)造響應(yīng)的可能性。相比于僅依賴生成模型的純粹生成式系統(tǒng)，RAG 需要嚴(yán)格遵循檢索到的事實性信息，從而降低了模型制造虛假或幻覺性響應(yīng)的風(fēng)險。

Fine-Tuning (微調(diào))技術(shù)確實可以通過使用特定領(lǐng)域的訓(xùn)練數(shù)據(jù)來幫助降低模型產(chǎn)生幻覺的可能性。因為微調(diào)過程可以使模型的參數(shù)更好地適應(yīng)某個特定的應(yīng)用場景或領(lǐng)域，從而減少模型在這些熟悉領(lǐng)域外產(chǎn)生虛假或無根據(jù)的響應(yīng)。

然而，即使經(jīng)過微調(diào)，模型在面對不熟悉的輸入或領(lǐng)域時，仍然可能會嘗試編造一些看似合理但實際上是虛假的反應(yīng)。這是因為即使經(jīng)過微調(diào)，模型的基本生成機制和推理能力并沒有根本性的改變。在缺乏足夠的相關(guān)訓(xùn)練數(shù)據(jù)和背景知識的情況下，模型仍可能傾向于根據(jù)自身的推測或猜測來生成響應(yīng)，而非嚴(yán)格基于事實。

因此，微調(diào)雖然可以在一定程度上緩解模型產(chǎn)生幻覺的傾向，但并不能完全消除這一風(fēng)險。在使用微調(diào)后的模型時，仍需要格外謹(jǐn)慎，并結(jié)合其他技術(shù)手段，如增強模型的可解釋性，來進一步降低模型制造虛假信息的可能性。只有通過多管齊下，我們才能更好地確保模型在各種情況下都能給出可靠、事實性的響應(yīng)。

4. 模型定制化需求

基于架構(gòu)設(shè)計角度而言，RAG 主要專注于信息檢索，其設(shè)計可能無法根據(jù)檢索到的內(nèi)容自動調(diào)整模型的語言風(fēng)格或領(lǐng)域特定性。雖然 RAG 擅長將外部知識整合到生成過程中，但可能缺乏完全定制模型行為和寫作風(fēng)格的能力。也就是說，RAG 系統(tǒng)更側(cè)重于利用豐富的背景知識來提升生成質(zhì)量，而不是對模型本身進行深度定制。

相比之下， Fine-Tuning (微調(diào))技術(shù)為調(diào)整大型語言模型的行為、寫作風(fēng)格和領(lǐng)域?qū)Ｓ兄R提供了更直接的路徑。通過微調(diào)，我們可以使模型的行為、語氣和術(shù)語更貼合特定的應(yīng)用需求和細節(jié)。這種針對性的定制能夠?qū)崿F(xiàn)模型與特定風(fēng)格或?qū)I(yè)領(lǐng)域的深度融合。

因此，如果我們的應(yīng)用程序需要專門的寫作風(fēng)格或深度契合特定領(lǐng)域的詞匯和慣例，那么 Fine-Tuning (微調(diào))技術(shù)無疑提供了更直接和有效的定制途徑。相比之下，雖然 RAG 系統(tǒng)擅長利用外部知識，但在定制模型的語言特性和行為方面可能存在一定局限性。

當(dāng)然，RAG 和 Fine-Tuning (微調(diào))并非完全互斥，在某些情況下可以結(jié)合使用以發(fā)揮各自的優(yōu)勢。關(guān)鍵在于根據(jù)具體的應(yīng)用需求，選擇最合適的定制技術(shù)來提升模型的性能和行為特性。無論采用哪種方法，合理的模型定制都是提升應(yīng)用效果的關(guān)鍵所在。

5. 模型成本效益

在實際的業(yè)務(wù)場景中，RAG 系統(tǒng)本身并不支持使用更小型的模型。它需要依賴較大的基礎(chǔ)模型來執(zhí)行信息檢索和生成任務(wù)，無法通過縮小模型規(guī)模來獲得成本優(yōu)勢。

相比之下， Fine-Tuning (微調(diào))技術(shù)可以在很大程度上提高小型模型的效率和性能。這意味著在部署和維護時，小型模型所需的硬件基礎(chǔ)設(shè)施更少，從而能夠帶來云計算開支或硬件采購方面的成本節(jié)省。

當(dāng)成本考量成為首要因素時，訓(xùn)練和部署小型模型能夠帶來顯著的成本優(yōu)勢，特別是在大規(guī)模應(yīng)用場景下。這是 Fine-Tuning (微調(diào))技術(shù)的一大優(yōu)勢。

與 RAG 系統(tǒng)需要依賴較大模型的限制相比， Fine-Tuning (微調(diào))可以充分利用小型模型的優(yōu)勢。通過精心的微調(diào)過程，小型模型可以在特定任務(wù)上展現(xiàn)出媲美甚至超越大型模型的性能。同時，小型模型的部署和維護成本也大幅降低。

因此，對于追求成本效益的應(yīng)用場景而言， Fine-Tuning (微調(diào))技術(shù)能夠充分發(fā)揮小型模型的優(yōu)勢，為項目帶來顯著的經(jīng)濟收益。這是 RAG 系統(tǒng)所無法提供的。簡而言之，在成本優(yōu)先的情況下， Fine-Tuning (微調(diào))方法顯然具有更強的優(yōu)勢。

四、關(guān)于 Fine-Tuning vs RAG 一點見解

在語言人工智能的探索進程中，技術(shù)創(chuàng)新往往是一場場思想的碰撞與融合。而微調(diào)和檢索增強生成(RAG)這兩大范式，正是智能語言模型發(fā)展歷程中的里程碑式進展。但我們不應(yīng)將其等同于一場"這一家喻戶曉或彼一家臭"的技術(shù)范式之爭，因為在更高的智能進化視角下，兩者實則是有機統(tǒng)一、相輔相成的共生體。

1.Fine-Tuning 微調(diào)：賦能語言模型任務(wù)專注的秘鑰

微調(diào)技術(shù)的核心功能，是通過對預(yù)訓(xùn)練語言模型權(quán)重的精細調(diào)校，將其通用的語義認(rèn)知能力定制化為某一特定任務(wù)或領(lǐng)域的專注技能。這種"通過少量數(shù)據(jù)開啟定制化"的高效方式，讓語言模型得以脫胎于通用知識的卵殼，孵化出應(yīng)對特殊場景的專業(yè)能力。

2.RAG：外延語言模型認(rèn)知邊界的知識加持

而檢索增強生成則是另一種智能范式，賦予了語言模型高效獲取和利用外部異構(gòu)知識的能力。通過智能檢索系統(tǒng)，語言模型可在生成響應(yīng)前，從海量專業(yè)知識庫中獲取與之相關(guān)的補充信息，從而突破了其受限于訓(xùn)練數(shù)據(jù)集的知識邊界，使輸出更加準(zhǔn)確、專業(yè)、內(nèi)容豐富。

Reference ：

• [1] https://ai.plainenglish.io/fine-tuning-vs-rag-in-generative-ai-64d592eca407
• [2] https://www.goml.io/rag-vs-finetuning-which-is-the-best-tool-for-llm-application/