很多人都有這樣的感受——大模型應用的理論我都懂，但為什么就是做不好？

其實理論的簡單性和技術的復雜性，往往都隱藏在那些細節里。

“紙上得來終覺淺， 絕知此事要躬行。”

今天閑的沒事回頭梳理了一下這大半年來開發過程中所遇到的問題，然后畫了一個架構圖；然后突然發現，這么長時間好像也沒做太多東西啊，但為什么總感覺自己很忙，很累，但東西又沒做好？

原因就在于技術是一項實踐性很強的東西，很多時候你懂了并不代表你會了。

在真實的技術場景中，理論是解決問題的基礎，但理論可以有多種不同的落地方案；因此，在技術的發展中，理論會隨著技術的突破而突破，而同樣的在具體落地的過程中，又會產生多種適用不同場景的落地方案。

還是以RAG技術來舉例，在之前的文章有介紹過RAG的本質是一個方法論，而不是一個具體的技術棧；它更多的是一種解決方案，用來解決大模型的缺陷問題。

• 幻覺問題
• 垂直領域知識不足問題
• 知識更新不及時問題

??RAG是一種方法論，而不是一項具體的技術——你真的知道什么是RAG嗎？??

但RAG本身并沒有對技術做任何的限制，比如說使用什么樣的知識庫方案，使用哪種召回策略，上下文怎么處理等等；RAG本身對這些并沒做任何約束，你可以根據自己的需要選擇任何技術方案。

畢竟對RAG來說——檢索增強生成，其核心就在于檢索和增強生成；但到底怎么檢索的我不管，我的目的只有一個，讓大模型表現得更好。

這也是為什么很多人在做RAG開發時，明明流程上都沒有問題，但結果就是不準確的原因；因為你根本沒有明白，RAG的真正難點在哪里。

RAG本身的每個步驟看起來都很簡單，但等你把所有流程都串起來之后就發現，好像哪哪都不對；最終的結果就是，差之毫厘，失之千里。

所以說，RAG最難的并不是把它的流程跑通，而是讓它真的變得能用且好用。

大模型的理論和技術很簡單，難得是把效果做好

在大多數人眼里，學習大模型技術和學習傳統的技術一樣，只要把技術學好就行了；但現在不得不告訴你一個殘酷的事實；大模型應用技術做好要遠比做出來更難。

由于模型本身的復雜性，同樣的流程，不同的模型，甚至是同一個模型不同的環境，都需要進行不同的測試和優化才可能達到最優的效果。

本文轉載自???AI探索時代?? 作者：DFires