要讓一個LLM成為頂尖行業專家，需要多長的Prompt？

畢馬威給出的答案是：100頁。

作為四大咨詢巨頭之一的畢馬威，搞出來一個新聞。說他們打造了一款名為TaxBot的稅務AI助手，直接把過去需要兩周的專業咨詢工作，壓縮到了一天內完成，效率提升超過10倍！

從封殺到All-in，從巨長Prompt到未來的Agent Runtime，畢馬威這套操作，幾乎把企業落地Agent該踩的坑、該走的路，都趟了一遍。

今天，給家人們分享一下這個框架思路。

畢馬威的故事

2022年底，ChatGPT剛火的時候，畢馬威也是第一時間介入。

但是很快，他們發現內網有一份文件，包含幾千名員工的隱私信息。于是，立馬拉閘，全面封禁ChatGPT。

然后，一個剛入職的畢業生，把公司封禁ChatGPT的截圖發到社交媒體上，嘲諷公司不懂創新，直接搞成了個不大不小的公關危機。

隨即，他們意識到一個新的問題：堵是堵不住的，唯一的出路是建立一套可控、安全的內部AI平臺。

轉機

真正的轉折點，來自于和微軟的一次軟件許可談判。微軟提供了接入Azure OpenAI服務的機會，KPMG的AI征程正式開啟。

他們的第一步，不是急于開發應用，而是構建一個安全、私有、統一的AI基礎設施——KPMG Workbench。

這個Workbench平臺的設計理念，對所有想在企業內部署AI的公司都極具參考價值：

KPMG很早就判斷，沒有任何一個供應商能永久主導LLM領域。因此，Workbench從一開始就集成了來自OpenAI、Microsoft、Google、Anthropic和Meta的多種模型。團隊可以根據任務特性，靈活選擇最合適的模型。

平臺的核心能力是通過RAG，模型能接入KPMG內部的私有知識庫，確保生成的內容有據可查，而不是憑空幻覺。

平臺原生支持構建和部署AI Agent，讓多個Agent協同工作，完成更復雜的任務。

100頁Prompt的本質是什么？

有了Workbench，才有了TaxBot這個應用。

團隊首先將公司內部散落在各個電腦里的高價值稅務建議文檔，與澳大利亞的完整稅法一起，作為教材喂給了RAG模型。

100頁的Prompt，就是指導AI如何學習和使用這些文檔的手冊。

比如，定義身份、任務分解（將復雜的稅務分析任務，拆解成一步步的具體操作流）、各種約束（哪些信息絕對不能包含，哪些法律條文必須引用，以及如何處理模糊或矛盾的信息）、人機協同流程（AI在啟動前需要向人類用戶提問哪4-5個關鍵信息）...

AI的真實定位

KPMG反復強調一個關鍵點：只有稅務專家才能使用這個工具。

人類專家的價值，從過去花費數周埋頭撰寫基礎報告，轉變為對AI生成的初稿進行快速審查、驗證、修正和升華，從而提供更高質量、更迅速的決策支持。

AI接管了那些大家公認最枯燥、耗時的工作，員工可以聚焦于解決更有挑戰性的硬骨頭問題。

甚至一些客戶在體驗到TaxBot后，主動提出希望購買這些工具，為KPMG開辟了全新的收入流。

最后

KPMG表示，100頁Prompt只是一個過渡形態。

未來更高效的方式，可能是一個Agent Runtime服務。

什么意思呢？就是不再靠一個萬能的巨型Prompt去驅動一個全能Agent，而是構建一個平臺，讓多個更小、更專注的Agent（比如研究員Agent、作家Agent、編輯Agent）在一個任務上進行協同。

AI的未來不是更多的自主，而是更好的協同。從單個巨型智能，走向一個分工明確、流程清晰的AI員工團隊。

本文轉載自??探索AGI??，作者：獼猴桃