當人工智能領域被GPT-4、Claude 3等大語言模型的驚人表現所震撼時，一個關鍵問題悄然浮現：我們是否真的客觀評估了這些模型的能力？事實上，當前大模型的評估正面臨著數據污染的陰霾。

數據污染，即模型在訓練過程中接觸到評測基準的測試集數據，導致其在自動評測基準的表現被高估。這一問題在業界尚未得到充分重視。許多大模型的訓練數據來源復雜，難以完全避免測試數據以及答案的泄露。

一些模型甚至直接在測試集上進行訓練，以獲得更高的評估分數。這不僅人為地夸大了模型的性能，也可能誤導相關研究的方向。

面對數據污染問題，盡管已有工作提出基于同分布數據困惑度平均差值[1]以及模型輸出的log-likelihood分布特征[2]檢測大模型數據污染情況的存在性，但這些方法應用場景和實際效果受限，特別是難以檢測大模型在SFT階段的數據泄露問題。

北京大學等發布的最新實驗結果表明，這些方法在檢測預訓練階段的數據泄露相對有效，但在檢測SFT階段數據泄露的準確率接近隨機，亦有同期工作[3]得到了相似的結論。因此，構建不易受數據污染影響的評測方法，對于全面而客觀地評估大模型性能十分重要。

論文鏈接：https://arxiv.org/abs/2402.15043

項目主頁 & 開源代碼：https://zhuohaoyu.github.io/KIEval/

除了數據污染，當前主流的大模型自動評估方法在全面評估模型的真實能力與泛化性能方面也存在不足。

最為主流的基于靜態的數據集的評估方法，往往只需大模型生成對于QA任務或選擇題的選項答案，這一點不僅與目前大型語言模型的開放式文本生成的主要用途并不匹配，亦無法考察模型在回答質量等方面的表現。

面對這些挑戰，需要一種新的評估范式，能夠在排除數據污染影響的同時，全面考察模型在知識理解、推理、生成等方面的真實水平，判斷模型是具備對于問題的深入理解，還是僅僅「記住」了測試數據的答案。

目前，KIEval已被ACL 2024主會錄用，論文已于arXiv公開，團隊已經開源了KIEval的全部代碼并提供了復現環境，僅需簡單修改被評估模型的配置即可快速運行KIEval的完整流程。

KIEval：動態交互式評估框架

KIEval是一個基于知識的動態交互式評估框架，旨在通過引入多輪對話交互，重點考察模型知識的泛化和應用能力，而非簡單的模式匹配或知識記憶。

KIEval的核心理念是通過大模型生成的動態的多輪對話，考察被評估大模型在知識泛化和應用方面的能力。

與傳統的靜態數據集評估不同，KIEval引入了一個「交互者」大模型，與被評估模型進行多輪對話。在每一輪交互中，「交互者」根據先前的對話歷史，動態生成新的、更為深入的問題，引導被評估模型靈活運用其知識，生成連貫、相關的回復。

具體而言，KIEval的評估流程如下：首先，從現有的高質量數據集中選取一個初始問題，作為對話的起點。被評估模型需要根據這個問題生成一個回答。

接下來，「交互者」根據這個回答和問題，生成一個后續問題，進一步探究模型在這個話題上的知識深度。這個過程重復多輪，形成一個連貫的對話。

在對話過程中，作者引入「評估者」大模型，重點關注模型回復的相關性、連貫性、邏輯性等指標，而非僅僅考察其回復是否與參考答案匹配。

這種動態交互的評估方式有幾個優勢：

首先，它能夠有效降低數據污染的影響。由于每一輪的問題都是動態生成的，即使模型在訓練時見過了初始問題，它也難以簡單地「背誦」后續回復。

其次，多輪對話能夠更全面地考察模型在知識運用、邏輯推理、語言生成等方面的綜合能力，而非僅僅依賴模式匹配。

此外，KIEval可以方便地擴展到不同的領域和語言，只需要選取相應領域的高質量數據集作為知識源即可。

KIEval揭示洞見與實驗分析

通過KIEval框架，作者對大模型的評估有了新的認識。這些認識不僅深化了對現有評估方法的理解，也為未來大模型的評估提供了一些啟發。

首先，KIEval的實驗結果表明，傳統的基準測試往往低估了模型之間的真實性能差距。

在靜態數據集上，不同模型的得分差異可能并不明顯。但將這些模型置于 KIEval的動態對話場景中時，它們在知識運用、邏輯推理等方面的差距被顯著放大。這提醒我們，僅依賴靜態數據集的評估可能掩蓋了模型的真實水平。

KIEval的實驗也揭示了數據污染對大模型理解和泛化能力的影響。作者構造了若干「作弊」模型，將評測數據集的一部分測試樣本加入到「作弊」模型的訓練集中。

作者發現，這些在訓練時接觸過測試集的模型，雖然在對應的測試集上取得了很高的分數，但在KIEval的動態對話中卻表現平平，并未在「作弊」訓練中得到正向提升。

這說明，數據污染可能只是提高了模型對特定答案的記憶，而非真正增強其知識理解和運用的能力。

除此之外，作者亦測試了兩種對大模型數據污染檢測的算法[1,2]，發現其雖然可以一定程度上檢測出預訓練階段中引入的數據污染問題，其在檢測微調階段的數據泄露準確率接近隨機水平。

相比之下，可以通過觀察KIEval分數與靜態評估數據集準確率的分數關系，推測數據泄露的存在。

當模型在數據集準確率上表現十分優秀，但在交互過程中無法有效地回答根據數據集題目動態生成的問題時，說明其僅僅掌握了題目的答案而并非具備回答問題所需的知識或能力。

這表明，在大模型評估中，可以從單純地檢測數據泄露的存在性或是單純考察模型回答固定問題的能力，轉向更全面地評估模型知識理解的深度。

為了驗證KIEval評估結果的有效性，作者對比KIEval分數以及若干傳統評估方法結果，與人類評估結果的對齊程度。

通過對人類評分與主流的多種自動評估方法的相關性分析，可以得出KIEval的評分與人類評分的相關性顯著高于其他自動評估方法這一結論。

這表明，KIEval更為貼近人類在多輪對話場景下，針對對話質量的主觀判斷。

最后，考慮到大模型本身可能具有一定偏向性（例如GPT系列模型可能更傾向于自身的輸出），作者對大模型本身偏向性對于評估結果的影響亦進行探究。

得益于KIEval設計中分開了「交互者」和「評估者」這兩個角色，只需對于一組相同的被評估模型使用相同的交互者，即可通過貪心解碼，確保交互的雙方輸出保持不變。

針對相同的交互輸出，僅需使用不同的評估者對被評估模型的輸出進行重復評價，即可得到不同模型針對同一被試模型的評估結果。

實驗表明，盡管在樣本級別上，這一偏向性確實存在，但在總體評估分數上，不同評估者模型給出的分數具有較強的正相關性，因此大模型的偏向性不易影響總體的結論。

FreeEval：靈活高效可靠的大模型評估工具包

為了高效實現KIEval的動態評估流程，并與其他多種評估方法作出公平的比較，還需要一個高效、靈活的評估工具。

這就是作者開發FreeEval的初衷。FreeEval是一個模塊化的大模型評估工具包，旨在為研究者快速高效構建新的評估方法并檢驗評估結果的有效性提供支持。

KIEval就是基于FreeEval構建的評估方法，充分利用了FreeEval的靈活性和效率，并在詳盡的實驗基礎上證明其可靠性以及評估結果的有效性。

FreeEval的設計理念可以用四個關鍵詞概括：模塊化、高效率、可信任。

FreeEval將評估流程解構為「數據集」和「評估步驟」兩種類型的自由組合，每個模塊都有統一的接口定義。這種設計使得不同模塊可以靈活自由組合，研究者可通過FreeEval提供的接口快速實現新的評估步驟或是通過對已有數據集和評估步驟的自由組合，輕松定制自己的評估流程。

這樣的模塊化設計給予了FreeEval極強的可擴展性。FreeEval也提供了完善的開發文檔和示例代碼，幫助研究者快速上手開發。

對于評估方法的研發過程，提高評估效率是降低成本的關鍵。FreeEval在效率上做了深度優化，支持開源模型的高效推理和閉源模型的快速調用。

對于開源模型，FreeEval支持在多節點、多GPU上并行評估以及負載均衡，可以充分利用計算資源。

對于閉源模型，FreeEval支持快速的并發調用。同時，FreeEval還實現了緩存機制，避免了不必要的重復計算或接口調用。在完全相同的機器環境下，FreeEval的性能較先前工作具有較大提升。

FreeEval還包含了一系列元評估（Meta-evaluation）工具作為「評估步驟」，來確保評估的可信性。它提供了數據污染檢測、人類評估標注、評估結果可視化、評估結果相關性分析等模塊，幫助研究者判斷評估結果的有效性、可靠性，識別和消除評估中的潛在風險。

FreeEval還支持全流程的日志記錄和結果復現，對于全過程中產生的模型請求和推理結果、推理參數等均會保存，保證了評估的透明性和可復現性。

目前，FreeEval已經開源并將持續完善：https://github.com/WisdomShell/FreeEval

總結與展望

在當前人工智能和大語言模型快速發展的背景下，評估模型的真實能力和泛化性能變得越來越重要。KIEval和FreeEval的提出，正是為了應對現有評估方法在數據污染和評估全面性方面的挑戰，提供一種更加動態、靈活和可信的評估方式。

KIEval是一種新的大模型評估范式，核心理念是通過知識驅動的多輪對話和交互評估，降低數據污染的影響，并深入考察模型在知識理解、邏輯推理和語言生成等方面的綜合能力。

實驗結果表明，KIEval不僅揭示了模型在靜態數據集上表現不顯著的性能差距，還可觀察出數據污染對模型理解和泛化能力的影響。相比傳統評估方法，KIEval的評估結果與人類評分的相關性更高，顯示出更好的評估有效性和可靠性。

FreeEval則提供了一個高效、靈活和可信任的工具包，用于構建和驗證新的評估方法。其模塊化設計、高效的計算優化和全面的評估工具，使研究者能夠快速構建和定制評估流程，并確保評估結果的有效性和可靠性。

FreeEval的性能優化和完善的日志記錄機制，為大規模模型評估提供了強有力的支持。

通過KIEval和FreeEval的結合，可以更加全面地評估大模型的真實能力，并為未來的模型改進和研究提供重要的見解。KIEval通過多輪對話評估模型的綜合能力，揭示了傳統靜態評估方法的不足；而FreeEval則通過其高效和靈活的設計，簡化了評估流程，提升了評估效率。