一、以輕量級算子為核心的文本離散推理

該工作發(fā)表于 NAACL 2022（OPERA: Operation-Pivoted Discrete Reasoning over Text）。

1、基于文本知識的離散推理型閱讀理解

閱讀理解是在給定一段文本以及相應(yīng)問題的基礎(chǔ)上，從中抽取或者計算出問題的答案。除了文本抽取之外，還包括數(shù)值計算、比較、排序等一些復(fù)雜邏輯推理問題。

2、相關(guān)工作分類及特點

（1）Semantic Parsing-based model

在給定一段文本和問題之后，通過 Semantic Parser 解析成一段可執(zhí)行的程序從而獲得答案。該方法的可解釋性比較強，但存在的問題也比較明顯，非常依賴大量的邏輯表達式或者程序作為標注數(shù)據(jù)來訓(xùn)練監(jiān)督模型。

（2）MOE-based model

在給定一段文本和問題之后，會通過 Encoder 進行編碼后輸入到 Reasoning Module 推理模塊，再輸入到不同的專家系統(tǒng)后給出相應(yīng)的答案。該方法的性能表現(xiàn)會更優(yōu)，但可解釋性會弱一些，同時也缺乏直接做離散推理的模塊。

3、解法思路：算子設(shè)計

我們的問題可以抽象為：在給定文本 P 和問題 Q 的條件下，求解一個概率模型來得到答案。首先將問題概括為一組相關(guān)的算子，并且通過神經(jīng)網(wǎng)絡(luò)模塊去模擬這種算子的執(zhí)行。將這樣一個端到端的模型拆分成兩個部分，第一部分基于文本 P 和問題 Q 來預(yù)測所涉及到的算子，第二部分根據(jù)算子再進一步推理出答案。

4、OPERA 模型架構(gòu)

OPERA 模型架構(gòu)如圖，它主要包含一個上下文的 Encoder、一個輕量級的算子推理模塊以及 MOE 的預(yù)測模塊，同時包含很多專家分類器。

算子模塊主要包含以下三個部分：

（1）算子選擇 Operation Selector：

（2）算子執(zhí)行 Operation Executor：

（3）預(yù)測 Predictor：

在 DROP 數(shù)據(jù)集上的實驗結(jié)果表明，該方法比之前方法有顯著提升。

二、基于知識的統(tǒng)一離散推理：程序生成

在面對結(jié)構(gòu)化或者是混合結(jié)構(gòu)化的混合異構(gòu)數(shù)據(jù)中做推理和理解，我們提出了基于知識的統(tǒng)一的離散推理來進行程序生成的方法，即 UniRPG-2: Unified Knowledge-Grounded Numerical Reasoning as Program Generation，該工作為發(fā)表于 EMNLP2022 上的 UniRPG 的進一步擴展。

1、基于異構(gòu)知識的離散推理型閱讀理解

該框架是面向異構(gòu)知識的語義解析推理方法，不僅能夠處理例如 TAT-QA 數(shù)據(jù)這樣 single-turn 的對話，也能夠處理 PACIFIC 這樣 multi-turn 這樣的多輪問答。該體系架構(gòu)的優(yōu)勢是可解釋性更強，它能夠生成一個邏輯表達式或者程序，通過對程序的執(zhí)行來得到答案，從而實現(xiàn)邏輯推理。另一方面，對于異構(gòu)知識的通用性更強。體系架構(gòu)圖如下：

2、UniRPG-V2 模型架構(gòu)

模型架構(gòu)如圖，它可以處理純文本、純結(jié)構(gòu)化的表格或者兩者異構(gòu)的數(shù)據(jù)。在 encoder 階段，對于異構(gòu)數(shù)據(jù)會先進行 structure-aware knowledge reader 做一個表征，拆分為 lower layers 和 higher layers，并做 mask 掩碼操作，能夠獲取異構(gòu)信息中同行或者同列的前后文信息。在 decoder 階段，pointer 可以通過 attention 機制定位輸入位置，同時通過 prediction vocab 模塊去生成算子，從而生成一個可執(zhí)行的 program。

3、實驗結(jié)果及可解釋性分析

通過在 DROP、TAT-QA、PACIFIC 數(shù)據(jù)集上的測試，模型有良好的表現(xiàn)，同時具備很好的可解釋性。如下圖的熱力圖所示，縱坐標中的不同 token，實際對應(yīng)了橫坐標中輸入文本的不同部分。

三、基于大模型的零樣本&少樣本推理現(xiàn)狀

1、大模型時代的語義解析

這里列舉兩個程序的生成和邏輯推理的具體案例。比如提問 chatGPT：將“現(xiàn)任美國總統(tǒng)的妻子是誰”這句話解析成 logic form，再比如提問：Python 版本的快排的實現(xiàn)。通過 ChatGPT 的反饋來看，現(xiàn)有的大模型可以很好的處理程序的生成和邏輯的推理。

2、知識推理

在知識推理方面，小模型和大模型之間有明顯的差異。基于 supervised learning 小模型通常需要外部語料庫或者知識圖譜進行檢索，或者大量的人工標注才能進行訓(xùn)練。而大模型可以直接去掉檢索器，僅依賴內(nèi)部的知識，且無需精調(diào)。

3、思維鏈推理：CoT

在原始的問答模型基礎(chǔ)上，引入人工輸入的推理步驟，可以使大模型先輸出推理邏輯，再得出相應(yīng)的答案。

4、思維程序推理：PoT

在 CoT 的基礎(chǔ)上，將思維鏈的自然描述語言轉(zhuǎn)換為思維程序，能夠在推理上表現(xiàn)得更好。

5、提升推理能力的影響因素猜測

① 通過指令微調(diào)能夠幫助大模型更好的理解自然語言，提升推理效果；

② 代碼預(yù)訓(xùn)練能夠幫助大模型學(xué)習(xí)人類處理問題的方法以及解決問題的過程，從而提升推理能力；

③ 大模型參數(shù)達到一定量級的時候，模型的推理能力會實現(xiàn)躍遷。

四、總結(jié)和展望

未來大模型可能發(fā)展的方向：

（1）目前大模型仍然存在不少的事實錯誤，怎樣結(jié)合外部的知識圖譜做可信大模型的研究，從而彌補事實性錯誤。

（2）大模型推理的安全問題：怎樣在法律法規(guī)、道德規(guī)范的條件下去做基于人類規(guī)則知識的可控解碼。

（3）大模型推理能力是如何獲得的，可能需要結(jié)合生物學(xué)、神經(jīng)科學(xué)等交叉學(xué)科進行探究推理能力的起源。