1. Reverse Thinking Makes LLMs Stronger Reasoners

逆向思維在人類推理中扮演著至關重要的角色。人們不僅可以從問題推導出解決方案，還可以反過來從解決方案推導出問題。這種雙向思考方式往往能提高整體的推理性能，因為它允許前后思維之間的一致性檢查。為了使大型語言模型（LLM）具備逆向思維能力，我們引入了逆向增強思維（RevThink）框架，該框架由數據增強和學習目標組成。

在RevThink中，我們通過收集教師模型提供的結構化正向-反向推理來擴充數據集，具體包括：(1) 原始問題；(2) 正向推理；(3) 反向問題；以及 (4) 反向推理。然后，我們采用三種目標以多任務學習的方式訓練一個小的學生模型：(a) 從問題生成正向推理；(b) 從問題生成反向問題；(c) 從反向問題生成反向推理。

在涵蓋常識、數學和邏輯推理的12個數據集上的實驗表明，RevThink相比學生模型的零樣本性能平均提升了13.53%，比最強的知識蒸餾基線方法提升了6.84%。此外，我們的方法展示了良好的樣本效率——僅使用訓練數據中10%的正確正向推理，就優于在一個包含10倍更多正向推理的標準微調方法。RevThink還表現出較強的泛化能力，能夠很好地處理分布外的數據集。

論文: https://arxiv.org/pdf/2411.19865

2. LLM Teacher-Student Framework for Text Classification With No Manually Annotated Data: A Case Study in IPTC News Topic Classification

隨著在線新聞報道數量的不斷增加，按照主題對新聞進行分類變得越來越重要。為了應對這一挑戰，我們提出了一種基于大語言模型（LLM）的蒸餾框架，用于開發不需要人工數據標注的多語言新聞分類模型。該框架利用生成式預訓練transformer（GPT）模型作為教師模型，通過自動標注斯洛文尼亞語、克羅地亞語、希臘語和加泰羅尼亞語的新聞文章來構建IPTC媒體主題訓練數據集。教師模型在這四種語言上表現出色，在零樣本任務上的性能很高，并且其標注結果與人類標注者的一致程度與人類標注者之間的相當。

為了解決處理數百萬文本所需的計算限制，我們對較小的BERT類學生模型進行了微調，這些模型在GPT標注的數據集上進行了訓練。這些學生模型實現了與教師模型相當的高性能。此外，我們研究了訓練數據量對學生模型性能的影響，并調查了它們的單語言、多語言和零樣本跨語言能力。研究發現，學生模型可以在相對較少的訓練實例下達到高性能，并展示了強大的零樣本跨語言能力。最后，我們發布了表現最佳的新聞主題分類器，支持使用IPTC媒體主題架構的多語言分類。

論文: https://arxiv.org/pdf/2411.19638

3. On Domain-Specific Post-Training for Multimodal Large Language Models

近年來，通用多模態大語言模型（MLLMs）得到了快速發展。然而，將這些通用的MLLMs適應特定領域（如科學領域和工業應用）的研究仍然相對較少。本文系統地研究了通過后訓練進行MLLMs的領域適應性，重點關注數據合成、訓練流程和任務評估。

數據合成：我們使用開源模型開發了一個視覺指令合成器，能夠有效地從特定領域的圖像-標題對生成多樣化的視覺指令任務。我們的合成任務在提升MLLMs的領域特定性能方面優于手動規則、GPT-4和GPT-4V生成的任務。

訓練流程：雖然兩階段訓練（最初在圖像-標題對上訓練，然后在視覺指令任務上訓練）是開發通用MLLMs的常見方法，但我們采用單階段訓練流程來增強領域特定后訓練中的任務多樣性。

任務評估：我們在兩個領域（生物醫學和食品）進行了實驗，通過對不同來源和規模的MLLMs（例如Qwen2-VL-2B、LLaVA-v1.6-8B、Llama-3.2-11B）進行后訓練，并評估其在各種領域特定任務上的性能。

這種方法不僅提升了MLLMs在特定領域的性能，還增強了其在多樣化任務中的適應性和靈活性，為其在實際應用中的廣泛應用奠定了基礎。

論文: https://arxiv.org/pdf/2411.19930

4. Scaling Transformers for Low-Bitrate High-Quality Speech Coding

使用神經音頻編解碼模型對語音進行分詞是現代AI pipeline中生成或理解語音（單獨或在多模態背景下）的關鍵部分。傳統上，這些分詞模型主要集中在具有強歸納偏置的低參數量架構上。本文研究表明，通過將大規模參數的Transformer架構應用于這個問題，并結合靈活的有限標量量化（FSQ）瓶頸層，可以在極低比特率（400或700位每秒）下達到最先進的語音質量。訓練后的模型在客觀和主觀測試中均顯著優于現有的基線方法。

這種方法不僅提升了語音處理的質量，還在資源受限的情況下實現了高效的性能，適用于多種應用場景。

論文: https://arxiv.org/pdf/2411.19842

本文轉載自 ??AI-PaperDaily??，作者： AI-PaperDaily