在人工智能領域，尤其是自然語言處理（NLP）領域，模型的效率和性能一直是研究者們關注的焦點。隨著數據量的不斷增長和應用場景的日益復雜，如何在保持模型性能的同時提高其處理長文本的效率，成為了一個亟待解決的問題。DeepSeek團隊推出了DeepSeekV3.2Exp模型，通過引入稀疏注意力機制，解決如何保持模型性能的同時提高其處理長文本的效率。一、長文本處理的挑戰與現有方案局限性傳統的注意力機制（如Transformer架構中的自注...

表格檢索，在RAG中是一個非常小眾的問題，主要基于RetrieverReader架構的表格問答（TableQA）系統中，Retriever組件負責從大規模表格語料庫中檢索出與問題相關的候選表格，而Reader組件則在檢索到的表格上進行具體的問答推理。這里有個一個非常關鍵的點是：如何將表格的語義與用戶的問題語義進行對齊。今天分享的QGpT,是如何做好對齊？假設有一個包含多個列和行的表格，其中每一列代表一個不同的屬性（如“姓名”、“年齡”、“...

RAG+Agent催生了深度研究系統逐漸興起，通過迭代推理和證據收集來解決復雜問題。然而，現有的系統主要依賴于文本網頁數據，忽視了多模態文檔（如科學論文、技術報告和金融文件）中蘊含的豐富知識。這些文檔通常包含圖表、表格、圖表和方程等視覺元素，其中嵌入了關鍵信息。處理這類文檔需要復雜的解析技術以保留視覺語義，智能分塊以維持結構連貫性，以及跨模態的自適應檢索能力，而這些能力在現有系統中是缺失的。一、深度研究...

“用三分之一的錢，換兩倍速的旗艦級體驗。”Anthropic剛發布的ClaudeHaiku4.5，給AI行業投下了枚“效率核彈”。這款定位小型模型的新品，不僅在編程測試中追平五個月前的旗艦Sonnet4，更在計算機操作、實時響應等領域實現反超，徹底打破“性能成本”的行業魔咒。今天我們深扒它的三大王牌領域，看這個“小個子”如何成為開發者、企業客服、多智能體系統的新寵。一、編程開發：73.3%高分+三分之一成本，成代碼界性價比之王對開...

DeepseekOCR模型發布，給OCR領域帶來了不小的震動。但是，它又不是大家認知的，提升OCR領域的文字識別能力，而是在于通過光學壓縮技術解決長文本處理中的計算效率問題。換句話就是說，現在大模型token消耗成本隨著輸入的文字增長而增長。如果把需要消耗的token固定在一個可控的范圍內，無論你輸入多少文字，總的計算成本就是可控的。因此，DeepseekOCR給我們提供了一個新思考視角：把輸入的文字，全部限定在一張圖片上，來達到...

當一個AIAgent完成一次任務平均要調用50次工具，海量工具結果不斷涌入上下文窗口時，LLM的性能會不可避免地遭遇滑鐵盧。Chroma的“上下文衰減”研究與Anthropic提出的“注意力預算耗盡”理論，都印證了這一痛點。Manus作為當下熱門的通用消費級AIAgent，其聯合創始人兼首席戰略官Yichao“Peak”Ji在webinar中，首次系統拆解了Manus的上下文工程核心邏輯。以下是我整理出了這份能直接復用的實踐指南。一、為什么上下文工程是AIAg...

本次分享一種名為RAKG（DocumentlevelRetrievalAugmentedKnowledgeGraphConstruction）的框架，旨在解決傳統知識圖譜構建（KGC）方法在文檔級知識圖譜構建中的局限性。一、GraphRAG的局限性傳統KGC方法主要依賴于專家系統和基于規則的模式匹配，雖然能夠保證一定的知識準確性，但面臨高昂的人力成本和較差的可擴展性。隨著深度學習的發展，基于神經網絡的端到端構建方法顯著提高了關系抽取的效率。然而，這些方法大多依賴于復雜...

NanonetsOCR2以Qwen2.5VL3B型號作為視覺語言模型（VLM）的基礎模型，為了訓練新的視覺語言模型（VLM）以進行高精度光學字符識別（OCR），匯集了超過300萬頁的數據集。該數據集包含廣泛的文檔類型，包括研究論文、財務報告、法律合同、醫療記錄、稅表、收據和發票。它還包括包含嵌入圖像、繪圖、方程式、簽名、水印、復選框和復雜表。此外，還納入了流程圖、組織結構圖、手寫材料和多語言文檔，以確保全面覆蓋現實世界的文檔變體...

在AI創業圈，有一個殘酷的現實被反復驗證：95%的AI智能體（AIAgents）在生產環境中難逃失敗命運。2025年10月，一場在舊金山舉辦的“BeyondthePrompt”技術論壇上，來自Uber、WisdomAI、EvenUp等企業的工程師與機器學習負責人，共同揭開了AI智能體落地難的核心癥結。這場吸引600+創業者、工程師參與的論壇，沒有重復老生常談的提示詞工程技巧，而是直指AI落地的“冰山之下”——那些支撐智能體穩定運行的上下文工程、推理架構、...

在大語言模型（LLM）推理場景中，KVCache（鍵值緩存）是平衡性能與成本的核心技術之一。它通過緩存Transformer層中注意力機制的鍵（Key）和值（Value）矩陣，避免重復計算，將推理速度提升數倍甚至數十倍。然而，在生產環境中，單純的KVCache實現往往面臨內存溢出、資源利用率低、動態負載適配難等問題。本文將聚焦KVCache在生產環境中的三大關鍵戰術——分頁（Paging）、固定（Pinning）與復用（Reuse），結合技術原理、工程實...

Google這篇論文提出了一個名為LearnYourWay的AI增強型教科書系統，通過生成式AI（GenAI）解決傳統教科書無法適應不同學習者的知識水平、興趣和學習風格的問題。其核心貢獻在于：提出了一個兩階段AI生成框架：文本個性化(Personalization)：根據學習者的年級水平和個人興趣重寫原始教材。內容多模態化(Multirepresentation)：將個性化后的文本轉換為多種學習形式，如幻燈片、音頻課程、思維導圖等。構建了一個完整的學習體驗：系...

光學字符識別（OCR）任務誕生以來，經歷了“模式匹配→統計學習→深度卷積→視覺語言大模型”四次范式遷移。自2023年chatgpt爆火以后，以GPT4、QwenVL為代表的百億級視覺語言大模型（VLM）將OCR推向了新的高度：不再是簡單的“拍圖識字”，而是成為RAG（檢索增強生成）與LLM預訓練語料構建的“知識入口”。然而，工業界落地時，依然存在三大矛盾：（1）精度與參數量的矛盾：VLMs在古籍、手寫、多語種場景下仍會出現漏檢、錯序、...

一、半結構化的痛點在真實業務中，80%以上的“表格”并非標準的關系型二維表，而是帶有合并單元格、層級標題、嵌套子表、行列交叉說明的半結構化表格。布局五花八門、結構復雜多變，讓自動化數據處理變得異常困難。典型場景包括：醫院EMR里的檢驗報告單券商PDF年報里的財務報表Excel里的項目進度橫道圖電商后臺的訂單匯總表這些表格無法用固定schema建模，卻承載了高價值知識。過去，只能依賴業務專家“肉眼”檢索，耗時且易錯...

一、RAG一些棘手的問題檢索增強生成（RAG）通過把外部知識以“拼接文檔”形式喂給大模型，在多輪對話、開放域問答、Agent等場景取得顯著效果。然而，該范式帶來兩個問題：延遲爆炸：輸入長度驟增，首詞延遲（TTFT）與KVCache顯存隨token數線性乃至二次方增長。信息稀疏：檢索返回的幾十篇文檔里，僅極少數片段與當前query真正相關；其余token對生成幾乎無貢獻，卻仍要參與全部注意力計算。有一些緩解手段，但是效果有限。例如：...

一、項目定位與核心價值HybridSchemaGuidedReasoning（SGR）是一個革命性的AI研究智能體框架，它通過獨創的「兩階段推理執行架構」和「持久化上下文記憶系統」，解決了當前AI助手在復雜研究任務中的三大核心痛點：推理黑箱化、上下文遺忘癥、工具調用僵化。該項目不僅僅是一個簡單的問答機器人，而是一個完整的「AI研究操作系統」，它具備：認知透明性：每個決策都有完整的思維鏈可追溯記憶持續性：跨會話保存用戶交互歷史與研...

大型語言模型(LLM)目前在聊天機器人、編碼助手、問題解答、創意寫作等等應用方面取得了巨大的成功。但是，每個查詢到達LLM之前沒有記憶的，固定上下文窗口（contextwindows），意味著他們無法在長時間的對話或多會話任務中積累持久的知識，并且很難推理復雜的歷史。最近的解決方案,如檢索增強生成(RAG),將過去的信息附加到提示中,但這通常會導致嘈雜的,未經過濾的上下文，用太多無關的細節或缺失的關鍵事實淹沒模型MemoryR1框架...

檢索增強生成系統（RAG）正從早期“檢索+生成”的簡單拼接，走向融合自適應知識組織、多輪推理、動態檢索的復雜知識系統（典型代表如DeepResearch、Searcho1）。但這種復雜度的提升，使開發者在方法復現、快速迭代新想法時，面臨著高昂的工程實現成本。基于ModelContextProtocol(MCP)架構設計的RAG框架。這一設計讓科研人員只需編寫YAML文件，就可以直接聲明串行、循環、條件分支等復雜邏輯，從而以極低的代碼量快速實現多階段...

今天看到了一個特別有意思的產品，基于大語言模型（LargeLanguageModel，LLM）和RAG（RetrievalAugmentedGeneration，檢索增強生成）的結構化數據問答系統。其實就是根據prompt給定的schema數據結構，將查詢轉化成SQL語句，再去數據庫里執行查詢，然后生成數據圖表及分析。比較新穎的是后面的看板用法:在獲得基礎圖表結果后，支持進一步分析、解釋、驗證以及預測，把多個問答對話構建成一個數據看板.從產品體驗上，感覺非常驚艷...

復雜科學文獻中數學公式識別的問題，對于科學文獻的智能化分析至關重要，但現有的特定任務模型和通用視覺語言模型在處理公式結構多樣性、復雜性和現實變化時仍存在不足。一、當前方案的局限性依賴特定任務模型：大多數現有公式識別方法依賴于為特定任務設計的模型架構，這些模型在新任務中需要重新設計架構，缺乏通用性。復雜性和多樣性不足：現有數據集和方法主要關注結構簡單、符號種類有限的公式，而忽略了多學科、高度復雜...

1.為什么傳統RAG不夠用了？圖1傳統RAG只能返回靜態網頁，而TURA可以實時調用攜程API查詢機票痛點：現有檢索增強生成（RAG）系統只能讀取已索引的靜態網頁，無法回答“下周從北京到上海的最低票價是多少”這類需要實時數據的問題。需求：用戶希望一次對話就能完成查票、訂酒店、看天氣、規劃路線等多件事。2.TURA登場：三階段“工具人”架構圖2TURA三階段框架總覽：檢索→規劃→執行TURA（ToolAugmentedUnifiedRetrievalAgent）...