作為英偉達(dá)GPU技術(shù)大會(huì)上的絕對(duì)明星，今年英偉達(dá)為我們帶來了 “Blackwell”數(shù)據(jù)中心GPU硬件，即將在2025年新平臺(tái)中擔(dān)當(dāng)基石角色的“Grace”CPU、NVLink Switch 5芯片、Bluefield-3 DPU以及更多其他組件。而在本周的Hot Chips 2024大會(huì)上，英偉達(dá)再次對(duì)新一波硬件組合做出了詳盡介紹。

很多朋友可能還不熟悉英偉達(dá)的NIM策略，即強(qiáng)調(diào)幫助開發(fā)人員更輕松、更快捷地創(chuàng)建AI應(yīng)用程序。雖然會(huì)上也有討論英偉達(dá)推理微服務(wù)的聲音，但面對(duì)Blackwell這樣的重量級(jí)新成果，沒有任何其他議題能夠真正奪走它的風(fēng)頭。

但也必須承認(rèn)，NIM策略對(duì)于英偉達(dá)通過聊天機(jī)器人等生成式AI工具幫助用戶開發(fā)AI軟件的整體計(jì)劃有著至關(guān)重要的作用。英偉達(dá)方面表示，NIM提供了軟件工程師所需要的一切，其被安置在類似容器的環(huán)境當(dāng)中，并以預(yù)構(gòu)建的微服務(wù)形式交付，可被部署在云端、數(shù)據(jù)中心乃至工作站等系統(tǒng)之上。在Kubernetes之上構(gòu)建的NIM容器將囊括開源大語言模型、云原生技術(shù)棧、英偉達(dá)TensorRT及TensorRT-LLM、其Triton推理服務(wù)器與標(biāo)準(zhǔn)API等等，將成為英偉達(dá)AI

Enterprise整體戰(zhàn)略中的關(guān)鍵組成部分。

根據(jù)英偉達(dá)企業(yè)AI軟件產(chǎn)品副總裁Justin Boitano所言，NIM是所謂第二波生成式AI技術(shù)藍(lán)圖的一部分。這股新趨勢將發(fā)生在企業(yè)當(dāng)中，使得企業(yè)能夠利用自有知識(shí)來經(jīng)營業(yè)務(wù)、與客戶交互并加快創(chuàng)新節(jié)奏。此前的第一波浪潮，是由OpenAI于2022年11月下旬推出ChatGPT之后激發(fā)的市場熱情所推動(dòng)、并由基礎(chǔ)模型開發(fā)者引領(lǐng)，主要探索如何將生成式AI融入互聯(lián)網(wǎng)服務(wù)，從而通過撰寫語言和代碼來提高個(gè)人生產(chǎn)力水平。

Boitano在本周于加利福尼亞州召開的Hot Chips展會(huì)的會(huì)前簡報(bào)中向記者和分析師們強(qiáng)調(diào)，在這新一波浪潮當(dāng)中，“生成式AI技術(shù)將幫助團(tuán)隊(duì)推理復(fù)雜的業(yè)務(wù)流程與供應(yīng)鏈依賴關(guān)系，以前所未有的速度將新產(chǎn)品和服務(wù)推向市場。這波浪潮的開端實(shí)際上源自Meta Platforms的Llama 3.1等開放模型的發(fā)布。這些模型代表著驚人的AI技術(shù)進(jìn)步，將企業(yè)的智能化水平提升到了新的層面，而幾年之前大多數(shù)人還無法想象能夠?qū)⑦@些模型運(yùn)行在數(shù)據(jù)中心之內(nèi)。”

他同時(shí)提到，NIM的建立是為了實(shí)現(xiàn)對(duì)這些模型的大規(guī)模、生產(chǎn)級(jí)安全運(yùn)行，并補(bǔ)充稱英偉達(dá)目前正在與一系列AI模型構(gòu)建組織合作，利用NIM使其模型在性能與運(yùn)行時(shí)效率方面更上一層樓。

Boitano介紹稱，“這些NIM提供了性能優(yōu)化，使得token吞吐效率比其他解決方案快2到5倍。因此企業(yè)在英偉達(dá)系統(tǒng)上運(yùn)行生成式AI時(shí)，可獲得更好的總體擁有成本。另外通過與社區(qū)模型構(gòu)建者、專有模型構(gòu)建商以及我們自己的模型所共同構(gòu)成的生態(tài)系統(tǒng)合作，英偉達(dá)能夠確保任何業(yè)務(wù)下的任何模式間均可無縫協(xié)作，從而為使用英偉達(dá)AI Enterprise的客戶提供最佳token處理效率。”

在Hot Chips上，英偉達(dá)正通過NIM邁出新的一步，為想要?jiǎng)?chuàng)建自定義生成式AI應(yīng)用程序的開發(fā)者們提供NIM Agent Blueprints。這一方案參考的是AI工作流，包括基于NIM及合作伙伴微服務(wù)的示例應(yīng)用程序、參考代碼、一份概述自定義機(jī)制與Helm圖表(用于具體解釋并打包Kubernetes集群資源的應(yīng)用程序文件)以實(shí)現(xiàn)應(yīng)用程序部署。開發(fā)人員還可以對(duì)此藍(lán)圖做出靈活修改。

Boitano解釋道，“這是一份不斷增長的參考應(yīng)用目錄，專為各類常見用例而創(chuàng)建，其中整合了英偉達(dá)與早期采用者在合作當(dāng)中總結(jié)出的最佳實(shí)踐。英偉達(dá)NIM Blueprints是一種可運(yùn)行的AI工作流，針對(duì)特定用例進(jìn)行了預(yù)訓(xùn)練，而且任何開發(fā)人員都可靈活修改。這些藍(lán)圖將成為企業(yè)中各類最核心業(yè)務(wù)任務(wù)的執(zhí)行起點(diǎn)。”

除了加快模型部署之外，NIM Blueprints還屬于英偉達(dá)規(guī)劃的“數(shù)據(jù)飛輪”項(xiàng)目的一部分。這些藍(lán)圖能夠增強(qiáng)模型功能并實(shí)現(xiàn)模型定制，從而滿足組織中特定用例的實(shí)踐需求。Boitano表示在飛輪理念之下，當(dāng)AI應(yīng)用程序運(yùn)行并與用戶產(chǎn)生交互時(shí)，它們就會(huì)生成數(shù)據(jù)、將數(shù)據(jù)反饋至流程當(dāng)中，最終用于在持續(xù)學(xué)習(xí)周期內(nèi)改進(jìn)模型性能。

Boitano指出，“英偉達(dá)NeMo正是運(yùn)行這套飛輪的引擎，英偉達(dá)AI Foundry則是運(yùn)行NeMo飛輪的工廠。這些定制化生成式AI應(yīng)用程序?qū)椭髽I(yè)以更卓越、質(zhì)量更高的體驗(yàn)吸引客戶和員工。”

他同時(shí)補(bǔ)充稱，“應(yīng)用程序的構(gòu)建過程實(shí)際上是從NIM開始的。但為了構(gòu)建數(shù)據(jù)飛輪，英偉達(dá)NeMo框架會(huì)介入其間以支持?jǐn)?shù)據(jù)管理、模型定制和性能評(píng)估，并用于增強(qiáng)應(yīng)用程序以使其更好地融入生產(chǎn)流程。NeMo加快了生成式AI應(yīng)用程序整個(gè)開發(fā)生命周期當(dāng)中的一切計(jì)算密集型階段。我們還擁有廣泛的合作伙伴生態(tài)系統(tǒng)，他們以NeMo和NIM為基礎(chǔ)，使得企業(yè)能夠輕松開發(fā)出自己的生成式AI應(yīng)用程序。”

自從最初的生成式AI熱潮以來，各類組織一直在討論如何將業(yè)務(wù)數(shù)據(jù)納入訓(xùn)練和推理組合，借此定制屬于自己的一套AI運(yùn)作體系。而這方面需求最終催生出的成果，就是檢索增強(qiáng)生成(RAG)。

英偉達(dá)最初發(fā)布了三種場景的藍(lán)圖，分別是用于客戶體驗(yàn)的數(shù)字人(即創(chuàng)建能夠與用戶交互的3D數(shù)字人)以實(shí)現(xiàn)多渠道交互并接入RAG系統(tǒng)。其二是用于企業(yè)RAG的多模態(tài)PDF數(shù)據(jù)提取。“企業(yè)每年都會(huì)生成數(shù)萬億份PDF，這些PDF文件中包含多種數(shù)據(jù)類型，包括文本、圖像、圖表和表格。多模態(tài)PDF數(shù)據(jù)提取藍(lán)圖能夠幫助組織準(zhǔn)確從海量業(yè)務(wù)數(shù)據(jù)中提取出所包含的知識(shí)，使得用戶通過聊天界面高效訪問這些數(shù)據(jù)，亦可快速將數(shù)字人轉(zhuǎn)化為任意主題方面的專家，幫助員工做出更明智、更迅捷的決策。”

最后一類應(yīng)用，則是加快藥物發(fā)現(xiàn)，即使用生成式AI模擬具備靶向性與可結(jié)合性的蛋白質(zhì)分子。

英偉達(dá)還攜手埃森哲、德勤、SoftServe、Quantiphi以及World Wide Technology共同參與開發(fā)NIM Agent Blueprints，同時(shí)力邀Dataiku和DataRobot參與模型的微調(diào)和監(jiān)控，協(xié)同LlamaIndex和Langchain建立工作流，配合Weights & Biases公司開展應(yīng)用程序評(píng)估，并與CrowdStrike、Datadog、Fiddler AI、New Relic和Trend Micro一道探索網(wǎng)絡(luò)安全之道。此外，Nutanix、紅帽和博通的企業(yè)級(jí)產(chǎn)品組合也將支持英偉達(dá)交付的藍(lán)圖。

這些藍(lán)圖還將運(yùn)行在思科、戴爾科技、HPE以及聯(lián)想等OEM廠商的系統(tǒng)，以及亞馬遜云科技、Google Cloud微軟Azure以及甲骨文云基礎(chǔ)設(shè)施等超大規(guī)模系統(tǒng)之上。