如何讓傳統的開發者輕松地轉變成AI開發者？在今年 COMPUTERX 2024上，NVIDIA給出了答案。

本周，COMPUTERX 2024正式開幕，NVIDIA面向AI發布了一系列的產品和解決方案。其中，為了幫助傳統開發者轉變為AI開發者，NVIDIAI推出了一種推理微服務，即NIM。據介紹，借助NVIDIA NIM，全球2800萬開發者可以輕松地創建生成式AI。除此之外，NIM還能夠幫助企業實現基礎設施投資的效果最大化。

何為NVIDIA NIM？

眾所周知，生成式AI已經成為人工智能的主要發展趨勢。基于生成式AI開發的各種大模型應用，已經成為企業未來創新發展的主要方向。

不過，由于生成式AI應用正在變得越來越復雜，通常需要使用具有不同功能的多個模型來生成文本、圖像、視頻、語音等，對開發者提出了巨大的挑戰。如何幫助開發者快速實現轉變？于是，NVIDIA推出了推理微服務——NVIDIA NIM，以一種簡單、標準化的方式，將生成式 AI 添加到應用中，顯著提高了開發者的工作效率。

據介紹，NVIDIA NIM通過經優化的容器的形式提供模型——以部署在云、數據中心或工作站上。借助 NVIDIA NIM，開發者能夠輕松地為 copilots、聊天機器人等構建生成式 AI 應用，所需時間從數周縮短至幾分鐘。

如何使用NVIDIA NIM？

如何使用NVIDIA NIM也是用戶關注的重點。

據了解，從下個月開始，NVIDIA 開發者計劃的會員將能夠免費使用 NIM 來進行研究和測試。目前，開發者可在 ai.nvidia.com 網站上免費試用 NVIDIA 微服務。企業可通過在 NVIDIA 認證系統和領先的云平臺上運行的 NVIDIA AI Enterprise 來部署生產級 NIM 微服務。

此外，由于NIM 容器是預構建的，以加速模型部署，因此開發者可用于 GPU 加速推理，其中包括 NVIDIA CUDA? 軟件、NVIDIA Triton 推理服務器?和 NVIDIA TensorRT?-LLM 軟件。

另據介紹，在 ai.nvidia.com 網站上，超過 40 個 NVIDIA 及社區模型可作為 NIM 端點進行體驗，其中包括 Databricks DBRX、谷歌開放模型 Gemma、Meta Llama 3、微軟 Phi-3、Mistral Large、Mixtral 8x22B 和 Snowflake Arctic。

開發者現在可以從 Hugging Face AI 平臺上，訪問 Meta Llama 3 模型的 NVIDIA NIM 微服務。通過基于 NVIDIA GPU 的 Hugging Face 推理端點，只需點擊幾下，開發者就能在其選擇的云平臺上輕松地訪問和運行 Llama 3 NIM。

對于企業而言，NIM 還可使企業能夠最大限度利用其基礎設施投資。例如，相較于未使用 NIM 的情況下，在 NIM 中運行 Meta Llama 3-8B 時，后者在加速基礎設施上可產生高達 3 倍的生成式 AI token。這使企業能夠大幅提高效率，使用相同的計算基礎設施來生成更多的結果。

企業可以使用 NIM 來運行用于生成文本、圖像和視頻、語音以及數字人的應用。借助面向數字生物學的 NVIDIA BioNeMo? NIM 微服務，研究人員可以構建新的蛋白質結構，加速藥物研發。

數十家醫療公司正在一系列應用中部署 NIM，以便在手術規劃、數字助手、藥物研發和臨床試驗優化等一系列應用中為生成式 AI 推理提供動力。

借助全新的 NVIDIA ACE NIM 微服務，開發者可以在客戶服務、遠程醫療、教育、游戲和娛樂等應用中，輕松構建和操作栩栩如生的交互式數字人。

已有數百家合作伙伴已嵌入NIM

為了便于企業開發者基于各種平臺開發AI應用，NVIDIA已經與數百家生態合作伙伴合作，將NVIDIA NIM嵌入到他們的系統當中。這些合作伙伴包括 Canonical、Red Hat、Nutanix 和 VMware（已被博通收購）在內的平臺提供商已在開源 KServe 或企業解決方案方面支持 NIM。AI 應用公司 Hippocratic AI、Glean、Kinetica 和 Redis 也在部署 NIM 來支持生成式 AI 推理。

領先的 AI 工具和 MLOps 合作伙伴（包括亞馬遜 SageMaker、微軟 Azure AI、Dataiku、DataRobot、deepset、Domino Data Lab、LangChain、Llama Index、Replicate、Run.ai、Saturn Cloud、Securiti AI 和 Weights & Biases）也已將 NIM 嵌入到其平臺，使開發者能夠通過優化推理來構建和部署特定領域的生成式 AI 應用。

另外，包括 Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和新思科技等近 200 家技術合作伙伴正在將 NIM 集成到他們的平臺中，以加快特定領域應用的生成式 AI 部署，例如 copilot、代碼助手和數字人虛擬形象。從 Meta Llama 3 開始，在 Hugging Face 上現已開始提供 NIM。

全球系統集成商和服務交付合作伙伴埃森哲、德勤、Infosys、Latentview、Quantiphi、SoftServe、塔塔咨詢服務（TCS）和威普羅（Wipro）已經建立了 NIM 能力，以幫助全球企業快速開發和部署生產型 AI 策略。

據了解，企業幾乎可以在任何地方運行支持 NIM 的應用，包括在全球基礎設施制造商思科、戴爾科技、慧與、聯想和超微，以及服務器制造商永擎電子、華碩、技嘉、鴻佰科技、英業達、和碩、QCT、緯創資通和緯穎科技的 NVIDIA 認證系統? 上運行。NIM 微服務也已集成至亞馬遜云科技、谷歌云、Azure 和 Oracle 云基礎設施中。

正如NVIDIA CEO 黃仁勛在 COMPUTEX 開幕前發表主題演講中所述，每個企業都希望在其運營中融入生成式 AI，但并非每個企業都擁有專門的 AI 研究團隊。NVIDIA NIM 可被集成到任意平臺中，任何地方的開發者都可以訪問，并且可以在任意環境中運行——它正在助力科技行業將生成式 AI 普及到每一個企業組織。

筆者點評：無論是企業還是個人，在探索生成式AI場景，開發各類大模型應用過程中都會面臨著各種挑戰。在這些挑戰當中，開發者勢必將面臨著更大的壓力。這是因為，從傳統開發者向AI開發者轉變的過程中，需要學習太多的專業技能，不僅難度大，而且開發周期長，效率并不高。NVIDIA NIM的推出，將徹底改變傳統的開發模式，不但能夠讓開發者輕松地為 copilots、聊天機器人等構建生成式AI應用，而且能夠大幅降低AI應用開發所需時間。可以說，NVIDIA NIM是站在開發者角度推出的一款開發工具，它的推出將進一步加速AI應用的落地進程，為企業探索AI應用提供無限可能。