隨著大模型的火熱持續迭代，AI基礎設施愈發成為云廠商的核心競爭力之一。

7月1日，騰訊宣布其自研星脈高性能計算網絡全面升級，升級后的星脈網絡2.0搭載全自研的網絡設備與AI算力網卡，支持超10萬卡大規模組網，網絡通信效率比上一代提升60%，讓大模型訓練效率提升20%。這意味著，如果原來訓練中某個計算結果的同步需要花100秒完成，現在只需要40秒；原來需要花50天訓練的模型，只需要花40天。

AI大模型就像是一場F1比賽，騰訊云專門設計了星脈高性能算力網絡“賽道”，并自研了TiTa和TCCL網絡協議作為“賽事指揮中心與專業車隊”，共同讓“騰訊云高性能計算集群HCC的GPU服務器”這臺馬力強大的F1賽車發揮最大的算力性能，助力客戶在AI大模型的競爭中遙遙領先。

AIGC的火熱推動著AI大模型參數量從億級到萬億級的飆升。模型參數規模與架構升級對底層網絡網絡也提出了新的要求。

為支撐AIGC中海量數據的大規模訓練，大量服務器通過高速網絡組成大規模算力集群，互聯互通，共同完成訓練任務。

然而，集群規模越大，所產生的通信損耗會越高；同時，AI訓練的通信模式，與傳統的通信模式差異較大，不同大模型架構也存在著通信模式的差異。部分大模型訓練過程中通信占比最大可達50%。同時，分布式計算模式也意味著，單點的故障將導致整個集群不可用，因此在故障的時候需要快速定位與恢復訓練，把損失降到最低。

如何在大規模組網前提下，提升通信效率、降低通信占比，讓訓練穩定高可用，進而提升GPU的利用率和模型訓練效率，是AI網絡要解決的核心問題。

數據顯示，星脈網絡2.0可實現大模型訓練過程中，網絡通信占比（通信時間占總體時間比例）低至6%，遠低于10%的業界水平；通信負載率達到90%，與IB網絡（Infiniband）持平，相較于標準以太網提升60%。整體能力處于業界頂尖水平。

四大組件全面升級，助力AI訓練提速

騰訊自研星脈網絡是一套軟硬協同的高性能網絡體系，包括自研網絡設備、通信協議、通信庫以及運營系統四大關鍵組件，每個組件均采用了業界首創的騰訊核心技術。

騰訊云副總裁王亞晨

硬件方面，騰訊星脈網絡是業界首個采用全自研網絡設備的高性能網絡，包括交換機、自研光模塊、網卡等。自研交換機從25.6T容量升級到51.2T，同時在業界率先引入400G硅光模塊，速率翻倍，讓網絡延遲降低40%，支持超10萬卡大規模組網。

值得注意的是，星脈網絡2.0支持搭載騰訊自研的全新算力網卡，這是公共云業內首款為AI訓練設計的網卡，網卡采用最新一代 FPGA 芯片，整卡帶寬可達400Gbps，具備業界最高的3.2T整機通信帶寬。該自研算力網卡運行著新一代騰訊自研通信協議TiTa，并搭載了騰訊獨有的主動擁塞控制算法。

相比起上一代，TiTa協議2.0從部署在交換機轉移到了端側的網卡上，從原來的被動擁塞算法升級到了更為智能的主動擁塞控制算法，可主動調整數據包發送速率，從而避免網絡擁堵；并通過擁堵智能調度，實現網絡擁塞快速自愈。這讓混合專家(MoE)模型訓練下網絡通信性能相比1.0提升30%，帶來訓練效率10%的提升。

專為星脈網絡設計的高性能集合通信庫TCCL，也進行了升級。通過創新的NVLINK+NET異構并行通信、Auto-Tune Network Expert自適應算法等通信庫的升級，在MoE模型訓練下，給星脈網絡帶來了30%的通信效率提升，讓模型訓練效率提升10%。

TCCL 對外的接口跟原生通信庫接口完全一致的，主流AI大模型客戶不需要額外適配，只需要替換通信庫就可以發揮星脈的能力。

通信協議TiTa與通信庫TCCL的升級帶來的效果疊加，讓星脈網絡的通信效率提升60%，MoE大模型訓練效率提升20%。

網絡的故障或任何單點的故障，將導致整個集群不可用，讓模型訓練暫停。因此，網絡的高可用、穩定性也極為重要。為確保星脈網絡的高可用，騰訊云自研了端到端的全棧網絡運營系統，這也是星脈網絡第四大關鍵組件。

運營系統2.0新增騰訊獨家技術靈境仿真平臺，從原來僅能定位網絡問題，到可定位GPU節點問題，實現萬卡級訓練故障卡頓、慢節點分鐘級定位。這對星脈網絡進行了360度無死角的立體監控，可以更快發現與定位網絡問題，讓整體故障的排查時間再次大幅縮短，故障時盡快恢復續訓。

打造最適合大模型的云

目前，騰訊云已經面向AIGC場景推出了基于星脈網絡的大模型訓練集群HCC、AIGC存儲解決方案、向量數據庫以及行業大模型服務MaaS、天御AIGC內容安全解決方案等大模型全鏈路云服務。超過80%的頭部大模型企業使用了騰訊云服務。

大模型訓練集群在HCC將高性能云服務器作為節點，滿配最新代次的GPU，節點之間通過自研星脈網絡互聯，提供高性能、高帶寬和低延遲的一體化高性能計算產品。

騰訊云AIGC云存儲解決方案是國內首個實現存儲引擎全面自研的云存儲解決方案，可將大模型的數據清洗和訓練效率均提升一倍，需要的時間縮短一半。

騰訊云向量數據庫Tencent Cloud VectorDB每日支撐超過3700億次向量檢索請求，可支持千億級向量規模存儲，百萬級 QPS 及毫秒級查詢延遲，適用于大模型的訓練推理、RAG場景、AI應用以及搜索推薦服務，實現企業數據接入AI的效率比傳統方案提升10倍。

騰訊云打造了天御AIGC全鏈路的內容安全解決方案，提供包含數據服務、安全專家、機器審核、版權保護、客戶體驗管理五大服務體系，護航企業從模型訓練到事后運營全過程的內容安全建設。

同時，在自身AI基礎設施支撐下，騰訊自研的通用大模型騰訊混元大模型也在持續迭代。

借助基于星脈網絡的大模型訓練集群HCC、Angel機器學習平臺等自研底層技術，騰訊搭建起萬卡AI訓練集群，可以用更少的資源訓練更大的模型，訓練速度是主流框架的2.6倍；推理成本相比業界主流框架下降70%，并且支持國產主流硬件的適配。

騰訊混元已擴展至萬億級參數規模，采用混合專家模型(MoE)結構，在通用基礎能力和專業應用能力方面處于國內主流大模型領先地位。無論是企業客戶還是個人開發者，都可以通過騰訊云上API直接調用騰訊混元，實現更便捷的智能化升級。騰訊還聯合生態伙伴，將大模型技術與20多個行業結合，提供超50個行業大模型解決方案。

大模型時代的來臨，將開創下一代云服務，騰訊云致力于打造“最適合大模型的云”，也將持續升級底層AI基礎設施，助力企業把握AI時代。