
技術架構方面,Virgo Network結合高頻寬、低延遲設計,搭配ConnectX-9 SuperNIC,能有效支撐大規模GPU之間的高速資料傳輸,成為AI超級電腦運作的關鍵骨幹。此類架構也被市場視為推動AI資料中心升級的重要方向。
效能表現上,新一代系統在推論(inference)效率方面明顯提升。官方指出,相較前一代產品,每個token的推論成本可降低達10倍,同時每兆瓦(megawatt)所能處理的token吞吐量提升超過10倍,顯示在能耗與運算效率之間取得顯著優化。
此外,Google Cloud亦同步擴展其NVIDIA Blackwell平台產品組合,提供多種虛擬機(VM)配置,滿足不同AI工作負載需求。值得注意的是,OpenAI目前已在NVIDIA系統上進行大規模推論運算,應用場景涵蓋ChatGPT等生成式AI服務。