Nvidia 於昨日發表了全新配置的高階人工智慧晶片,旨在加速生成型AI應用。這新版本的Grace Hopper Superchip增加了高頻寬記憶體容量,使其具有驅動更大的AI模型的能力。Nvidia 超規模與高效能計算副總裁Ian Buck表示,此配置專為執行能有效驅動如ChatGPT等生成型AI應用的AI推論功能而設計。
Grace Hopper Superchip設計結合了該公司的H100 GPU以及Nvidia設計的CPU。Buck在與記者的電話會議中提到,增加的記憶體容量使模型可以在單一GPU上運行,而不需要連接多個系統或多個GPU。
隨著生成型AI應用的模型大小不斷增加,需要更多的記憶體來運行,而不必連接其他芯片和系統,這樣可以避免性能下降。
Buck說:“這些額外的記憶體簡單地提高了GPU的性能。”
Buck表示,新配置GH200(搭配HBM3e)將於明年第二季度推出。Nvidia計劃推出兩種版本:一個包含兩個晶片的版本供客戶整合到系統中,以及一個結合兩個Grace Hopper設計的完整伺服器系統。
不過,Nvidia的股價在8日下跌了約1.7%。
台股供應鏈
從發表會上看來,Nvidia在加速運算領域還是具有領先地位,對台灣股票市場而言,Nvidia供應鏈還是首選。
而在技術層面上,台積電的CoWoS先進封裝技術仍將是高階AI伺服器運算晶片的首選。
台灣主要直接受惠的供應鏈包括台積電(2330-TW)、辛耘(3583-TW)、廣達(2382-TW)、技嘉(2376-TW)、華碩(2357-TW)、台達電(2308-TW)、欣興(3037-TW)等個股。