avater
uanalyze.2024.06.21

馬斯克xAI採購十萬顆GPU晶片,串聯台美供應鏈

圖片來源:美聯社AP/TPG

2024年6月21日(優分析產業數據中心) - 

馬斯克新創AI公司 xAI 計畫打造一台超級電腦,以支持其AI聊天機器人Grok的下一代版本,訓練這個模型所需要的GPU數量不低,根據五月份《資訊》的報導,馬斯克表示訓練Grok 2模型大約需要20,000顆Nvidia H100 GPU,而Grok 3模型及未來版本則需要100,000顆Nvidia H100 GPU。

這一個新增的需求量直接地影響到相關硬體供應商的業績。

十萬顆GPU到底多不多?我們可以與Meta(META-US)所公布的數據來做為比較基準,根據先前報導,Meta(META-US)計劃今年將採購350,000顆,總數來到600,000萬顆。

而另一家CSP業者Amazon(AMZN-US)則是於2023年下半時透露,正打造一個約10萬顆自家Trainium2晶片的系統;甲骨文(ORCL-US)則是推出了一個32萬顆NVIDIA H100 GPU的系統。

相比之下,這次xAI所預測的GPU需求量雖不算高,但如果不與大規模雲端中心業者相比,仍屬於一個新興的客戶,直接挹注了AI晶片的成長性。

xAI兩大供應商

馬斯克在社交媒體X上表示,戴爾和美超微電腦將為xAI的超級電腦提供伺服器機櫃。戴爾(DELL-US)將組裝一半的機櫃,xAI將在工廠中使用戴爾的XE 9680伺服器,另一半則由美超微電腦(SMCI-US)負責。

Dell在台主要供應鏈

緯創(3231-TW)是Nvidia H100 GPU的主要基板供應商,並在下一代Blackwell架構GPU中承接運算主機板的生產。同時,緯創也已經開始承接部分整機系統組裝業務。

英業達(2356-TW)為戴爾供應伺服器主機板,特別是在AI伺服器領域。Dell在次世代AI伺服器方面的進展比其企業AI伺服器同行如惠普和聯想等要快,這對英業達有利。英業達在AI伺器領域主要提供伺服器主機板,特別是針對Nvidia的H100系列產品,也就是馬斯克所採購的晶片類型。

美超微在台主要供應鏈

華泰(2329-TW)在AI伺服器方面的訂單量較多,這些訂單主要來自美超微。華泰主要為美超微生產伺服器CPU主機板,及新一代AI伺服器的部份組裝訂單。

雙鴻(3324-TW)的液冷散熱產品已經獲得美超微的認證並開始出貨,主要是針對NVIDIA的AI伺服器產品,如H100和GB200。供應給美超微的主要產品是液冷散熱系統,包括水冷板、冷卻液分配裝置(CDU)和分歧管(Manifold)。法人預計2024年,雙鴻預計液冷散熱產品的營收占比將達到5-10%,其中伺服器營收的成長動能主要來自於AI伺服器的需求。

尼得科超眾(6230-TW)是透過母公司日本電產(Nidec)進入散熱供應鏈,主要供應伺服器用散熱模組(包括氣冷和水冷散熱模組)。

優群(3217-TW)則主要供應伺服器的LONG-DIMM,確保伺服器在處理大量數據時擁有足夠的記憶體支持。

這篇文章對你來說實用嗎?
很實用!
還可以
有待加強...
標籤關鍵字
AI
AI伺服器