馬斯克的AI模型訓練需要用到多少GPU？其伺服器的供應商有哪些？

2024年6月20日(優分析產業數據中心) - 

根據伊隆·馬斯克的說法，訓練一個AI模型所需的圖形處理單元（GPU）數量是相當驚人的。

根據五月份《資訊》的報導，馬斯克的人工智慧新創公司xAI計劃建造一台超級電腦，以支持其AI聊天機器人Grok的下一版本。

以下是用來訓練Grok這種模型的具體GPU數量：

1. Grok 2 模型：馬斯克表示，訓練Grok 2模型大約需要20,000顆Nvidia H100 GPU。

2. Grok 3 模型及未來版本：他進一步指出，Grok 3模型及其後續版本將需要100,000顆Nvidia H100 GPU。

特斯拉執行長馬斯克週三在社交媒體X上表示，戴爾(DELL-US)和美超微電腦(SMCI-US)將為其人工智慧創業公司xAI正在建造的超級電腦提供伺服器機櫃。

馬斯克在X上表示，戴爾將為xAI的超級電腦組裝一半的機櫃，另一半則是由伺服器製造商美超微電腦所負責。

位於舊金山的美超微電腦，以其與Nvidia等晶片公司密切合作以及液冷技術聞名，已經對外確認了與xAI的合作關係。

戴爾執行長邁克爾·戴爾也在X上發表的帖子中表示，公司正在與人工智慧巨頭Nvidia合作建造一個“AI工廠”，這將為下一版本的xAI聊天機器人Grok提供動力。

據《The Information》報導，馬斯克表示，他希望在2025年秋季之前讓這台計劃中的超級電腦運行。

馬斯克去年創立xAI，作為微軟支持的OpenAI和Alphabet旗下Google的競爭對手。馬斯克也是OpenAI的共同創辦人之一。