2024年10月29日(優分析產業數據中心)- 隨著對AI基礎設施需求的激增,OpenAI正與博通(Broadcom)及台積電合作,開發其首款專屬AI推理晶片,同時增加AMD晶片的採購以分散供應來源。此舉不僅標誌著OpenAI進一步擴大其晶片供應鏈管理,也顯示出OpenAI放棄了原本打算自建晶圓廠的雄心計畫,轉而專注於內部設計並與產業夥伴合作生產。
多樣化晶片供應應對需求增長
消息人士透露,OpenAI原本考慮自建晶圓廠以控制製造,但基於成本與時間考量,最終決定專注於內部晶片設計,由博通協助設計並確保台積電的生產資源。OpenAI此舉類似於亞馬遜、Meta、Google和微軟等科技巨頭,透過與業界合作和內外部資源的組合來確保晶片供應及降低成本。
博通股價在消息公佈後上漲超過4.5%,而AMD股價也持續攀升,全天收漲3.7%。此合作不僅強化了博通在AI晶片設計中的地位,也讓台積電成為OpenAI關鍵的製造夥伴之一。
自家晶片設計應對推理需求上升
根據消息,OpenAI與博通合作開發的首款AI晶片將專注於推理運算。隨著AI應用的廣泛部署,分析師預測推理晶片需求將超越訓練晶片。博通協助OpenAI優化晶片設計,尤其是高速數據傳輸,這對需要數萬顆晶片協同工作的AI系統至關重要。
目前,OpenAI的晶片團隊由約20位工程師組成,領軍者包括曾在Google開發Tensor Processing Units(TPU)的頂尖工程師。透過博通,OpenAI已確保台積電在2026年為其生產首款專屬晶片,但該時程可能會依需求而變動。
加強AMD晶片採購以分散風險
為減少對Nvidia的依賴,OpenAI計畫通過微軟的Azure雲端採購AMD的MI300X晶片,這代表著AMD試圖挑戰Nvidia主導的市場。AMD預計其AI晶片銷售將在2024年達到45億美元,顯示出市場對Nvidia以外的供應商需求正逐漸增加。
OpenAI今年估計虧損達50億美元,原因是AI模型訓練及服務運營的成本高昂。硬體、電力及雲服務所需的計算成本成為公司最大的支出項目,促使OpenAI優化資源利用並擴大供應商基礎。
儘管OpenAI計畫擴展晶片供應來源,但對Nvidia的關鍵產品Blackwell晶片仍抱持高度依賴,並謹慎避免從Nvidia挖角,以維持雙方良好的合作關係。
總結
OpenAI的最新動向反映出AI巨頭在面臨高昂的計算需求和市場競爭壓力下,正嘗試多方策略來確保資源充足。透過博通及台積電,OpenAI朝著自主晶片開發邁進,但仍保留與Nvidia的合作,展示出在技術依賴與供應多樣化間的微妙平衡。