AWS與Meta不同,它會把AI晶片與伺服器對外銷售,營運模式跟NVIDIA較相似,而Meta則開發AI晶片自用。
公司指出,與Nvidia目前的主力伺服器相比,AWS這次推出的Trn2 UltraServers可串聯更多的晶片。某些AI模型在Trainium2晶片上的訓練成本可比Nvidia降低約40%。
該晶片的製造是由台積電(2330-TW)代工,伺服器集群預計明年推出。
2024年12月4日 (優分析產業數據中心) - Amazon(AMZN-US)旗下雲端服務業務Amazon Web Services(AWS)在周二展示了最新的數據中心伺服器,這些伺服器搭載其自家開發的AI晶片Trainium2,想要挑戰Nvidia的市場主導地位,並宣布蘋果將成為這款晶片的客戶。
AWS新伺服器名為Trn2 UltraServers,搭載64顆Trainium2晶片,並將與AI新創公司Anthropic合作,構建包含數十萬顆晶片的超級電腦。Anthropic成為首批採用此技術的用戶之一。同時,蘋果執行長級別的高層Benoit Dupin也透露,蘋果目前正在使用Trainium2晶片。
Nvidia面臨挑戰,AI晶片市場競爭升溫
目前,Nvidia以超過70%的市場份額主導AI晶片市場,但傳統晶片行業的競爭者,如超微(AMD)等也在迅速追趕。不僅如此,Meta、微軟和Google等既是Nvidia的競爭者,也是其客戶。這些科技巨頭均開發自家AI晶片,Meta將其晶片用於內部運營,而Amazon和Google則既內部使用也對外銷售。
AWS執行長Matt Garman進一步透露,下一代AI晶片Trainium3將於明年亮相,旨在滿足生成式AI訓練與推理的高需求負載。他強調,新產品將以更高的運算能力和更低的成本吸引客戶。
技術優勢與市場前景
AWS指出,與Nvidia目前的主力伺服器相比,Trn2 UltraServers可串聯更多的晶片,為用戶提供更高的計算性能。根據AWS AI晶片業務發展負責人Gadi Hutt的說法,某些AI模型在Trainium2晶片上的訓練成本可比Nvidia降低約40%。此外,AWS也在供應鏈方面具有一定優勢,並確認Trainium晶片的製造依然由台積電(2330-TW)代工。
Nvidia與AWS正積極爭奪AI晶片市場,但目前Nvidia的出貨受到供應鏈限制的影響。AWS則表示,其供應鏈大致穩定,除了Trainium晶片沒有替代供應商之外,其餘項目均有替代來源。
這些伺服器和超級電腦計劃於明年上線,但AWS尚未公布具體日期。隨著AI需求的迅猛增長,市場對高效能晶片的競爭將進一步加劇。