新創AI一個個冒出來!Cerebras推出AI推理工具,要挑戰Nvidia

2024年08月28日 16:30 - 優分析產業數據中心

2024年8月28日(優分析產業數據中心) - 新創公司Cerebras Systems於本週二推出了一款專為AI開發者設計的新工具,讓用戶可以使用該公司大型晶片來運行應用程式。Cerebras表示,這款工具相較於業界標準的Nvidia處理器,讓開發者能夠以低成本運行。

目前,使用Nvidia圖形處理單元(GPU)進行大型人工智慧模型的訓練和部署,通常需要通過雲端運算提供商來獲取資源。這一過程,不僅資源獲取困難,運行成本也很高。開發者稱這一過程為「推理」。

「我們提供的性能是GPU無法實現的,」Cerebras執行長Andrew Feldman在接受路透社採訪時表示。「我們在保持最高準確度的同時,提供最低的價格。」

AI市場的推理部分預計將快速增長並具有吸引力。如果消費者和企業廣泛採用AI工具,這個市場最終可能價值數百億美元。

這家位於加州森尼維爾的公司計劃通過開發者金鑰和雲端平台提供多種類型的推理產品。對於那些希望自行運營數據中心的客戶,公司也將提供其AI系統。

Cerebras的晶片——名為Wafer Scale Engines,每塊晶片的尺寸大到相當於一個餐盤——解決了AI數據處理中的一大問題:支撐AI應用的大型模型數據通常無法適應單個晶片,可能需要數百甚至數千個晶片串聯起來。

Feldman表示,這意味著Cerebras的晶片可以實現更快速的性能。

該公司計劃按每百萬個tokens收取低至0.1美元的費用,tokens是公司用來衡量大型模型輸出數據量的方法之一。

Cerebras正在計劃上市,並已於本月向美國證券交易委員會提交了一份保密的公開募股(IPO)申請。

這篇文章對你來說實用嗎?
很實用!
還可以
有待加強...
標籤關鍵字
AI
熱門搜尋