NVIDIA 財報暗示了什麼 AI 新趨勢：推理需求將大爆發，GB200 強勢登場

NVIDIA已經定調，未來營收增長來源將來自推理的區塊，投資人可以看看NVIDIA如何布局這塊市場，進而推斷輝達營收增長的持續性。

NVIDIA將於下個月發佈 Blackwell Ultra（升級版B300）、Rubin，以及更多新一代 AI 產品。

2025年2月27日 (優分析產業數據中心) - NVIDIA(NVDA-US)公布 2025 財年第四季營收達 393 億美元，年增 78%，全年營收更突破 1305 億美元，年增 114%，再創歷史新高。然而，在這份亮眼的成績單背後，更值得關注的是 AI 產業正在發生的重大變革：推理需求的爆發。

推理運算成為 AI 產業發展新焦點

過去，AI 的運算需求主要集中在訓練 (Training) 階段，但隨著 AI 模型的規模日益龐大，推理 (Inference) 的計算量已呈指數級增長。

NVIDIA 財務長 Colette Kress 在財報會議中指出：「推理需求正在加速增長，特別是在 AI 測試階段的擴展，以及長思考推理 AI (Long-thinking Reasoning AI) 的興起。」

這類 AI 模型，例如 OpenAI O3、DeepSeq R1 和 GROC3，需要分析大量資訊並進行多步驟邏輯推理，才能產生更準確的結果。根據 NVIDIA 執行長黃仁勳 (Jensen Huang) 的說法，這些推理 AI 每次查詢所需的計算資源可能是傳統 AI 模型的 100 倍，未來甚至可能達到數千倍。

這種推理需求的激增，正在改變 AI 運算架構的設計方向，也讓業界開始關注更高效、更具成本效益的推理運算解決方案。

NVIDIA GB200 強勢登場，專為推理運算設計

面對推理計算需求的快速增長，NVIDIA 在最新一代 Blackwell 架構下推出 GB200，這款晶片不僅是市場上效能最強大的 AI 推理運算平台之一，更在成本與效能上實現突破。

根據 NVIDIA 財報數據，GB200 的推理效能比前一代 Hopper H100 提升 25 倍，推理運算成本降低 20 倍，這使其成為企業部署 AI 服務的最佳選擇。

NVIDIA 執行長黃仁勳強調，這是 NVIDIA 首次在新架構推出時，就有大量推理部署需求。 企業不再只是關注 AI 訓練，而是全面進入推理優化階段，並尋求降低 AI 服務的成本與延遲時間。

推理 AI 將改變全球 AI 生態系

NVIDIA 在 AI 領域的佈局不僅限於硬體，更透過完整的軟體生態系統，提供從訓練、微調 (Fine-Tuning) 到推理的全方位解決方案。這使其成為 AI 產業的核心推動者，影響範圍涵蓋多個關鍵產業：

1. 應用場景更為多元

   • 從雲端運算到終端設備，從企業應用到消費性電子產品，GB200 都能滿足不同領域的推理需求。

2. 推動產業升級，加速智慧化轉型

   • AI 推理技術正在影響醫療診斷、金融分析、自動駕駛 等領域。例如，微軟 Bing 使用 NVIDIA TensorRT 提高推理速度 5 倍，降低 AI 搜尋成本，顯示 AI 已成為企業降本增效的關鍵工具。

3. AI 產業發展方向改變

   • 黃仁勳指出，未來 AI 發展將朝向「多模態 AI、企業 AI、主權 AI 以及實體 AI」前進，這些領域都對推理運算有極高需求，未來市場對 GB200 等高效能 AI 晶片的需求將持續攀升。

NVIDIA 2025 財報清楚展現了推理運算需求的崛起，隨著 AI 模型變得越來越複雜，推理運算的比重將進一步提升，同時也暗示了NVIDIA未來需求增長的來源。

更多付費閱讀內容，請詳見「產業輕鬆讀專欄」