演講下半集內容：https://uanalyze.com.tw/articles/1674119018
爸爸媽媽，你們在哪裡？他們在那上面。
Nvidia 來台灣已超過 30 年，這裡是我們許多珍貴夥伴與摯友的家。多年來，你們見證了 Nvidia 的成長，也與我一起經歷了無數激動人心的時刻。
今天，我們將談論 Nvidia 在產業中的定位、未來的方向，並宣布一系列新產品，這些創新將開啟全新市場與成長機會。我們會聊到合作夥伴，討論我們如何一起發展生態系。
Nvidia 處於電腦生態系的中心，這是全球最重要的產業之一，因此創造新市場必須從這裡開始。我有一些驚喜要分享，也會談論人工智慧、機器人技術。
Nvidia 的轉型歷程
Nvidia 的故事，是電腦產業與公司的雙重重塑。30 年來，我們從一家晶片公司出發，目標是建立新運算平台。
2006 年推出 CUDA，徹底改變運算模式。2016 年，意識到新型運算時代到來，每個技術堆疊層都需要重構，我們因此發明了 DGX-1 系統，當時沒有人聽得懂，也沒有人下單，第一台我捐給了 OpenAI，這成為 AI 革命的起點。
重塑資料中心與基礎設施
我們發現新型應用需要大量處理器協同，資料中心需根本性重設。南北向網路連接儲存與外部，東西向網路則是電腦間的高速溝通。五年前收購 Mellanox，將整個資料中心轉為運算單元。現代電腦即是完整的資料中心，而資料中心也是一個運算單元。
Nvidia 現在不只是科技公司，而是基礎設施公司。我們公開五年路線圖，協助全球各地規劃、興建 AI 資料中心。我們認知到，AI 是新一代基礎設施，就像電力與網際網路。AI 工廠正如電廠，你輸入能源，產出有價值的東西：Token。未來，每個公司都會談自己工廠產出多少 Token。
Nvidia 從三億美元晶片產業，成長到兆美元資料中心，未來更是數兆美元 AI 基礎設施產業。這一切都建構在加速運算、AI 與強大函式庫上，尤其是 CUDA-X。我們不斷開發並完善函式庫，這是我們一切的起點。
加速運算與產業應用
加速運算不同於通用運算，因為你要針對運算最密集的部分設計特化架構。這讓我們能針對不同領域開發專屬函式庫，例如數值運算 CuPy、無線電訊號處理 Ariel、基因分析 Parabricks、醫學影像 MONAI、天氣預測 Earth-2、量子運算 cuQuantum、最佳化 cuOpt、計算微影 cuLitho 等。
我們投入數年開發 AI 化電信解決方案，合作夥伴遍及全球。量子運算則透過 CUDA-Q 平台推進，我預測未來所有超級電腦都會有量子加速器、GPU、CPU 結合的混合架構。
AI 發展的三個層次
感知與生成式 AI
十二年前我們從感知型 AI（語音、影像辨識）開始，過去五年則專注生成式 AI（文字轉文字、文字轉影像、影像轉影像等），如今已進入推理階段，AI 能解決從未見過的問題，具備理解、思考、行動的代理能力。
物理 AI 與機器人
下一階段是具備物理世界理解力的 AI——物理 AI，能模擬現實物理、推理物體行為，並進入真正的機器人應用。
(資料來源：優分析產業資料庫)
革命性硬體：Grace Blackwell
Grace Blackwell 是最新的革命性電腦平台，擁有極高擴展能力。新一代 GB300 系統，推論效能提升 1.5 倍，HBM 記憶體增加 1.5 倍，網路速度加倍。
巨型 AI 工廠
單一 GB300 節點效能已等同於過去一整台超級電腦。Nvidia 與台積電合作開發 CoWoS-L 製程，打造更巨大的晶片，並透過 NVLink 打造高速互聯，讓 72 顆 GPU 成為一體，造就 AI 工廠的基石。
台灣科技奇蹟
Blackwell 的誕生是台灣科技生態系的奇蹟，從台積電、SPIL、Amkor 到鴻海、緯創、廣達、戴爾、華碩、技嘉、慧與、美超微等 150 家合作夥伴攜手打造，總計 120 萬個零件，兩英里長銅纜，130 兆個電晶體，重量達 1800 公斤。
台灣 AI 超級電腦計畫
今天正式宣布，鴻海、台灣政府、Nvidia、台積電共同為台灣建造首台巨型 AI 超級電腦，推動本地 AI 研發與生態系發展。
NVLink Fusion 讓不同客製化運算（Nvidia GPU、CPU、ASIC）無縫整合，讓所有 AI 工廠架構可根據需求彈性擴展。我們攜手 Lchip、Astera Labs、Marvell、聯發科、富士通、高通、Cadence、Synopsys 等合作夥伴，開放 NVLink 生態系給全產業。
新產品：DGX Spark 與 DGX 工作站
DGX Spark：為 AI 原生開發者打造，隨時啟用、易於原型設計，petaflop、128GB HBM。
DGX 工作站：個人頂規 AI 超級電腦，運算力可支援一兆參數模型。所有應用程式、模型、工具都可直接運行，無需相容傳統 IT 架構。
(資料來源：優分析產業資料庫)
AI 進入企業 IT
RTX Pro 企業級 Omniverse 伺服器，支援 x86 傳統 IT 與新一代 AI 代理，讓企業可同時管理人類與數位員工。未來企業 IT 將同時管理人力資源與 AI 代理。
AI 想要查詢非結構化資料，Nvidia AI 資料平台（AIQ）應運而生，GPU 作為前端運算節點，協助檢索、搜尋、排名非結構化資料。開源 Llama-NemoTron 等模型，效能更快、準確度更高，並與儲存產業合作打造全新查詢平台。
代理 AI 實例：Vast 銷售研究 AI 代理
透過 IQ 藍圖，結合多模態知識庫、內部工具，銷售研究代理能夠草擬大綱、調用資料、快速產生計畫，幾分鐘內完成原本需數天的工作。
這一切的成就來自台灣強大的科技生態系，以及全球無數合作夥伴的投入。我們一起，正站在新一代智慧基礎設施的起點。
演講下半集內容：https://uanalyze.com.tw/articles/1674119018
