2025年03月19日(優分析/產業數據中心報導)⸺ 人工智慧晶片龍頭輝達NVIDIA(NVDA-US)執行長黃仁勳18日在加州聖荷西舉行的年度開發者大會上表示,備受市場期待的共封裝光學(CPO)技術,目前可靠度仍不足以應用在公司旗艦圖形處理器(GPU)產品上。輝達短期內不會將光學連接直接導入GPU之間的互連。
所謂共封裝光學技術,是透過雷射光束在光纖中傳輸晶片間資料,相較傳統銅線連接,在速度與能源效率上更具優勢。黃仁勳在主題演講中宣布,輝達將在兩款新型網路交換晶片中採用CPO技術,這些晶片將配置於伺服器頂部的交換器中。根據說明,新晶片的能源效率將較前代產品提升3.5倍。
相關交換晶片預計於今年稍晚推出,並延續至2026年,象徵該技術邁出關鍵但仍屬試水溫的一步。
不過,黃仁勳在演講後接受媒體訪問時直言,輝達目前沒有計畫在旗艦GPU產品中採用CPO技術。他指出,傳統銅線連接的可靠性「高出數個數量級」,現階段並不值得為了能效優勢而承擔風險。
「這不值得,」黃仁勳談到GPU之間直接改用光學連接時表示,「我們一直在計算這筆帳,但銅線可靠得多。」
他強調,輝達的產品藍圖必須具備高度可靠性,讓客戶能提前規劃基礎建設。包括OpenAI與Oracle(ORCL-US)等客戶,未來數年將投入數千億美元建置AI基礎設施。
「幾年內,將有數千億美元的AI基礎建設落地,預算核准、電力到位、土地建好。你現在願意用什麼技術去支撐這樣規模的擴張?」黃仁勳說。
矽谷創業者與投資人普遍將希望寄託在光學互連技術上,認為其將成為打造更大型AI運算系統的關鍵。儘管近期包括DeepSeek等公司在模型效率上有所突破,黃仁勳仍強調,AI系統為了「思考」與推理,仍需要更龐大的算力支撐。
包括Ayar Labs、Lightmatter與Celestial AI等新創公司,已募得數億美元創投資金,其中部分來自輝達本身,目標是將共封裝光學技術直接整合至AI晶片。Lightmatter與Celestial AI亦正規劃公開上市。
銅線連接雖然成本低、速度快,但傳輸距離通常僅數公尺。這看似微小的限制,實際上深刻影響了輝達產品設計。輝達現行旗艦伺服器單機整合72顆晶片,功耗達120 kilowatts,並需類似汽車引擎的液冷系統散熱。
黃仁勳在大會上發表預計於2027年推出的新一代旗艦伺服器,將在單一機櫃內整合數百顆Vera Rubin Ultra晶片,整體功耗高達600 kilowatts。兩年間在相同空間內倍增晶片數量,意味著工程挑戰大幅提升。
這些挑戰源自AI運算需在晶片間頻繁傳輸大量資料。輝達目前策略,是盡可能將更多晶片維持在銅線可傳輸的短距離範圍內。
Ayar Labs執行長Mark Wade表示,晶片產業仍在探索如何以更低成本與更高可靠度量產CPO技術。儘管全面轉換可能要到2028年或更晚,他認為若產業希望持續打造更大型伺服器,最終勢必放棄銅線。
「看看機櫃裡電氣連接的功耗持續上升,」Wade在大會場邊受訪時說,「光學是唯一能讓我們擺脫這條功耗曲線的技術。」