輝達 (NVDA-US) 本次推出 Rubin 平台後,正式將 SSD 納入系統架構中,SSD 扮演的角色也從後段儲存裝置升華成 AI 記憶體層級,瑞昱 (2379-TW) 今 (12) 日傳出憑藉 SSD 控制晶片打入輝達 (NVDA-US) 供應鏈,相關訊息獲公司證實,一舉搭上 AI 記憶體革命。
業界指出,輝達此次推出的 Rubin 平台,核心理念在於解決 AI 運算中的「資料交換」問題,隨著 AI 模型參數不斷擴張、代理型 AI 蓬勃發展,運算工作流程中產生的 KV Cache(鍵值快取) 資料量爆炸性成長,不僅讓 HBM 壓力增加,更容易讓運算卡關。
為避免每次推論都須重新運算,輝達此次在 Rubin 平台直接把 SSD 拉進系統架構中,讓 SSD 參與整個推論過程,不僅可以有效降低 HBM 的工作負載,更可加快推論的速度,讓 SSD 地位大幅提升。
瑞昱長年耕耘 SSD 市場,此次透過 SSD 控制晶片一舉打入輝達交換器的主板中,成為台廠中少數直接參與 AI 記憶體革命的 IC 設計業者,未來隨著 AI 推論市場爆發,瑞昱相關晶片出貨也可望大幅成長。
業界看好,隨著代理 AI 逐步商用化,運作過程中所需的記憶體需求也將大爆發,瑞昱打入 Rubin 供應鏈,也可望從傳統 PC 領域,跨足 AI 伺服器市場,大啖 AI 雲端商機。
※ 本文經「鉅亨網」授權轉載,原文出處