Google 日前發表 TurboQuant 壓縮演算法，可有效壓縮 KV Cache，讓記憶體的需求量降低至少 6 倍，消息一出，除了美股記憶體族群大跌，台廠包括旺宏 (2337-TW)、群聯 (8299-TW)、宜鼎 (5289-TW)、宇瞻 (8271-TW) 等今 (27) 日都被打入跌停板。
Google 日前釋出全新 AI 記憶體壓縮技術 TurboQuant，宣稱能在維持模型精準度表現的同時，將 AI 推論最吃資源的 KV Cache 需求大減 6 倍，並讓運算速度提升 8 倍。Google 看好，TurboQuant 可用於緩解 AI 模型現階段面臨的 KV Cache 瓶頸，並應用在大規模語意搜尋。
業界指出，記憶體為 AI 推論過程中的主要成本之一，過去各家業者皆在壓縮與模型精準度之間取捨，但 Google 透過新的壓縮演算法，在同樣的硬體下維持模型精準度，可支援 AI 出現更長的對話，尤其未來進入邊緣裝置後，該技術的應用範圍將更為廣泛。
由於市場擔憂新技術將改變現階段記憶體供不應求的格局，各家記憶體股明顯承壓，SanDisk(SNDK-US) 昨晚大跌 11%，美光 (MU-US) 同樣重挫近 7%，賣壓也一路蔓延至台股。
今日除了旺宏、群聯、宜鼎、宇瞻等亮燈跌停外，其他包括凌航 (3135-TW)、創見 (2451-TW)、華邦電 (2344-TW)、南亞科 (2408-TW) 等，跌幅至少都在半根停板以上，整體族群賣壓相當沉重。
※ 本文經「鉅亨網」授權轉載，原文出處
