Google推出新壓縮技術為結束記憶體之亂迎來曙光?
以後4GB/8GB又變成一尾活龍?
Google TurboQuant連日血洗記憶體族群 美光威騰電子慘崩
Google 最新 AI 壓縮技術 TurboQuant 進展引發市場對記憶體需求前景的疑慮,
週四 (26 日) 拖累全球記憶體族群慘遭血洗。投資人憂心忡忡,
倘若模型運算效率大幅提升,未來對記憶體晶片的依賴可能斷崖式下降。
Google 母公司 Alphabet 於 24 日盤後推出名為「TurboQuant」的壓縮技術,
宣稱可將大型語言模型 (LLM) 所需記憶體用量降低至原本的六分之一。
該技術主要針對「鍵值快取」(key value cache) 進行優化,
藉此減少模型重複計算所需的資源,提升整體運算效率。