$GOOGL 無處不在!👇


Google揭示解決AI記憶挑戰的算法;記憶和儲存股票下跌
Google (GOOG ) 01 (GOOGL ) 今天公布了一套新算法,旨在減少運行大型語言模型和向量搜索引擎所需的記憶容量。

主要記憶和儲存供應商的股票在周三早盤交易中走低。美光科技 (MU ) 下跌4%,西部數據下滑4.4%,希捷科技 (STX ) 下跌5.6%,SanDisk (SNDK ) 則下挫6.5%。SanDisk今日宣布已簽署私募配售認購協議,將對半導體公司南亞科技進行股權投資。

Google推出的算法包括TurboQuant、量化Johnson-Lindenstrauss和PolarQuant。TurboQuant是一種壓縮算法,能最佳化解決向量量化中的記憶開銷問題。

被稱為Johnson-Lindenstrauss變換的數學技術可以縮小複雜的高維數據,同時保留數據點之間的基本距離和關係。該算法創建了一種高速速記法,幾乎不佔用記憶空間。

最後,PolarQuant通過使用極坐標來解決記憶開銷問題。這使得大型語言模型可以跳過數據歸一化步驟,因為它將數據映射到一個固定且可預測的「圓形」網格上,該網格的邊界已經是已知的。

「隨著AI越來越多地融入所有產品,從大型語言模型到語義搜索,這項在基礎向量量化方面的工作將比以往任何時候都更加重要,」Google研究科學家Amir Zandieh和副總裁兼Google Fellow Vahab Mirrokni在一篇博客文章中表示。

Google計劃在4月於里約熱內盧舉行的國際學習表徵會議上展示TurboQuant。
STX-1.27%
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 留言
  • 轉發
  • 分享
留言
請輸入留言內容
請輸入留言內容
暫無留言