• 首頁
  • 每日更新
  • Google推TurboQuant演算法 AI模型記憶體用量減6倍成本降逾50%

Google推TurboQuant演算法 AI模型記憶體用量減6倍成本降逾50%

Admin
Admin 三月 26, 2026 0

商傳媒|責任編輯/綜合外電報導

Google研究團隊近日發布創新演算法TurboQuant,能將大型語言模型(LLM)的記憶體使用量平均降低六倍,運算速度提升八倍,並可減少企業逾五成的雲端運算成本。這項訓練免訓練的軟體技術,將有助於AI模型在消費級硬體上更高效運行,縮小本地端AI與雲端服務的差距。

Google研究團隊近日發布突破性演算法TurboQuant,旨在大幅降低大型語言模型(LLM)的記憶體使用量,同時提升運算效能並降低營運成本。這項技術平均能使LLM的關鍵值快取(key-value cache)記憶體使用量減少六倍,運算速度提升八倍,並可為企業節省逾五成的雲端運算開支。

根據《Ars Technica》及《Venturebeat》報導,傳統的量化(quantization)技術雖然能縮小模型,但往往會犧牲輸出品質。TurboQuant則不同,它被描述為一種無需額外訓練、與數據無關(data-oblivious)的解決方案,能維持AI模型的智慧表現,且適用於既有模型。

獨特壓縮機制兼顧效能與精確度

TurboQuant的核心在於兩階段的數學框架:PolarQuant與量化式約翰遜-林登斯特勞斯(Quantized Johnson-Lindenstrauss, QJL)。首先,PolarQuant將高維度向量從標準笛卡爾坐標轉換為極坐標,這種新表示法能更緊湊地儲存和處理數據,並省去傳統方法中昂貴的正規化常數。接著,QJL則針對殘餘誤差數據應用1位元轉換,將每個誤差數值簡化為一個符號位(+1或-1),以確保其統計特性與高精確度原始數據一致,從而實現精準的錯誤修正,最終提高注意力分數的計算精確度。

該演算法已在Gemma與Mistral等開源模型上,透過長上下文基準測試進行驗證,成功將關鍵值快取量化至3位元,在某些案例中甚至可達2.5位元,仍能維持甚至達成百分之百的召回率(recall score)。在NVIDIA H100加速器上的測試顯示,4位元TurboQuant在計算注意力對數(attention logits)方面的速度,比32位元未量化的密鑰快上八倍。

降低運算門檻 推動AI普及化

Google以開放研究框架的形式發布這些方法論,演算法及相關研究論文皆已公開且可免費取得,包括企業用途。此舉縮小了本地端AI與昂貴雲端訂閱服務之間的差距,使得AI模型更容易在消費級硬體上運行。例如,配備MLX(適用於Apple Silicon)的Mac Mini即可處理長達十萬個Token的對話,而不會損害模型品質。這不僅對AI開發者和企業而言是重要突破,也為資料隱私敏感的組織提供了在自有硬體或邊緣設備上運行大型模型的可能性。

這項研究成果將在今年稍晚於巴西里約熱內盧舉行的國際學習表徵大會(ICLR 2026)以及摩洛哥丹吉爾舉辦的人工智慧與統計年會(AISTATS 2026)上發表。市場對於這項技術的反應已顯現,記憶體供應商如美光(Micron)和威騰電子(Western Digital)的股價便出現下跌趨勢,顯示演算法效率的提升可能影響對高頻寬記憶體(HBM)的市場需求。


每日更新

查看更多
G20峰會美俄財長罕見會晤 聚焦烏戰終局與經濟合作

美國財政部長史考特·貝森特與俄羅斯財政部長安東·西盧安諾夫,在二十國集團(G20)峰會期間進行了罕見會晤,雙方討論了終止俄烏戰爭的計畫以及兩國未來的經濟合作,此會談引發部分歐洲國家不滿。 美國財政部長史考特·貝森特(Scott Bessent)與俄羅斯財政部長安東·西盧安諾夫(Anton Siluanov),週一在美國北卡羅來納州阿什維爾(Asheville)舉行的二十國集團(G20)財政部長與央行總裁峰會期間,進行了罕見的會晤。 據《Meduza》報導,此次閉門會談主要探討了美國總統川普(Donald Trump)提出的終止俄羅斯與烏克蘭戰爭的計畫,以及美俄兩國未來的經濟合作可能性。這是自俄羅斯全面入侵烏克蘭以來,西盧安諾夫首次親自出席 G20 會議,而美國官員對此會晤並未事先發布通知。 然而,西盧安諾夫的實體參與引發了部分歐洲國家政府的強烈反對。德國副總理兼財政部長拉斯・克林拜耳(Lars Klingbeil)與其他歐洲國家財長,曾威脅若西盧安諾夫出席,他們將抵制部長們傳統的大合照。最終,西盧安諾夫並未出現在團體合照中。

Admin 九月 1, 2026 0

好市多黑鑽會員新福利 泰國4天遊1.2萬有找 最高再拿9千元抵用券

桃園觀光農業串聯再升級 嘎琳帶路拍影音、四大花季吸客180萬人次

Sales Blueprint Architect 上線 助銷售專業人士透過AI達成業績

徐欣瑩憑什麼承諾竹北禮讓?朱凱翔質疑藍白合不是黨對黨嗎?

新竹縣竹北市長選舉藍白整合破局,民眾黨主席黃國昌近日批評國民黨未履行承諾,並將矛頭指向國民黨新竹縣長參選人徐欣瑩,引發討論。媒體人朱凱翔在「不演了新聞台」連拋多項質疑,直問「到底誰對誰做了承諾?」以及「徐欣瑩有什麼權力代表國民黨承諾竹北市長人選?」 朱凱翔表示,據他了解,徐欣瑩在國民黨新竹縣長初選期間,確實積極爭取包括民眾黨在內的支持,但徐欣瑩是否曾向黃國昌明確承諾「民眾黨支持她,國民黨就禮讓竹北市長」,外界並未看到完整說法。 他進一步反問,如果這是政治合作,雙方籌碼是否對等?國民黨新竹縣長初選期間,黃國昌有沒有公開支持徐欣瑩?有沒有呼籲民眾黨支持者挺徐欣瑩,或公開反對陳見賢?「好像也沒有。」若民眾黨當時並未公開押寶徐欣瑩,如今卻主張徐曾承諾竹北禮讓,雙方究竟談了什麼交換條件,應該說清楚。 朱凱翔第二個質疑直指藍白合作制度。他指出,2026地方選舉藍白合原本就是國民黨、民眾黨「黨對黨」協商,兩黨也各派代表組成協商工作小組,地方選舉整合理應回到中央機制處理。 「徐欣瑩是兩黨協商三人小組成員嗎?」朱凱翔表示,徐欣瑩既不是國民黨主席,也不是全國藍白協商代表,究竟有何權力決定竹北市長提名權?如果沒有決定權,又如何代表國民黨做出具拘束力的政治承諾? 第三,朱凱翔也質疑,政黨提名是重大政治協議,如果沒有白紙黑字、沒有正式協商紀錄,黃國昌真的會只憑口頭保證,就認定國民黨已承諾竹北一定禮讓民眾黨?朱凱翔認為,若黃國昌認定國民黨確實做過承諾,問題就應回到國民黨中央,「這就是鄭麗文的問題」。既然提名權與藍白協商機制都在黨中央,就應由鄭麗文、黃國昌兩位黨主席把當初談了什麼、承諾到什麼程度說清楚,而不是讓沒有最終提名權的徐欣瑩承擔全部政治責任。 至於竹北是否還有整合空間,朱凱翔和同台的資深媒體人董智森也提出解方:是否可以參考2022新竹市長選舉的政治經驗,不必繼續糾纏「誰禮讓誰」,可以直接回到「最大勝選」原則,由國民黨吳旭智與民眾黨邱臣遠進行客觀民調,比較支持度及對民進黨候選人的勝選能力,「誰比較強,藍白就全力挺誰」,用最直接方式化解僵局。 名嘴朱凱翔談竹北藍白整合爭議,質疑藍白合既是黨對黨協商,為何最後由徐欣瑩承擔政治責任。(照片翻攝不演了新聞台Youtube頻道)

Admin 八月 31, 2026 0

潘越雲、萬芳等7組唱將齊聚雲林 2026民歌音樂會9/13登場

美國太空總署創導航新法:利用衛星殘骸取代 GPS

「花蓮禮好」進軍日本市場 12家品牌赴東京媒合拓展商機

SpaceX 代幣化股票解鎖倒數 投資人關注未來數月釋股壓力

太空探索技術公司 SpaceX 的代幣化股票將迎來多個解鎖日期,投資人需關注未來數月市場可能出現的釋股壓力。這些鎖定期旨在避免公司股票上市初期被大量拋售,但代幣化股票在週末市場休市時仍可交易,恐導致價格波動。儘管過去有釋股後股價上漲的案例,投資人仍須謹慎評估相關風險,特別是 12 月 8 日將是今年最後一個大規模解鎖關鍵日期。 太空探索技術公司 SpaceX 的「代幣化股票」(Tokenized SPCX Stock)將迎來一系列關鍵的鎖定期解鎖(lockup release)日期,其中部分階段已在數週前啟動,但接下來直至 2026 年 12 月 8 日仍有數個重要日期,可能對市場價格產生影響。 根據《Cryptoticker.io》報導,這些解鎖日期並非單一事件,而是分階段進行,包括 9 月 9 日、9 月 24 日、10 月 9 日、10 月 24 日及 12 月 8 日。持有 SpaceX 代幣化股票的投資人,將與那斯達克市場的股東一樣,受到這些解鎖日期的影響。鎖定期(lockup)機制旨在避免公司股票上市初期,由早期股東大量拋售股票而衝擊市場。當鎖定期結束,這些股票便進入可自由交易的「自由流通」(free float)狀態。 SpaceX 的代幣化股票是一種基於區塊鏈的代幣,它追蹤並反映特定存託股票的價格,其價值由發行方擔保,而非實際的公司股票,因此不具備投票權和股息分配權。儘管如此,代幣價格仍會隨基礎股票的市場反應而波動。SpaceX 已於 2026 年 6 月 12 日向美國證券交易委員會(SEC)提交的招股說明書(Form 424B4)中詳細說明這些解鎖日期。 招股說明書將股票分為三組鎖定期。其中,「第一組」的 180 天鎖定期將於 2026 年 12 月 8 日結束,但在此之前設有多個提前釋放階段。例如,在第二季財報公布後的第二個完整交易日,可釋放高達 20% 的股票;若股價達到特定條件,可額外釋放 10%。此外,8 月 20 日、9 月 9 日、9 月 24 日、10 月 9 日、10 月 24 日等特定日期,也各有高達 7% 的股票可以釋出。第三季財報公布後,將有最大單一比例、高達 28% 的股票獲准釋出,其日期尚未確定,但將落在 10 月 24 日至 12 月 8 日之間。 值得留意的是,2026 年 10 月 24 日適逢週六,那斯達克市場當天休市,但代幣化股票卻能全天候交易。這可能導致代幣價格在週末期間,因缺乏基礎股票的參考價格而出現較大波動,甚至與那斯達克最終收盤價產生偏差。 上次大規模解鎖發生在 8 月 6 日,當時多達 9.115 億股被釋放。儘管市場擔憂賣壓,SpaceX 股價卻在解鎖當天上漲逾 6%,前一天則下跌近 14%。佛羅里達大學榮譽教授 Jay R. Ritter 表示,鎖定期解鎖不一定會導致股價下跌,有時反而會因賣壓不如預期而上漲。研究者 Viraj V Patel 也指出,8 月 6 日前後散戶參與度極高,且持續呈現淨買入狀態,顯示市場消化能力良好。不過,投資人仍需謹慎評估發行方的承諾與信譽,尤其對於代幣化股票而言,發行方風險是核心考量。 總體而言,在 2026 年底前,SpaceX 的鎖定期釋放壓力主要來自第一組股票。創辦人及「第二組」延展鎖定期的股票將鎖定至 2027 年,確保了大部分持股不會在今年流入市場。對於代幣化股票持有人而言,密切關注這些解鎖日期,尤其 12 月 8 日的最終大規模釋放,至關重要。

Admin 八月 31, 2026 0

特斯拉股價挫逾1% 市值破兆美元但營業利益率僅1.4%

清境國民賓館平日連住每晚1,898起  迎火把節20週年並結合採果與賞楓 邀請遊客上山體驗高山秋日盛宴

40歲男南澳金岳瀑布溯溪 身卡石縫身亡

0 Comments