Kimi K3 越便宜晶片越缺?效率飙升硬體需求飙升

Kimi K3 降价不会減少晶片需求,反而可能推高整體硬體消耗。
(前情提要:本地跑 Kimi K3 硬體门檻?64 張 GPU 起跳、45kW 用电,玩家自架出局)
(背景補充:交易規模上看 100 亿美元!傳 Anthropic 擬向 Meta 租用运算资源,緩解 GPU 短缺危机)

本文目錄

Toggle

  • Kimi K3 登场:效率飆升反推硬體需求
  • 傑文斯悖論:低价引爆更多 token 消耗
  • KV Cache 飆漲:长上下文壓榨記憶體
  • 競爭急凍:美系 AI 巨头继续加碼
  • 开源爆买:OpenRouter 资料顯示成长
  • 結論:Kimi K3 成硬體催化劑

Kimi K3 把 AI 投资者重新帶回一个核心问題:模型更便宜、更高效,是否意味著晶片和記憶體需求下降?花旗和美银证券的答案都偏向否定,效率提升或許釋放更多使用量,进而推高總资源消耗。

據追风交易臺,月之暗面发布的 Kimi K3 擁有 2.8 兆引數,面向 100 万 token 上下文視窗和长週期智慧體任務。花旗半導體分析師 Peter Lee 认为,即便 Kimi K3 被廣泛使用,伺服器 DDR5 和 eSSD 等通用記憶體需求仍会提升。

美银证券半導體分析師 Vivek Arya 在 7 月 17 日的研究中也表示,美国前沿 AI 实验室更或許提升算力投入,而不是減少投入。若中国开源模型持续逼近,OpenAI,Anthropic 和 Google 等领先者必需用更大訓練規模,更重推理和更快产品迭代維持差異化。

这意味著市场对 Kimi K3 的定价逻辑,不能只看單次推理成本下降。更关鍵的是,低价模型是否帶来更多呼叫,更长任務链和更多 token 生成。若答案为是,GPU,HBM,DDR5,eSSD,高速網路和推理系统都或許继续受益。

Kimi K3 登场:效率飆升反推硬體需求

花旗將 Kimi K3 視为 AI 产业链中「傑文斯悖論」的潛在案例。該悖論的核心是,技術效率提升降低單位使用成本后,使用量或許大幅提升,最終资源總消耗不降反升。

Kimi K3 的吸引力来自低成本与高效能組合。公开价格顯示,快取命中输入价格为每百万 token 0.3 美元,输出价格为每百万 token 15 美元。其完整權重计劃於 7 月 27 日披露,目標是支援长週期智慧體工作。

花旗的判斷是,模型降价不会自动減少硬體需求。相反,低成本或許提高开发者和企业呼叫模型的意願,推动更多 AI 智慧體部署。智慧體任務並非一次性问答,而是在连续任務中不斷生成,读取和處理 token。呼叫次數和任務长度上升,会把單位成本下降重新转化为總资源消耗。

故而,Kimi K3 对半導體链條的影響,重点不在「單次呼叫是否更便宜」,而在「總 token 量是否擴大」。这正是花旗看好伺服器 DDR5 和 eSSD 需求的原因。

傑文斯悖論:低价引爆更多 token 消耗

Kimi K3 採用三項关鍵技術:Kimi Delta Attention,Attention Residuals 和 Stable LatentMoE。Kimi Delta Attention 用於降低 100 万 token 上下文視窗的成本,Attention Residuals 用於在模型不同深度之间选擇性檢索表徵,Stable LatentMoE 則提升稀疏化程度,每个 token 僅啟用 896 个專家中的 16 个。

月之暗面的技術资料稱,这套架構使 Kimi K3 的擴充套件效率达到 K2 的 2.5 倍。高稀疏度和长上下文能力,是其壓低執行成本的重大基礎。

但花旗強调,这並不等於推理端资源壓力消失。Kimi K3 仍不是轻量級部署方案,其執行必需多節点叢集,超級節点配置超过 64 顆 GPU。更重大的是,长上下文和智慧體任務会推高 KV Cache 佔用,进而提升推理端記憶體负擔。

KV Cache 需求直接关聯伺服器 DDR5 和 eSSD。DDR5 承擔高频资料存取,eSSD 受益於更大的快取和资料儲存需求。对記憶體廠商而言,关鍵變數不是單个模型是否更省算力,而是低价之后模型被呼叫多少次,每次呼叫生成多少 token,以及智慧體任務链被拉多长。

KV Cache 飆漲:长上下文壓榨記憶體

美银证券的結論与花旗形成呼应,但关注点更偏向 GPU 和 AI 基礎设施。Vivek Arya 认为,更強的中国开源模型未必会让美国 AI 巨头削減算力投入。相反,模型差距收窄会提高领先者維持優勢的成本。

美银证券表示,如果开源模型持续逼近,OpenAI,Anthropic 和 Google 必需依靠更大規模訓練,更多強化学習与合成资料迴圈,更重的測試时推理,以及更快的产品发布節奏来守住差異化。

这套逻辑不取決於哪一个模型短期领先。大模型排行榜或許迅速輪換,但企业真正購买的是穩定,低延遲,高可用的 AI 输出,以及更低的「每單位有效产出」成本。当模型能力趨同,競爭壓力会傳導至底層基礎设施,包括 GPU,HBM,高速網路和推理系统。

故而,美银证券认为,Kimi K3 这類模型的出现,不应被簡單理解为「模型更高效,晶片更少」。更现实的路徑是,模型競爭加劇,领先者为了維持距离继续加碼算力。

競爭急凍:美系 AI 巨头继续加碼

Kimi K3 採用 MoE 架構,意味著總引數量和每次推理实际啟用的引數可以分离。这一變化降低了部分计算壓力,但也让基礎设施瓶頸从單純算力,转向視訊記憶體訪问,專家路由,響应延遲和互连能力。

美银证券強调,MoE 推理要求系统更高效地搬运资料,排程專家模組,並连線更大的计算叢集。輝达提出,现代 MoE 推理必需更大的 GPU 域。其測算顯示,GB300 NVL72 在领先开源模型上的每瓦效能,最高可达到 Hopper 平台的 25 倍。

CoreWeave 圍繞 Kimi K2.6 的測試也说明,开源 MoE 模型即使每次只啟用部分引數,若要在速度和价效比上維持领先,仍必需经过最佳化的輝达 GB300/GB200 NVL72 基礎设施。

这意味著,模型權重或許逐步商品化,但執行模型所需的 GPU,高频寬記憶體,網路互连和推理系统不会失去价值。相反,随著模型呼叫量擴大,这些環節或許成为競爭更集中的地方。

开源爆买:OpenRouter 资料顯示成长

美银证券还引用 OpenRouter 资料表示,模型呼叫量仍在迅速提升。作为连線多家模型实验室的第三方 API 平台,OpenRouter 上的 token 使用量持续增长,其中中国 AI 实验室模型的 token 使用量已经超过非中国实验室模型。

这一资料不能直接代表所有企业和消费者场景,但它至少顯示,开发者在开放模型生態中的选擇正在變化。模型价格下降和能力提升,或許推动呼叫量继续擴張,而不是被單一模型的效率提升抵消。

企业付费使用也在提升。Ramp 资料顯示,截至 2026 年 6 月,约 55% 的美国企业已付费訂阅 AI 模型,平台或工具,高於美国人口普查局 BTOS 调查的 21% 估计。按模型看,Anthropic 企业採用率为 42.4%,OpenAI 为 39.5%。

結論:Kimi K3 成硬體催化劑

不过,AI 支出仍高度集中。头部 1% 的企业使用者,平均每名員工每月 AI 支出约 4833 美元,前 10% 为 516 美元,整體中位數僅为 11 美元。科技与媒體产业訂阅率达到 79.8%,大型企业採用率为 65.5%,高於中型企业的 61.3% 和小型企业的 48.7%。

这組资料支援一个判斷:AI 使用仍處於擴散过程中。若低价模型降低进入门檻,未来增量需求或許来自更多企业,更多开发者和更多智慧體应用。

花旗和美银证券的共同結論是,Kimi K3 的意義不在於單一模型是否降低單位推理成本,而在於低成本是否釋放更大規模的工作负載。

对花旗而言,最直接的受益方向是伺服器 DDR5 和 eSSD。长上下文,KV Cache 和智慧體任務会提高記憶體訪问与儲存需求。对美银证券而言,更重大的是 GPU,HBM,高速網路和推理系统,因为模型競爭会迫使领先者继续投入基礎设施。

美银证券还提到,Kimi K3 涉及「45 奈米开源 EDA」不应被簡單解读为商业 EDA 被替代。相反,这表明晶片设计仍离不开 EDA 工具。在先进製程上,Cadence 和 Synopsys 等商业 EDA 廠商仍處於关鍵位置。

风险在於另一種情形:如果模型壓縮,推理最佳化和硬體效率提升长期快於新增工作负載,AI 基礎设施擴張或許階段性降溫。但在当前两家投行的框架下,Kimi K3 更像是推高使用量的催化劑,而不是削弱晶片需求的訊號。效率提升之后,市场必需关注的反而是更多 token,更多推理,以及更多底層硬體消耗。

META-0.02%
C-0.46%
CRWV-0.23%
RAMP-0.52%
SNPS-1.54%
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论
  • 置顶