KOL Digest
FundaAI · 2026.04.29 週三 · Substack

Deep|DeepSeek V4: The Inflection Point for Large-Scale NAND-Based KV Cache

看原始內容 1 個主題 · 2 個標的/題材

DeepSeek V4 KV Cache 壓縮驅動 NAND 需求爆發

  • V4 在前一輪 API 價格砍 75% 之後,再將 input cache-hit tier 降至 list 的 1/10,兩輪疊加後 cache hit floor 落在 ¥0.025/M tokens,cache hit/miss 價差擴至 1/120
  • agent 場景下 V4 實測 cache hit rate 達 95%+,代表絕大多數推論成本都走 SSD tier 而非 DRAM/HBM
  • V4 KV cache size 壓縮至 V3.2 的 10%,配合 DeepSeek 多年 SSD-based KV cache 工程積累,使大規模遷移具備可行性
記憶體 看多 中期

KOL 明確指出 DeepSeek V4 的 cache-hit repricing 對 SSD 有上行空間,NAND 需求將指數級增長。V4 將 KV cache 從昂貴且容量受限的 DRAM/HBM 大規模遷移至更大更便宜的 SSD,是結構性需求增量而非週期性波動。DeepSeek 目前 SSD 配置與利用率已較之前顯著提升,預期隨更多推論平台跟進,NAND SSD 在 AI 推論基建的佔比將持續擴大。

AI基建 看多 中期

V4 代表 AI 推論基礎設施從依賴昂貴 HBM/DRAM 轉向大容量 NAND SSD 的架構轉捩點。KV cache 壓縮 10x + SSD 工程成熟度提升,使 SSD-based KV cache 在規模化部署中具備成本競爭力,AI 基建的儲存層需求結構正在重塑。