KOL Digest
大叔美股筆記 · 2026.08.03 週一 · Substack

Rubin Ultra 真的「減肥」了嗎?

看原始內容 2 個主題 · 4 個標的/題材

NVIDIA Rubin Ultra 系統架構:晶粒計算單位與 NVLink 系統域對決 $AMD

  • AI 下一場戰爭從單顆 GPU 運算速度,升級為數百顆 GPU、光學互連與軟體調度的系統級競爭
  • AMD 想用更大記憶體與開放標準拆解圍牆,NVIDIA 則把 scale-up 圍牆從機櫃擴展至全域
$NVDA 中期

單顆 192GB 看似比 Rubin 的 288GB 縮水,其實是計算單位從封裝換成晶粒;同基準下每 die 記憶體 由 144GB 增到 192GB、反而 +33%。$AMD MI455X 每顆 432GB 多五成且走開放標準,但得先證明數百顆能低延遲綁定。規格數字只是入場券,能把整櫃運算單元耦合成一台系統才是護城河

$AMD 中期

MI455X 每顆 432GB 記憶體$NVDA Rubin 多 50%,在長上下文推論與大模型切分具吸引力,且開放標準免於單一供應商綁定。但挑戰在於如何把數百顆 GPU 低延遲綁定。雖記憶體容量與開放架構優勢明顯,仍須證明 ROCm 叢集穩定性與實際軟體調度經濟性

AI算力 中期

大型 MoE 模型的核心瓶頸為運算單元間資料交換與尾端延遲,關鍵在於交換器、光學互連與系統拓撲。如果數百顆單元存在同一個 NVLink 域,軟體即可視其為一台超大系統。未來 AI 算力的決勝點不再是單一晶片運算速度,而是整套叢集低延遲互連與協同工作的系統能力

AI 系統架構演進對 HBM 產業影響:需求模式重構但總量仍偏多

  • 過去市場習慣假設每一代 GPU 每顆都塞更多 HBM,但未來的成長模式已轉向更大封裝與系統
  • 公平比較相同 die 數量下,一套 Rubin Ultra NVL576 的 HBM 總量是 Rubin NVL72 的五倍以上
記憶體 看多 中期

AI GPU 演進轉向大封裝與系統級部署,雖單 die 容量非線性暴增,但一套系統需求仍達 110TB 以上、遠高於前代的 20.7TB。市場不應因單晶片數字下跌而急著喊記憶體反轉。全球 HBM 整體需求方向依然偏多且量體可能被低估,惟市場需修正單顆必倍增的線性成長假設