台積電技術論壇:A13/A12製程、CoWoS擴大與Warpage挑戰
Google TPU vs NVIDIA GPU:OCS架構在Inference的侷限
- —Google TPU採用OCS(Optical Circuit Switching)架構,過去OCS要跳很多Hub轉接點,在3D Torus拓撲下訓練沒問題,但Inference(尤其是TTFT,First Token Time)有跳轉延遲問題
- —Groq的LPU設計針對Inference優化,SRAM比重高,因此TTFT更快;但大規模部署成本高
- —Google TPU-8T(訓練)與TPU-8I(推論)分開架構,顯示訓練與推論的晶片設計已出現分歧
- —NVIDIA在推論架構上與Google路線不同,未來ASIC(包含Switch型ASIC)將在各自應用場景取代部分GPU角色
AIDA1擴產至1萬台:AI測試需求爆發,封測廠長期受益
- —AIDA1測試系統從原本5000台逐步擴到7000台,此次直接宣布擴到1萬台,AI測試晶片缺到爆、各種產能瓶頸
- —AI晶片越來越大→測試時間越來越長→整條測試供應鏈需求都在放大,晶片種類也變多
- —日月光、矽格等封測廠是AIDA1的客戶,積極配合過廠,都在積極受益於AI測試需求增長
投資風險提醒:預期過高是最大隱患
- —目前市場幾乎聽不到壞消息,但這正是需要拿捏的時候;突發事件可能讓所有事情Pending
- —歷史告訴我們,大家賠錢往往不是因為成長消失,而是成長不如預期,這時候市場質疑聲最多
- —短期材料有其意義,但不是每個人都需要去追;要持續往強勢的方向靠攏,但不要過度樂觀或預判高點
KOL明確提醒目前市場好消息充斥但需保持警惕,最大風險是市場對成長的預期過高;即使AI需求實際上仍在增長,一旦成長速度不如預期,市場反應可能很劇烈。KOL建議持續往強勢股靠攏,不要預判高點,但要有風險意識 #風險。