框架解釋 · TPU 供應鏈 · ISSUE #126
AI 算力心臟解剖：GPU、ASIC、HBM、CPU 四層全景，看懂上兆美元資本支出最後流進誰手裡
全球 AI 算力中心一年上兆美元的硬體投資，超過七成沉澱在同一塊主板上的幾家巨頭口袋。把這塊主板拆成四層，作為 TPU 系列的開場、核心看博通。
AI 這一輪，全世界的雲端巨頭加起來，一年要投下上兆美元的資本支出蓋資料中心、搶算力。但這筆天文數字的錢流到最後，超過七成沉澱在同一塊主板上的幾家公司手裡。那這筆錢，最後到底進了誰的口袋？
我們要做的，是把這塊主板徹底拆開，看清楚四件事：算力晶片、CPU、儲存晶片、底層代工，這四層的真實競爭格局，以及巨頭們是怎麼在競爭與結盟之間，吃下這一輪最大紅利的。為了直觀理解，可以把這塊主板想成一座高速運轉的「算力工廠」：
- 計算核心，GPU 或 ASIC：負責幹粗活的「工人」，扛大模型海量資料的運算。
- 高頻寬記憶體 HBM：是「搬運工」。為了打破「記憶體牆」，HBM 被直接貼在算力晶片旁邊，用最快速度給 GPU 投餵資料。
- CPU：是統籌調度的「包工頭」，管資料流向與指令。
- 系統記憶體 DDR5：是「前置中轉室」，資料得先在這裡清洗與預處理。
- 企業級固態硬碟 eSSD：是「存放海量資料的大倉庫」，更是訓練中途斷電時幾秒存下進度的救命稻草。
🎯一、計算核心：GPU 霸權與 ASIC 反擊
整個 AI 產業的心臟是算力晶片，主要分 GPU 與 ASIC 兩類。要看懂它，得先把 AI 算力拆成訓練與推理兩個環節，這兩個市場的技術要求、成本結構、競爭格局完全不同，必須分開看。
算力金字塔頂端
比的是單位 token 成本
這些數字是市場概估，精確值各家機構互有出入，但「訓練近乎獨佔、推理開始鬆動」這個方向是確定的。NVIDIA 能在訓練市場形成絕對壟斷，靠的是三道護城河：
- CUDA 軟體生態：對 AI 工程師來說就是 AI 領域的作業系統，十幾年累積的演算法與工具全在裡面，換晶片幾乎得重寫，沉沒成本無法承受。
- 硬體全棧能力：從晶片、NVLink 互聯、InfiniBand 網路、封裝到叢集調度全包，單卡或許被追上，但萬卡叢集的效率與穩定性無人能敵。
- 迭代速度：保持一年一代，對手剛要對標上一代，它的下一代已經在交貨。
但沒有人想把採購預算年復一年單向送進同一家公司。微軟、Google、亞馬遜、Meta 這些雲端巨頭走兩條反擊路：一是扶持 AMD 的 ROCm 生態養備胎；二是聯合博通、Marvell 自研 ASIC。ASIC 砍掉 GPU 上所有為圖形渲染保留的通用電路，把每一個電晶體都用在矩陣運算上，等大模型底層演算法穩定後，同級算力下單次計算成本與功耗大約只有 GPU 的一半。Google 的 TPU、亞馬遜的 Trainium、微軟的 Maia 已經跟 NVIDIA 拼起刺刀，連 Anthropic 的 Claude 都有相當部分租用 Google 的 TPU 算力在跑。
1.1黃仁勳的兩手反制
面對反擊，黃仁勳過去半年連出兩手棋，每一手都直接改寫了戰局。
這裡牽涉兩個層次。NVLink、NVLink Fusion 與 GB200 NVL72 機櫃屬於 scale-up，講的是機櫃內把多顆加速器串成「一顆邏輯大 GPU」；scale-out 則是跨機櫃、跨節點的橫向擴展，走交換晶片與光通訊。一件常被混為一談的事要分清楚：光 DSP 確實是 Marvell 的天下、1.6T 業界第一；但交換晶片的在位者是博通，它的 Tomahawk 已達 102.4T 級、並率先量產出貨，而 Marvell 的對標產品還在送樣。所以 Marvell 真正的不對稱位置是踩穩光這一端，交換晶片的在位者仍是博通。
1.2分水嶺：鎖得住一條路線，鎖不住另一條
繞不過就結盟
場上少數沒被收編的對手
這個系列接下來要一路追的，就是後面這條獨立路線：ASIC 反擊裡跑最快的 TPU 就長在這條路上，而它帶起的整條產業鏈，核心是博通。至於反擊打到哪了？New Street Research 估計，到 2028 年 NVIDIA 在推理算力上的份額可能降到兩到三成，而雲端自研 ASIC 以超過四成的年複合成長率往上衝、遠快過通用 GPU 的一成多。訓練端 CUDA 護城河短期撼動不了，但推理端的蛋糕正在被 ASIC 一塊塊切走。
這一層，我們在算力超週期系列與 Marvell 對 Broadcom 的論述對賬、光通訊鏈深度研究裡，已經各自拆過。
🧠二、統籌控制：CPU 的價值重估
過去兩年的 AI 狂潮裡，大家眼裡只有 GPU，傳統 CPU 巨頭在 AI 機櫃裡像是淪為配角。但隨著 AI Agent 的演進，這件事正在反轉。Agent 能執行多步驟決策、調用外部工具、發信、訂機票，問題從「算得快不快」變成「調度得聰不聰明」，而這種複雜的串行邏輯控制正是 CPU 的老本行。大模型運算照樣靠 GPU 與 ASIC，但整個任務的指揮與工具調用，越來越依賴強的 CPU。
從格局看，傳統 X86 仍佔主導，Intel 約七成、AMD 約兩成；剩下不到一成的 Arm 體量不大，卻是增速最快、最具顛覆性的變數。巨頭們在 CPU 上分三條線動心思：
Grace CPU（Arm）
Cobalt／Graviton（Arm）
AGI CPU（2026-03-24）
把三條線疊起來：NVIDIA 自研 CPU、雲端客製 CPU、加上 Arm 親自下場的 AGI CPU，正在一起侵蝕 X86 的版圖。CPU 不再是配角，而是 Agent 時代被重新定價的核心部件。
這一層，正好是我們 CPU 新週期與 Arm 完整論述的主場：Agentic AI 如何把 CPU 拉回 AI 基建主線、推理軸的 KV 快取為什麼走 PCIe，那幾篇講得最透。
📦三、儲存系統：HBM 命門與後勤博弈
晶片廠與雲端業者最焦慮的，不是買不到 GPU，而是買不到高頻寬記憶體 HBM。它是整個算力系統裡最緊缺、最卡脖子的命門。HBM 是 DRAM 的最高形態，而 DRAM 是半導體裡最典型的「製程驅動型」產業：製程窗口極窄，得靠幾十年經驗慢慢調、中間斷一年都不行，所以必須自建工廠走 IDM 模式、沒法代工。這就是為什麼全球能做高階 HBM 的只有三家——不是別人不想做，而是沒有 DRAM 製程連上牌桌的資格都沒有。
| HBM 廠商 | 2026 市佔概估 | 排序變化 |
|---|---|---|
| SK 海力士 | 約六成 | 穩居龍頭；HBM4 NVIDIA 訂單據傳已拿下約三分之二 |
| 美光 | 約兩成 | HBM3E／HBM4 競賽追得很猛、部分配額反超三星 |
| 三星 | 約兩成 | 長年第二的位置這一輪被美光部分反超 |
HBM 太搶手還外溢出連鎖效應：海力士與三星把大量原本生產普通 DRAM 的產能轉去做 HBM 與伺服器級 DDR5，結果連一般電腦記憶體與系統記憶體都跟著緊缺、漲價。最近記憶體變貴，就是產能被 AI 大佬們擠光的後果。
算力中心另外兩塊儲存是 DDR5（CPU 與硬碟之間的中轉站，AI 訓練伺服器單機要配上 T 級容量、格局同樣由三巨頭掌握）與 eSSD（走 NAND 快閃、是資料中心的大倉庫，由三星、海力士、西數、美光、鎧俠幾家主導）。
eSSD 這塊有一個判斷模組廠真假的實用標準：這波漲價帶動很多模組公司業績暴漲，但要分清楚是「囤了低價顆粒、靠週期賺一次性庫存差價」還是「靠真本事的可持續成長」，核心看兩條——一是有沒有自研企業級主控晶片與韌體演算法、二是產品有沒有實打實進入一線雲端業者的核心機櫃。同時跨過兩道門檻的才是第一梯隊。
這一層是我們存儲記憶體系列的主場：LTA 長約條款與 2028 年記憶體為什麼在 2026 就被買走，那幾篇是深水區。
🏭四、不下場競爭、卻每筆都分到：EDA 與台積電
不管上面三層怎麼打，晶片都得從圖紙變成實物。站在這座金字塔最頂端、不管誰輸誰贏都穩穩分到錢的，是兩種隱形霸主。
提供圖紙與工具的 EDA 與 IP 廠商
在大模型公司紛紛自研 ASIC 的時代，最沒風險的一杯利潤
代工與封裝的台積電
本身就是這場軍備競賽的入場券
這一層對應我們的先進封裝與後段測試系列：Intel EMIB-T 是不是真機會、AEHR 在出貨前的老化測試卡的是哪個收費站、PCB 到玻璃基板的全棧都拆過單篇。
🗺️收尾：四層合成一張圖，往下挖哪條路
把四層疊起來，這塊價值連城的算力主板就完整了：計算核心的 GPU 霸權與 ASIC 反擊、CPU 在 Agent 時代的價值重估、HBM 與固態硬碟的後勤博弈、最後是台積電與 EDA 在底層穩穩分成。每一個環節的強弱，都在決定未來十年的科技版圖。
下一步，我們會沿著這張圖上最值得追的那條路徑往下挖：ASIC 反擊裡跑最快的 Google TPU。這條路的需求面，可以搭配「Google 用 800 億美元發股」那篇一起看——連最不缺錢的巨頭都在搶融資擴算力，賭的正是 TPU。接著我們會從設計端的博通出發，沿著台積電代工、HBM、CoWoS 先進封裝到網路一路往下走。其中我們最看好的核心，是同時踩穩設計端與網路端的博通。這是研究判斷、不是買賣建議。
⚠️風險與注意事項（必讀）
🧭研究結論與追蹤框架
這張母圖的核心結論：錢沉澱在計算、CPU、儲存、代工四層的少數玩家，而最值得追的路徑是 ASIC 反擊裡跑最快的 Google TPU、核心看博通。要驗證這條路走得通不通，往下盯這幾條軸的雙向訊號：
偏 ASIC／獨立路線（利博通、GOOGL）
- ASIC 推理份額：若 New Street 的 2028 兩到三成路徑提前實現
- 互連層：若 UALink 等開放標準成形、繞開 NVLink
- Arm 滲透：若 AGI CPU 與雲端自研續放量、X86 份額流失加速
- HBM 配額：若 HBM4 持續吃緊、美光續追上，三家定價權延續
- CoWoS 產能：若台積電 CoWoS 持續滿載，封裝是全鏈瓶頸與分潤點
偏 NVIDIA／既有格局
- ASIC 推理份額：若 NVIDIA 推理份額守住約七成，獨立路線論述打折
- 互連層：若更多自研 ASIC 被綁進 NVLink Fusion，互連利潤回流 NVIDIA
- Arm 滲透：若客戶回補 X86，Arm 滲透放緩
- 記憶體報價：若擴產過快轉鬆，HBM 與一般記憶體報價回落
- 封裝產能：若日月光等切入紓解，CoWoS 瓶頸下移、分潤分散
📚來源與參考
本文每個關鍵論點都有對應公開來源，按權威分三級列出。所有連結均為原始公司新聞稿、產業專業媒體或財經媒體分析，不引用散戶論壇或無來源 blog。
第一級公司官方新聞稿
- NVIDIA 官方新聞稿：戰略投資 Marvell 20 億美元、NVLink Fusion 整合與矽光子合作（2026-03-31）（NVIDIA Newsroom）
- Arm 官方新聞稿：首度自製 AGI CPU、台積電 3 奈米、Meta 首發、最高 136 核（2026-03-24）（Arm Newsroom）
第二級產業專業媒體與研究機構
- HBM 2026 市場份額、HBM4 配額與美光反超三星趨勢（TrendForce）
- 記憶體與 HBM 市佔追蹤（Counterpoint Research）
- 推理算力 ASIC 對 GPU 的 2028 份額與成長率預估（New Street Research）
- NVIDIA 約 200 億美元拿下 Groq、Jonathan Ross 加入（DataCenterDynamics, 2025 年 12 月）
第三級財經媒體
數據份額與規格數據來源
- 訓練／推理 GPU 份額、CPU 架構份額為業界概估，各機構互有出入，文中已標明。
- HBM 市佔：TrendForce、Counterpoint 等市場研究，2026 年。
方法事實核查方法論
本文每個關鍵論點至少要求 2 個獨立來源、優先第一級（公司官方）。涉及未來預期（時程、份額、設計拿單）則明確標示為「估計」「展望」或「概估」、不假裝是事實。NVIDIA 與 Groq 交易性質採並存兩說（CNBC「收購資產」與 Groq「非獨家授權」）；scale-up／scale-out 與光 DSP、交換晶片在位者的歸屬已逐條校正（光 DSP＝Marvell、交換晶片在位者＝博通）。
📋一頁速看（給沒時間的人）
四層主板，錢最後沉澱在哪
- 計算核心：訓練 NVIDIA 九成以上近乎壟斷、推理約七成開始鬆動，ASIC 同級算力成本約 GPU 一半。
- CPU：X86 仍主導（Intel 約七成），但 NVIDIA Grace、雲端自研、Arm AGI CPU 三線一起侵蝕。
- 儲存：HBM 三家壟斷（SK 海力士約六成），美光部分反超三星；緊缺外溢到一般記憶體漲價。
- 底層：台積電（3／2 奈米、CoWoS）與 EDA（Arm／Synopsys／Cadence）不下場卻每筆都分到。
這條路要追什麼
- 最值得追的路徑＝ASIC 反擊裡跑最快的 Google TPU，主力設計夥伴與核心是博通。
- New Street 估 2028 NVIDIA 推理份額降到兩到三成、雲端自研 ASIC 年複合成長逾 40%。
- 下一步：需求面看 Google 800 億發股，受惠股看 TPU 跨鏈交集地圖。