AI與科技第 17 期

以為買GPU就夠了嗎？AI基礎設施戰爭的真正決勝點

AI基礎設施競爭的真正瓶頸不是晶片。先確保電力與記憶體的企業才能贏得這場戰爭

安光涉（Oswarld）· INLEVEL9 作者與編輯

以為買GPU就夠了嗎？AI基礎設施戰爭的真正決勝點

前言

各位讀者，先給您一個數字。690兆韓元。

這是2026年五大科技巨頭宣布將投入基礎設施的總金額，約當韓國年度GDP的30%。但有一家企業，就算想花也花不出去——那就是微軟。CEO薩提亞·納德拉（Satya Nadella）親口承認：GPU堆在倉庫裡，卻沒有電可以插。800億美元的Azure1訂單排著隊，但物理上根本無法啟動伺服器。

2026年2月最後一週，各大科技巨頭的發布會密集登場。2月17日Meta與NVIDIA的GPU合作夥伴協議、2月24日Meta與AMD的合約、同日Google宣布德州資料中心計畫。絕大多數報導只聚焦在「又是一筆GPU交易」。但我認為，這些發布會講的是另一個故事。

今天就是來聊這個故事的。不是誰買到了更多GPU，而是真正的瓶頸到底在哪裡。

AI基礎設施戰爭的結構：三大支柱

要建構AI基礎設施，必須同時具備三樣東西。

第一是高效能運算晶片，也就是GPU、TPU2這類AI專用半導體。第二是電力基礎設施，需要能實際驅動這些晶片的資料中心和電力。第三是消耗型記憶體晶片，包括HBM3、DRAM、NAND等半導體，負責在AI模型運算期間暫存數據。

問題在於，目前沒有任何一家企業能同時掌控這三項。所以現在正在發生的，是一場即使砸下690兆韓元，各自仍在拼命補強自身弱項的競賽。

我們逐一拆解。

第一支柱：高效能運算晶片——只有三個選項的市場

外部可取得的高效能AI晶片，實際上只有三家供應商：NVIDIA GPU、AMD GPU、Google TPU。這就是人們常說的寡占4結構，而且是一種相當結構性的寡占。從軟體生態系（NVIDIA的CUDA5）到封裝技術、與TSMC的合作關係，新玩家要進入這個市場，是一個以年為單位的大型工程。

因此，各大科技巨頭正在正式推動供應源多元化策略。Meta是最鮮明的案例。<2月17日與NVIDIA簽訂數百萬顆規模的Blackwell與Rubin GPU長期合作夥伴協議，一週後的2月24日又與AMD簽下最高6GW規模的Instinct GPU多年期合約。> 同時也在自研MTIA晶片。

馬克·祖克伯格（Mark Zuckerberg）怎麼說的？他說這是「在運算多元化方面邁出的重要一步」。這等於正式宣告不能依賴單一供應商。AMD CEO蘇姿丰（Lisa Su）則將這筆合約描述為「針對Meta工作負載最佳化的高效能、高能源效率基礎設施的多年、多世代合作」。

Google則朝另一個方向走。透過自研TPU v7 Ironwood強化推論6專用晶片策略，同時與Anthropic簽下超過100萬顆TPU的供應合約，並開始向外部NeoCloud銷售。也就是說，TPU不只自己用，還要像NVIDIA一樣賣出去。

但這裡有一個不能誤解的地方：NVIDIA並沒有在崩潰。NVIDIA在通用性和軟體生態系上依然具有壓倒性優勢。只是在大型推論工作負載7場景中，TPU或ASIC8等客製化晶片開始在成本效率上取得領先。市場正在從獨占結構轉向多層級結構。

第二支柱：電力基礎設施——「錢有，但電沒有」

在我看來，這是最具物理性、也最嚴峻的瓶頸。

Google在2月24日宣布於德州Wilbarger縣新建資料中心時，同時表示已與德州電網簽訂超過7,800MW的淨增電力合約。1GW約相當於70萬戶家庭的用電量，7,800MW的規模超過韓國釜山、인천、大邱三座城市的總用電量。此外還包含與AES的潔淨能源共同建設，以及採用風冷式冷卻以最小化水資源使用。

Meta正在俄亥俄州建設1GW規模的Prometheus資料中心，並規劃在路易斯安那州建設最高5GW的Hyperion。祖克伯格親口提到的用地面積約為汝矣島的20倍。

為什麼需要這麼多？因為AI正在結構性地推高電力需求。美國能源資訊署（EIA）預測美國商業用電需求將在2025年增長3%、2026年增長4.5%；國際能源總署（IEA）則預估全球資料中心電力消耗到2030年將達到目前的兩倍。

但這裡有一個真正的問題：電力變壓器的交貨週期已延長至128週（約2.5年）。現在下單，最快也要到2028年下半年才能收到。就算有錢，也得等兩年半。

所以德州正在成為資料中心的首選落點。擁有獨立電網ERCOT9、監管靈活、土地廣闊。Google選擇Wilbarger縣不是單純的地點問題，核心在於提前鎖定了電力。微軟因為電力不足而陷入被動，我們已經看到了——GPU正在倉庫裡「睡覺」。

近期，SoftBank與美國、OpenAI原本雄心勃勃推進的Stargate專案10，也因電力短缺而傳出將取消原本集中在德州建設的既有計畫，改採縮減規模或分散建設的方案。

第三支柱：記憶體——AI正在吞噬記憶體

第三個支柱，是與韓國最密切相關的故事。

2026年的HBM產能已經幾乎全數售罄。SK海力士在2025年10月財報中宣布，其HBM、DRAM、NAND的2026年產能「幾乎全部售罄」；Micron則宣布完全退出消費級記憶體市場，專注於AI資料中心客戶。

為什麼會變成這樣？背後有結構性原因。

HBM3E相較於標準DDR5，需要約3倍的晶圓面積。為了在一個AI加速器上安裝記憶體，動用了相當於三顆一般記憶體的產線。記憶體廠商越專注於HBM生產，我們手機和筆電裡使用的一般記憶體就越少。

結果已經開始顯現。三星將DDR5 32GB模組價格從149美元調漲至239美元，漲幅約60%。DDR5合約價格飆漲超過100%。由於消費級記憶體短缺，Sony PS6延期上市的傳言也開始流傳（並非Sony官方確認，而是來自主機遊戲專業媒體的傳聞）。

那這種情況會持續多久？SK海力士高層在JP Morgan會議上表示，記憶體上行週期可能持續到2027年，甚至2028至2029年。他們認為，即使CSP11下雙重、三重訂單，短缺狀況仍將持續。

這裡還有一點需要特別指出：LTA（長期供應合約）的主導權已經反轉。過去記憶體供過於求時，是供應商主動推合約；現在是Google、微軟等雲端廠商主動上門要求鎖定產能。這代表記憶體已經從單純的零組件，升級為戰略性資產。

而且隨著AI進入推論時代，記憶體需求結構也在改變。過去需求集中在AI訓練（Training），現在重心正在轉向推論（Inference）。KV快取12成為新的記憶體需求驅動因素，每台伺服器所需的DRAM用量增加，企業級SSD（eSSD）需求也同步上升。

BofA預估2026年HBM市場規模為546億美元，年增58%，並將SK海力士列為全球記憶體產業首選標的。

Oz的觀點

老實說，看著這場競爭，我聯想到GTM策略師時期常看到的一種模式。

什麼模式呢？就是瓶頸不斷轉移的模式。產品突破一個限制後，瓶頸總是會移到別的地方。AI晶片供應增加後，電力成為瓶頸；電力確保後，這次輪到記憶體卡住了。

從這個角度看，目前處於最有優勢位置的企業是誰？我认为是Google。自研TPU生態系、德州7.8GW電力、與Anthropic的AI堆疊合作夥伴關係——在三大支柱中擁有最均衡的組合。

Meta選擇了晶片多元化（NVIDIA＋AMD＋MTIA三足鼎立）的聰明策略。但這是分散供應風險的策略，不是解決瓶頸的策略。Meta真正的變數是路易斯安那州5GW的Hyperion何時能實際啟用。

微軟目前處境最為艱難。對NVIDIA的依賴度最高，電力確保方面落後最多。800億美元的未交付訂單堆積如山，意味著此刻正在不斷錯失變現機會。

而且不談韓國的故事是不行的。SK海力士和三星是三大支柱中掌控記憶體支柱的核心玩家。SK海力士在HBM市場佔有約50～62%的份額，且這個份額在HBM4時代很可能維持。作為數據分析師，這個數字代表的意義很簡單：AI基礎設施每增加一個單位，其中包含SK海力士或三星記憶體的機率超過一半。

不過也有一個需要警惕的地方。市場永遠有週期。現在記憶體短缺是結構性的，沒錯，但2027～2028年SK海力士龍仁廠和三星新廠開始量產後，供應會增加。屆時需求是否仍然超過供應，還是重新回到供過於求，將是這個週期真正的試金石。

結語

讓我來整理一下，這次發布會中真正重要的是什麼。

AI基礎設施競爭已經從「誰買到了更多晶片」，轉向「誰先確保了電力和記憶體」。變壓器交貨週期2.5年、HBM全數售罄——這不是靠軟體或演算法能解決的問題，而是純粹的物理性限制。

690兆韓元的資金在湧入，但為什麼電和記憶體不夠？您理解嗎？這個數字反映的不是決心的大小，而是瓶頸的深度。

最後想問一個問題：這些基礎設施投資最終能回收嗎？AI服務產生的收益是否能以足夠快的速度增長來正當化這些物理性投資？目前還沒有確切答案。下一篇，我們來聊聊這個問題——AI基礎設施的盈利方程式。

參考資料 & 延伸閱讀

作者 安光涉（Oswarld） 現任世宗大學兼任教授，INLEVEL9 策略顧問。職涯經歷、研究、著作與近期活動會持續更新在作者介紹。 最新動態 · 2026年7月：HEMA-2: A Consolidation-Aware Tri-Memory Architecture with Multi-Channel Scheduling for Lifelong Conversational AI。

각주

  1. Azure：微軟的雲端服務平台。企業無需自行建置，即可租用伺服器、資料庫、AI模型等基礎設施。 ↩

  2. TPU（Tensor Processing Unit）：Google自行設計的AI專用晶片。如果GPU是「萬用工具組」，那TPU就是「只鎖特定螺絲的電動起子」。通用性較低，但在AI運算上的成本效率更高。 ↩

  3. HBM（High Bandwidth Memory）：安裝在AI加速器旁邊的高頻寬記憶體。數據傳輸速度比一般DRAM快數十倍，但生產需要標準DRAM 3倍的晶圓。原理類似在高速公路上直接蓋一座加油站。 ↩

  4. 寡占：市場供應商集中在少數幾家的結構。與獨占（一家）不同，是2～3家企業瓜分市場絕大部分份額的形態。AI晶片市場就是NVIDIA、AMD、Google TPU的三方寡占。 ↩

  5. CUDA：NVIDIA開發的GPU程式設計環境。全球AI研究者和開發者數十年累積的程式碼都綁定在這裡。換到其他晶片上最大的轉換成本就在這裡。 ↩

  6. 推論（Inference）：AI模型在實際服務中回應使用者請求的過程。與初次建立模型的訓練（Training）不同，推論在服務運行期間必須持續運作。AI越普及，推論基礎設施的比重就越大。 ↩

  7. 工作負載（Workload）：運算系統需要處理的作業總量。AI推論工作負載就是即時回應使用者查詢的作業。 ↩

  8. ASIC（Application-Specific Integrated Circuit）：針對特定用途設計的半導體。比GPU的彈性低，但在特定作業上的效率遠高於GPU。Google TPU、Amazon Trainium是代表性的ASIC。 ↩

  9. ERCOT（Electric Reliability Council of Texas）：德州獨立電網。與美國聯邦電網分離，因此監管更加靈活。這是德州成為資料中心熱門落點的原因之一。 ↩

  10. Stargate專案（Stargate Project）：一項聚焦於開發驅動下一代AI所需的物理及數位基礎設施的大規模公私部門合作計畫，規模達5000億美元。 ↩

  11. CSP（Cloud Service Provider）：雲端服務供應商。如AWS（Amazon）、Azure（Microsoft）、GCP（Google）等企業。 ↩

  12. KV快取（Key-Value Cache）：AI模型在推論時為記住先前對話脈絡而儲存的數據。對話越長，KV快取越大，記憶體消耗呈指數級增長。可以理解为AI「記住對話」所付出的記憶體成本。 ↩

延伸閱讀

第 16 期AI與科技

2026年，三道安全機制同時鬆動

稀土、核武軍備、能源霸權——若讀不懂結構，就只剩下情緒

第 12 期AI與科技

用腦波訓練機器人？中國和美國為何瘋狂投資

AI 的下一本教材不是「書」，而是「人類的腦」本身

第 3 期AI與科技

機器人時薪5美元的時代，人類該做什麼？

問題不再是機器人做得多好，而是人類該做什麼