AI 代理程式用 GPU 思考，用 CPU 工作
如果您曾經把任務交給 AI 代理程式，不妨回想一下。代理程式工作期間，畫面上發生了什麼事？它開啟瀏覽器、執行程式碼、整理檔案、閱讀搜尋結果。
前言
讀者 您好，如果您曾經把任務交給 AI 代理程式，不妨回想一下。代理程式工作期間，畫面上發生了什麼事？它開啟瀏覽器、執行程式碼、整理檔案、閱讀搜尋結果。模型真正在「思考」的瞬間很短暫，其餘時間幾乎都在做這些瑣碎的執行操作。而這些操作跑在 CPU 上，不是 GPU。
上個月 13 日，美國銀行（BofA）把這個觀察換成了數字。他們預測伺服器 CPU 市場到 2030 年將成長 6 倍。先說結論：代理程式時代的運算需求，不只是把 GPU 做大而已。他們正在把 GPU 時代被當配角的 CPU，重新請回主角的談判桌前。
BofA 重寫的估價單
先看數字。BofA 的 Vivek Arya 分析師團隊預估，2030 年伺服器 CPU 市場規模（TAM1）將超過 2,100 億美元。2025 年這個市場約 350 億美元，換算下來 5 年內成長 6 倍。年複合成長率為 36%。
有意思的是，這個數字並非首次上調。BofA 對 2030 年的預測值從 1,250 億美元調到 1,700 億美元，這次又調到 2,100 億美元。幾個月內估價單改了兩版，而每次的理由都一樣：代理程式 AI。
核心論點在於比例。以訓練為主的 AI 時代，AI 伺服器的標準配置是 4 顆 GPU 配 1 顆 CPU，也就是 1:4 的架構。CPU 的角色是給 GPU 餵資料的輔助。但 BofA 認為，在代理程式推理時代，這個比例將趨近 1:1。CPU 將成為代理程式系統的「控制平面」2，用 BofA 的話說，就是資料中心的「控制樞紐」。
拆解資金結構，圖景會更清晰。BofA 估算 2030 年資料中心系統市場規模為 2.2 兆美元，其中 AI CPU 佔 1,800 億美元，而這 1,800 億恰好均分為兩塊：一塊是 900 億美元，用於指揮 GPU 叢集的「頭節點」3；另一塊是 900 億美元，用於不依賴 GPU、純靠 CPU 運行的代理程式專用節點。後者就是今天這篇文章的主角。
代理程式這個「員工」的一天
為什麼需要代理程式專用節點？看看代理程式實際在做什麼，馬上就懂了。
聊天機器人時代的 AI，收到問題、吐出答案，就結束了。100% 的工作都是模型推理，也就是 GPU 的活。但代理程式不一樣。它制定計畫（推理）、開啟瀏覽器找資料（執行）、寫程式碼並跑起來（執行）、檢視結果（推理）、整理成檔案（執行）。就像人類員工使用軟體來工作一樣，代理程式也是透過軟體來工作。而瀏覽器、程式碼執行環境、檔案系統、資料庫，全部屬於通用運算，也就是 CPU 的領域。
所以如果把代理程式的一天按時間切開，GPU 運轉的「思考」只是零星的瞬間，CPU 運轉的「手腳」才填滿了其餘時間。僱用一個代理程式，基本上就等於為它提供一台電腦。就像招人時先發一台筆電一樣。
這也呼應了上週「剪刀」故事中提到的工作負載數據。每個任務的 token 數量持續增加，意味著代理程式的工作更長、步驟更多。步驟越多，步驟之間的執行操作也越多。推理規模擴大，執行規模必然跟著擴大，這是結構性的。
當然，我們也要把誇大的部分剝離。1:1 是數量比例，不是金額比例。2030 年 AI 加速器市場仍將達到 1.1 兆美元，是 AI CPU 市場的 6 倍。所以這不是 CPU 奪回王座的故事，而是原本被忽略的配角，片酬涨了 6 倍的故事，這樣理解才準確。
市場在擴大，王座在更迭
誰來拿下這個擴大的市場，是第二個轉折。
伺服器 CPU 近 30 年來幾乎是 Intel 的天下。但根據 BofA 的市占率預測，Intel 2025 年以金額計的市占率為 40.4%，到 2030 年將腰斬至 22.0%。AMD 則從 27.4% 上升到 30.7%，若預測成真，最快明年（2027 年）就會首次超越 Intel。BofA 在 CPU 相關個股中列為首選的，也正是 AMD。
但真正的贏家在 x864 之外——ARM 陣營。以 NVIDIA Grace 這類成品形式銷售的商用 ARM 佔 37.9%，以 Amazon Graviton、Google Axion 這類大型科技公司自行設計的客製化晶片5 佔 9.4%。合計起來，2030 年伺服器 CPU 市場的 47%，接近一半。
這也不是遙遠的未來。根據 IDC 統計，今年第一季伺服器市場中，ARM 等非 x86 伺服器的營收占比已達到 47.9%，年增 107.6%。不過這個數字要謹慎解讀。因為它是按整台伺服器的價格、依 CPU 架構來歸類的統計，所以一台最高 650 萬美元的 NVIDIA NVL72 機架，只因為用了 Grace CPU，整台就被算進 ARM 營收裡。但方向是明確的：NVIDIA 僅今年就計劃出貨 400 萬顆 Grace/Vera CPU，而同期 x86 伺服器營收倒退 2.9%。
Intel 的立場我也幫大家算清楚。市占率雖然腰斬，但市場規模翻了 6 倍，所以 Intel 的伺服器 CPU 營收本身會從 140 億美元級別成長到 460 億美元級別，增長超過 3 倍。這不是輸的遊戲，而是贏得比別人少很多的遊戲。只是資本市場看的是方向，不是絕對金額。市場成長 6 倍的期間，一家把王座讓出一半的公司，和一家正在吃下這個新市場的公司，估值不可能一樣。
Oswald 的視角
做 AI 導入顧問時，我經常要審閱基礎設施的估價單，而幾乎每一份估價單都有一個共同的空白欄。GPU 和 token 成本算得很仔細，但代理程式實際工作的執行環境——也就是沙箱、瀏覽器實例、編排伺服器的成本——根本沒有這個項目。他們還在用聊天機器人的預算格式，去規劃代理程式的預算。BofA 那 900 億美元的「代理程式專用節點」項目，在我看來，正是揭示這個空白欄在整個產業規模中到底值多少的數字。
不過，我在數據課上總跟學生說一句話：看到市占率，先問分母是什麼。今天這些數字恰好就是那道練習題。「ARM 佔伺服器一半」的 IDC 數字，分母是包含 GPU 價值在內的伺服器營收；而 BofA 的 47%，分母只有 CPU 晶片的價值。兩個不同層次的數字碰巧看起來接近，如果混為一談，大約會把 ARM 的現況高估一倍。另外，sell-side 的預測值幾個月內上調了兩次，這既是需求強勁的信號，也意味著預測值仍在追趕現實、持續修正中。比起 2,100 億這個數字本身，「改了兩版」這個事實才是更有價值的資訊。
所以我這樣總結這份報告真正的信號：AI 不是在取代既有運算，而是在放大它。代理程式越多，瀏覽器、資料庫、作業系統這些最平凡的運算需求就越大。如果上一期「剪刀」的故事是「利潤從模型轉向基礎設施」，那今天就是基礎設施內部，聚光燈從加速器獨舞台擴展到整個舞台的場景。HBM 市場到 2030 年預估 2,770 億美元，比 AI CPU 市場還大——對台灣讀者來說，這算是額外的好消息。
結語
總結起來有三點。
第一，BofA 認為伺服器 CPU 市場到 2030 年將成長至 2,100 億美元，擴大 6 倍。原因是代理程式用 CPU 工作的時間，遠超過用 GPU 思考的時間。第二，這個市場的一半將被 ARM 陣營拿下，Intel 的份額從 40% 縮減到 22%。市場在變大，但王座在更迭。第三，1:1 是數量比例而非金額比例，IDC 的 47.9% 分母裡包含了 GPU 價值。方向可以相信，但規模要仔細核實。
如果您正在評估導入代理程式，我建議這週做一件事：在試點預算表的「GPU・token」項目旁邊，加一行「執行基礎設施」。包括沙箱、瀏覽器、編排、日誌儲存。如果這行是空的，說明您還在用聊天機器人的格式規劃代理程式。
另外提醒，本文是產業結構分析，不構成對任何特定企業或資產的投資建議。關於 Intel、AMD、ARM 的相關數據，建議直接查閱下方的原始來源。
讀者 您好，您所在的組織目前把代理程式跑在哪裡？是雲端 CPU 實例的成本比預期高，還是根本還沒開始考慮執行環境？歡迎在留言區分享您的現場經驗。我會收集案例，在代理程式基礎設施專題中繼續深入。
💬 代理程式的執行環境，您目前是在哪裡、怎麼跑的？歡迎留言分享，下期會參考大家的回饋。 📨 如果身邊有負責 AI 基礎設施預算的同事，歡迎分享這篇文章。
📎 參考資料 & 延伸閱讀
核心來源
- BofA Global Research（Vivek Arya 團隊），伺服器 CPU TAM 預測報告，2026.8.13. ··· 本文的骨架。2.2 兆美元 TAM 拆解（Exhibit 1）與市占率預測（Exhibit 4）均出自此報告。
- Yahoo Finance UK, “BofA lifts server CPU TAM to $210bn+ on the rise of AI agents”, 2026.8. ··· 報告的核心論點，以及從 1:4 到 1:1 的比例轉變說明，都在這裡有整理。
- Tom’s Hardware, “Arm servers capture over 45% of data center market revenue”, 2026. ··· IDC 第一季統計的原始報導。47.9% 這個數字的分母是什麼，可以在這裡確認。
背景知識
- Forbes, “Vera CPU Is Strategic For Nvidia, Not A Side Show”, 2026.7.21. ··· 分析 NVIDIA 為什麼把 CPU 視為戰略業務而非附帶產品。
- Benzinga, “BofA Sees $210B CPU Boom: AMD, Intel, ARM”, 2026.8. ··· 以個股影響為重點的摘要報導。
推薦搭配閱讀的往期文章
- SanDisk 拿下的 4 年期合約 ··· 力量轉向基礎設施的又一個場景。儲存版本的重新估值故事。
📝 名詞解釋
각주
-
TAM（Total Addressable Market，可服務市場總規模）：某產品在理論上能觸及的整體市場規模。不是實際營收，而是市場的上限數字，因此不同預測機構的定義和規模可能不同。 ↩
-
控制平面（Control Plane）：系統中負責指揮「何時、做什麼、怎麼做」的管理層級，與實際執行任務的數據平面分開。用工廠來比喻，控制平面是管制室，不是生產線。 ↩
-
頭節點（Head Node）：GPU 叢集中負責任務分配、排程、資料準備的 CPU 伺服器。數千顆 GPU 要像一個整體一樣協同運作，就必須有這台指揮伺服器。 ↩
-
x86：Intel 和 AMD 使用的傳統 CPU 架構。過去 30 年間是伺服器市場的標準，而對陣的 ARM 則從智慧型手機起步，以電力效率為武器進入伺服器領域。 ↩
-
客製化晶片（Custom Silicon）：大型科技公司不購買現成晶片，而是針對自身工作負載自行設計的半導體。Amazon Graviton、Google Axion、Microsoft Cobalt 是典型代表。 ↩
