CPU vs GPU

 

這兩天半導體板塊中表現最好的，當屬AMD和Intel，兩者有甚麼共通點？答案就是CPU。

​

這兩天，有家機構KeyBanc發表了研報，表示AMD與Intel在2026年的伺服器CPU產能，已基本售罄。

​

這意味著市場需求之強勁，已經遠遠超出了兩大巨頭的供應能力。更關鍵的是，當商品供不應求時，賣方就掌握了絕對的話語權。報告指出，AMD與Intel正考慮在2026年第一季度將伺服器CPU的價格上調10%至15%。

​

過去，AMD的增長主要依靠提升市佔率、賣出更多的晶片，是一種「以量取勝」的策略。而這次，它終於有了「定價權」。這也是華爾街最樂於見到的劇本：銷量與利潤率的雙重擴張。

​

你可能會問，AI時代的主角不是GPU嗎？為何伺服器CPU會如此短缺？

​

關於這點，我在半年前的電子報中曾經詳細分析過，我將部份內容和大家分享一下。

​

▋被忽略的「推論」需求大爆炸

​

許多人簡單地認為CPU在AI中不那麼重要，但這是一個危險的誤解。

​

事實上，CPU的角色會根據戰場的不同：「訓練」（Training）或「推論」（Inference），而發生根本性的轉變。

​

而理解這個轉變，對於建構一個高效、不浪費資源的AI系統至關重要。

​

▋訓練階段的CPU：機場的總設計師與建造總監

​

你可以把AI模型的「訓練」過程，想像成一項從零開始、規模宏大的基礎建設工程：建造一座全新的國際機場。

​

這是一個一次性的、目標明確的龐大專案，旨在打造一個能處理巨量流量的基礎設施。

​

在這個建案中，GPU是核心施工團隊：

​

它們是那些擁有巨型起重機、鋪路機、航站樓鋼結構團隊的重型機具與專業人員。它們負責實際的跑道鋪設、航廈興建等核心建造工作。

​

機場多久能建成啟用，根本上取決於這些施工團隊的效率和力量。

​

CPU則是建造總監，它的工作不是親自去鋪跑道，而是作為整個專案的大腦，確保數千個環節無縫銜接。它負責：

​

- 物料調度：確保源源不絕的建材（數據）經過預處理後，能準時送達施工現場（GPU），避免工班因缺料而停擺。

​

- 進度管理：在每個關鍵施工階段（如地基完成、主體封頂）設立「里程碑」（檢查點），詳細記錄工程進度，以防意外導致前功盡棄。

​

- 跨團隊協作：如果這是一個涉及多個工區（多節點訓練）的超大型機場，CPU就負責確保電力、水利、通訊等不同施工隊之間的工作能完美協調。

​

在這個階段，如果建造總監（CPU）的調度能力不足，確實會造成混亂，拖慢整個工程的進度。但最終決定這座機場能否快速完工的，仍然是核心施工團隊（GPU）的硬實力。

​

因此，在訓練階段，CPU很重要，但它是一個支援型的總指揮角色。

​

▋推論階段的CPU：繁忙國際機場的空中交通管制員

​

當機場（模型）終於落成啟用後，戰場就完全改變了。我們進入了「推論」階段，也就是機場要開始7x24小時不間斷地處理來自全球的航班起降。

​

這時，CPU的角色從建造總監，搖身一變，成為了塔台裡那位壓力極大的空中交通管制員。

​

在這個繁忙的機場裡，每一個用戶請求，都是一架準備降落的飛機。

​

而CPU則是塔台裡的空中交通管制員，它負責管理進場航班，接收所有傳來的降落請求，並進行排序和排程。例如是：

​

- 動態批次處理 (Batching)：為了讓跑道（GPU）使用效率最大化，管制員會聰明地將幾架小型飛機（小的請求）組合成一個批次，讓它們緊湊地一起降落。

​

​

- 檢查與引導：快速處理每架飛機的資訊（例如Tokenization），並指揮它們到正確的跑道上。

​

在這裡，CPU的性能成為了整個系統的瓶頸。如果空中交通管制員（CPU）反應太慢，會發生什麼事？

​

跑道會閒置。

​

即使跑道再寬再長（GPU性能再強），飛機也只能在天上不斷盤旋，等待塔台指令。這直接導致了GPU利用率低下，以及用戶體驗的災難性延遲。

​

根據AMD的白皮書數據，僅僅是將主機CPU換成更高頻率的型號，就能讓整個推論系統的平均延遲降低8%到9%。

​

這多出來的效率，幾乎完全來自於「空中交通管制員」工作速度的提升，從而確保了GPU這條昂貴的跑道，能夠時刻保持在最大負載狀態。

​

▋為何理解這個區別至關重要？

​

簡單總結兩者的區別：

​

- 在訓練時，CPU的工作是確保GPU有事可做。

​

- 在推論時，CPU的表現決定了GPU的工作效率有多高。

​

這個看似細微的差別，對系統設計和成本效益有著深遠的影響。

​

在設計一個推論系統時，如果只迷信地堆疊頂級GPU，卻搭配了一顆性能不足的CPU，就像是為一座擁有八條跑道的超級機場，卻只配備了一個反應遲緩的塔台。

​

儘管硬體再強大，整體表現依然會令人失望。

​

因此，當AI全面進入「推論(Inference)」決勝的年代，我們的視角也必須從單純的GPU崇拜，擴展到對整個運算系統的審視，特別是CPU。

​

▋喧囂下的雙重敘事

​

觀察AMD的發展，可以發現一條雙線並行的故事。

​

一條是喧囂的、聚焦於未來的AI GPU敘事，其核心是挑戰NVIDIA的市場地位。這條戰線充滿了高估值與技術突破的想像空間，吸引了市場絕大部分的關注。

​

另一條，則是相對沉靜、卻攸關當下根基的CPU市場版圖重劃。

​

在這條戰線上，其目標是與長期領導者Intel競爭。後者為前者的高速前行，提供了必要的營收與利潤支持，構成了公司當前財務表現的核心基礎。

​

因此，對AMD的全面評估，不僅僅是判斷其在AI GPU領域的追趕速度，也同樣需要檢視其在CPU市場上與主要對手競爭的實力與進展。這兩條戰線的成果共同決定了公司的整體表現。

​

當市場的目光普遍投向那場華麗的GPU對決時，其伺服器機架中正在發生的權力轉移，同樣是構成這家公司完整價值拼圖中，不可或缺的一塊。

​

- KP

​

p.s. 這篇分析只是節錄，全文收錄在電子報中，完全免費。雖然已經是四個月前的分析，但大部分仍然有效，有興趣可以閱讀全文，連結放在留言區，免費訂閱就可以。