2023年在雲端廠商Microsoft與OpenAI合作下，積極推動 ChatGPT與整合旗下Bing、Office等規劃推出新一代的搜尋引擎平臺、Copilot 等服務，此波浪潮將帶動更多廠商如 Google、AWS、百度等投入AI伺服器基礎建設，未來類似ChatBOT 服務將結合推薦系統或各種周邊加值服務，成為最具潛力的雲端 AI 應用領域。

經相關供應鏈調研，2023年整體AI晶片(包含 GPU、FPGA、AISC等)顯著成長，其中又以NVIDIA GPU為AI伺服器市場搭載主流，佔比達6~7成，其次為雲端廠商自主研發的AISC晶片，佔比估將逾2成，尤其 Google欲與Microsoft竟逐AI搜尋引擎平臺和各種衍生服務應用下，2023 下半年將更積極擴大自研TPU晶片匯入AI伺服器基礎設施，有較高成長率。

以AI市場領先廠商來看，NVIDIA於2023年針對主力GPU AI晶片佈局上，以針對AI訓練應用的A100、H100高階GPU最具成長動能，此與NVIDIA 2023年對台積電CoWoS先進封裝需求量的持續提升情況相符。預期NVIDIA在2023年CoWoS需求量明顯成長，預估2023年對CoWoS需求量近50K，高階AI晶片包含A100和H100 等，將顯著成長至近1.5 Million Units，年成長有望突破7成。

主要章節 ●●

1

受雲端廠商對 A I強勁需求驅動，NVIDIA 資料中心業務佔比再躍升至首度逾 76%

2

NVIDIA 將分高中低階 GPU AI 伺服器方案，分攻 Cloud與 Edge Data Center Al 應用市場

3

NVIDIA 推 DGX 整合型 AI 伺服器與參考設計方案，迎生成式AI商機

4

NVIDIA 亦推 DPU 與 Spectrum X 欲強化資料中心基礎設施網路互通效能

5

拓墣觀點

圖表資料 ●●

1

Al 伺服器高需求下促 NVIDIA 資料中心營收佔比漸升，FY2Q24 首度突破 76%

2

NVIDIA 積極建構自有 AI 與 HPC 伺服器整體解決方案

3

NVIDIA 將從 GPU AI 加速晶片，積極往外拓展更多元完整的 AI 解決方案

4

NVIDIA 將從軟體+硬體發展整合型伺服器方案與跨入雲端服務模式