ChatGPT引爆聊天機器人熱!研調:AI伺服器出貨至2026年複合成長超過10%


ChatGPT引起全世界關注,國際科技大廠紛紛投入ChatBot相關應用,炒熱聊天機器人熱潮!TrendForce觀察,從2018年新興應用題材帶動,包括自駕車、AIoT與邊緣運算,大型雲端業者大量投入AI設備建置,截至2022年,預估搭載GPGPU(General Purpose GPU)的AI 伺服器年出貨量占整體伺服器比重近1%,而2023年ChatBot加持,可望再度刺激AI領域活絡,預估出貨量年成長可達8%;2022~2026年複合成長率將達10.8%。

ChatGPT引發全世界關注。Photo By Getty Images.

據統計,2022年AI伺服器採購占比以北美四大雲端業者Google、AWS、Meta、Microsoft合計占66.2%為最,而中國近年來隨著國產化力道加劇下,AI建置浪潮隨之增溫,以ByteDance的採購力道最為顯著,年採購占比達6.2%,其次緊接在後的則是Tencent、Alibaba與Baidu,分別約為2.3%、1.5%與1.5%。

在看好AI發展前景下,Microsoft更是大舉投資OpenAI,除了於今年2月推出自家搜尋引擎Bing強化版,其中融合ChatGPT技術與OpenAI合作開發大型語言模型「Prometheus」;Baidu亦於2023年2月宣布將推出相關服務「文心一言(ERNIE Bot)」,初期將以獨立軟體呈現,後續也將導入搜尋引擎。

AI伺服器2022~2026年出貨量複合成長率超過一成。

以以運算規格來看,ChatGPT主要以NVIDIA A100為主,獨家使用Microsoft Azure雲服務資源。若合併其他Microsoft應用而計,全年Microsoft AI伺服器年需求為25000台。Baidu文心一言採用NVIDIA A800(繼A100被美國商務部限制後的替代品),合併其他應用,Baidu AI伺服器年需求約為2000台。

TrendForce分析,以AI運算所需要的server GPU而言,其市場以NVIDIA H100、A100、A800(滿足中國需求)以及AMD MI250、MI250X系列為主,而NVIDIA與AMD的Server GPU占比約8:2。

若聚焦於這些GPU規格,其中因應高頻寬運算而使用的HBM(High Bandwidth Memory)更受到市場矚目。以位元計算,HBM占整個DRAM市場比重約1.5%,供應商以三星(Samsung)、SK海力士(SK hynix)與美光(Micron)為主。但以NVIDIA使用的HBM3,SK海力士是目前唯一量產的廠商,因此在該規格主導市場,由於生產技術門檻高,對原廠而言屬於高毛利產品。

2020-2021年疫情期間由於擔心供應鏈缺料,超額備料下使得HBM年需求成長率特別亮眼,而自2023年起需求成長率在物料調節下有所收斂。

TrendForce預估,2023~2025年HBM市場年複合成長率有望成長至40~45%以上。整體而言,伴隨全球雲端業者逐年增加AI伺服器的投入,儘管大環境受高通膨、經濟增長放緩衝擊,企業、組織對於IT支出轉趨保守,但在ChatBot與搜尋引擎應用的帶動下,AI相關轉型布局仍被視為雲端業者投入資本支出的優先項目。(審核:呂俊儀)