2024-2028年中国加速计算服务器市场规模

大模型加速落地致使推理算力需求大幅增长。豆包大模型的应用场景不断拓展，在信息处理、客服与销售、硬件终端等场景的调用量快速提升。12月日均tokens使用量超过4万亿，较5月发布时期增长超过33倍，这使得对推理算力的需求不断攀升，主要集中在硬件设备算力需求、数据中心规模扩张需求、通信网络需求三方面。

IDC数据显示，2024上半年中国加速服务器市场规模达到50亿美元，同比2023上半年增长63%。其中GPU服务器依然占主导地位，达到43亿美元。同时NPU、ASIC和FPGA等非GPU加速服务器以同比182%的增速达到近7亿美元市场规模。

从国际环境来看，由于美国对相关技术及产品的管控，一方面限制了中国AI产业的发展；另一方面也激发了中国厂商自研AI芯片的积极性。但同时，国产自研芯片的后期维护与生态支持仍存在提升空间。从市场与产业链角度看，在深入开发行业大模型的当下，市场对于高算力且稳定的AI服务器的需求不断增大；5G通信技术落地之后，市场对于全面高效协同的AI算力系统网络要求加深。这两点趋势在更高算力与更快带宽之外，都对国产AI服务器自身更短的平均故障时间、基础算力配套设施的更全面和运维团队的更专业、覆盖面更广提出了更高要求。IDC预测，到2028年中国加速服务器市场规模将达到253亿美元。其中非GPU服务器市场规模将接近50%。