2019-2026年中国智能算力规模

模型 GPT-3 T-5 MT-NLG PaLM PaLM-2 Switch- Transformer ChinChilla LlaMA 源1.0

参数量 1750亿 110亿 5300亿 5400亿 3400亿 1.6万亿 700亿 650亿 2450亿

算力当量 3640PD 26PD 9900PD 29000PD 85000PD 46PD 6795PD 6330PD 4095PD

数据来源：IDC《2023-2024年中国人工智能计算力发展评估报告》，广发证券发展研究中心

备注：PD是Pflops-Day的简称，例如GPT-3算力消耗为3640PD，即表示每秒运算一千万亿次，运行3640天

智能化应用驱动AI服务器快速增长。根据IDC统计数据，2022年，国内AI服务器市场规模为67亿美元，占国内整体服务器市场（市场规模273亿美元）的比例为24.5%，

相较于2021年有所提升。以ChatGPT为代表的AI大模型技术取得突破，生成式AI的开发量和应用量快速增长驱动AI算力需求进一步增长。根据IDC的预测，2023年中国AI服务器市场规模将同比增长82.5%，预计到2026年中国智能算力规模将达到1271.4EFLOPS，未来�年年复合增长率达52.3%，同期通用算力规模的复合增长率为18.5%。参考华为昇腾910在FP16精度下拥有的320TFLOPS的算力，2026年，中国智能算力规模1271.4EFLOPS约等价于400万颗AI芯片，或50万台AI服务器（假设单台AI服务器搭载8张AI加速卡）的规模。

图12：2019-2026年中国智能算力规模

数据来源：IDC，广发证券发展研究中心

智能算力的需求已经由单台服务器向AI算力集群方向发展。传统的模型训练方式，

即采用少量的服务器进行模型训练较难满足大批量数据处理、特征提取、卷积计算等AI大模型的开发需求。而融合了大量的AI服务器、高速网络连接设备以及算力调度优化软件的AI计算集群已成为各科技厂商纷纷采用的针对AI大模型开发和应用的算力基础设施。根据英伟达官网，以英伟达的SuperPod集群为例，一个拥有16个SU

（ScalableUnit）的集群中，包含了512台服务器、128台叶交换机、128台脊交换机和64台核心交换机，由此可以看到交换机也是智能算力集群的重要组成部分。在不同AI算力集群中，该比例根据单位服务器的计算性能和交换机的传输性能不同会有一定变化。