中国总算力规模及增速

AI大模型热潮兴起，全球对于通用算力、AI算力需求不断加大。华为《智能世界2030》报告预测，到2030年，全球通用计算算力（FP32）总量增长10倍，将达3.3ZFLOPS, AI计算（FP16）总量增长500倍，将达到105ZFLOPS。ChatGPT正式发布之后，国内大厂纷纷跟进训练自己的通用大模型，以同花顺、恒生电子、用友网络等为代表的垂直行业龙头也陆续基于开源大模型打造自己行业的垂类大模型，前期智算需求主要来源于大模型训练、微调和精调。根据谷歌发布的论文结果，175B的GPT3模型大约需要10000块V100训练14.8天；

而根据英伟达的报告，175B的GPT3模型大约需要1024块A100训练34天，而一万亿参数的模型则需要3073块A100训练84天。随着国内大模型备案成功，ToC产品升级、ToB场景落地实施都带来较大的AI推理需求，根据我们中期策略报告的测算，单个国内大模型初步开放使用时，日均算力需求或达到1580PFlop/s-day；大模型完全成熟后，日均算力需求或达到8700PFlop/s-day。随着预训练大模型的不断进步，人们不再满足于大语言模型的简单的文本理解和生成，而是将主要研究方向转向多模态大模型，即能够从文字、图像、视频、音频等多种模态同时理解输入信息并产生多种输出，进而执行跨模态多任务的大模型；多模态大模型能够广泛运用于情景理解、图像生成、机器视觉等人工智能前沿领域，也成为各家大模型技术竞争的焦点。多模态大模型的参数量更大，预期会带来更大的推理算力需求。