
亿美元,销量有望超过以太网交换机。而根据Khaveen推算,博通在以太网交换机芯片市场的份额从2015年的90%下滑至70%;英伟达在2020年并购Mellanox,后者推出了InfiniBand架构,目前占有20%以上市场份额,并在英伟达产品架构加大应用。应对英伟达的竞争,博通于2022年8月推出业内首个51.2T高容量交换机芯片Tomahawk5来巩固,预计两家龙头在交换机市场将持续争夺份额。
资料来源:LightCounting(含预测),兴业证券经济与金融研究院整理
资料来源:Khaveen,兴业证券经济与金融研究院整理备注:2022年数据为预测数据
2.5、AI训练&推理的GPU需求量测算
针对未来的训练与推理端场景,我们对核心算力与关键部件进行需求测算。首先假设全球ChatGPT等大语言模型用户数所需GPUA100的数量,之后根据训练与
推理算力比例分配推算出所需GPUA100总数量。根据假设及测算结果,我们估计对话类AI的GPU算力需求从23年到27年将提升6.7倍。
前提假设:(1)假定AI大语言模型从2023年到2027年在全球互联网用户中的渗透率分别为5%、10%、20%、30%、35%;假设平均每个用户提问10次,每次大语言模型回答需生成30个词;(2)假设训练与推理在算力上具有比例关系,
并且随着模型训练所需算力逐渐下降,从2023年到2027年训练与推理的所需算力比例分别为1/7、1/8、1/9、1/10、1/11;
2023E 2024E 2025E 2026E 2027E
全球大语言模型日活人数(亿) 2.58 5.36 11.13 17.31 20.93
平均每个用户每个问题生成词数(个) 30 30 30 30 30
平均每天需生成词数(亿) 774 1608 3339 5194 6278
A100每生成一个词用时(毫秒) 350 350 350 350 350
推理A100GPU需求量(块) 313,542 651,540 1,352,596 2,103,963 2,542,990
训练:推理的需求量比例 1/7 1/8 1/9 1/10 1/11
训练A100GPU需求量(块) 44,792 81,442 150,288 210,396 231,181
训练+推理A100GPU需求量汇总(块) 358,333 732,982 1,502,885 2,314,360 2,774,171