
传统市场需求方面,根据LightConting数据,2023年整体市场有一定承压,有望于2024年修复,整体增长相对平缓。
图86:以太网光模块市场规模预测(百万美元)图87:以太网光模块市场规模(百万美元,按数据中心应用划分)
16000 14000 12000 10000 8000 6000 4000 2000 0
3.2T
1.6T
800G
400G
200G
100G
50G
40G
2018201920202021202220232024E2025E2026E2027E2028E 16000 14000 12000 10000 8000 6000 4000 2000 0
资料来源:Coherent,LightCounting,国信证券经济研究所整理资料来源:Coherent,LightCounting,国信证券经济研究所整理
网络带宽直接影响训练集群计算效率。大模型训练产生庞大的集群内通信流量,GPT3.5的训练仅是单次计算迭代内梯度同步需要的
通信量就达到了百GB量级,此外还有各种并行模式、加速框架引入的通信需求。而一个高效的模型在硬件依赖三个环节性能的改进—
—存储、计算和网络通信能力,在存储和算力一定的情况下,AI模型训练的效率将取决于通信时长。而存储和算力分别可通过HBM应用、GPU算力提升等方式解决,通信时长则由数据量和通信带宽决定,因此提高通信带宽有助于提升训练集群的计算效率。