
算力需求支撑我国数据中心机架规模持续增长。服务器设备是提供算力资源的主要载体,IDC(数据中心)则是给集中放置的ICT设备(服务器设备、网络设备、存储设备)提供运行环境的场所(数据中心=IT+电力+制冷)。AIGC的兴起引发数据量和计算量快速增长,在一线城市数据中心资源日趋紧张的情况下,AI的高算力需求或将持续带动IDC的建设和机架数量的增长。据工信部、信通院数据,截至2023年6月底,我国在用数据中心机架规模达到760万架,同比增速达到28.8%,2022年底总机架规模达到650万架,2018-2022年复合增速超过30%。
计算芯片功耗持续攀升,以满足高算力需求。后摩尔定律时代下,芯片制程技术发展趋缓,计算芯片多以提高核心数量等方式提高算力,导致计算芯片如CPU和GPU的功耗不断攀升。AI服务器作为人工智能发展的重要算力底座,CPU和GPU(或其他ASIC计算芯片)的整体功耗在AI服务器总功耗中占比达到80%左右(。1)在CPU方面,从2017年Intel第一代铂金至强处理器的发布到2023年12月第五代处理器问世,核心数量从早期的24颗提升至最多64颗,同时TDP(热设计功耗)从150W提升至最高385W,功耗相比第一代提升超2倍;(2)在GPU方面,用于人工智能计算的GPU TDP从早期V100Nvlink的300W提升至H100 SXM的700W,未来功耗或将持续增长。