您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。服务器规模及加速器服务器渗透率(左侧百万部;右侧%)

服务器规模及加速器服务器渗透率(左侧百万部;右侧%)

分享
+
下载
+
数据
服务器规模及加速器服务器渗透率(左侧百万部;右侧%)
数据
© 2026 万闻数据
数据来源:兴业证券经济与金融研究院整理,Yole(含预测)
最近更新: 2023-12-27
补充说明:1、E表示预测数据;2、*表示估计数据;

数据描述

AI计算分为训练和推理,AI推理算力需求小于AI训练。AI训练包括前向和后向计算,需要通过不断反复试错、调整参数权重以提高预测准确度,模型参数规模的膨胀趋势也推升了单次训练的算力需求;而AI推理仅进行前向计算,输入数据经过固定的模型参数计算并输出预测结果,对算力的需求相对较低。训练方面,业内目前主要使用英伟达GPU及其CUDA并行计算架构;推理方面,可以使用CPU、GPU、FPGA和NPU等处理单元实现推理任务,架构则因硬件设备而异。

综上,AI推理算力需求小于AI训练,模型可通过ONNX等中间结构转换并部署,各类硬件均有发展空间,我们认为英伟达的竞争优势和壁垒主要在AI训练市场。

(2016)、Volta(2017)、Turning(2018)、Ampere(2020)、Ada Lovelace(2022)、Hopper(2022)等专用于并行计算任务的GPU硬件架构,与CPU的顺序计算相比,GPU的并行计算能力更适合同时处理大量计算任务,不仅适合游戏中的图形渲染,也适用于数据中心的深度学习、AI训练。