
AI大模型具有训练和推理两个阶段。在训练阶段,模型参数和训练数据是大模型的训练准备,AI大模型的性能一般会随着模型参数和训练数据量的增加而增加,模型参数达到一定数量会使AI大模型性能取得突破性进步,高质量、干净的数据集对AI大模型性能提升作用显著;预训练和微调是AI大模型的主要训练方式,充分且高难度的预训练能显著提高AI大模型性能,Prompt、Fine-tune是目前主要的微调工具。在推理阶段,AI大模型会使用前向传播算法、反向传播算法、梯度下降算法等算法生成输出结果,并在过程中提高模型性能。AI大模型的训练和推理阶段均具有大量算力需求,随着大模型参数量的上升,市场算力需求快速提高。
算力需求提高将为AI服务器带来市场空间。根据IDC预测,2024年,中国人工智能服务器市场规模将达到66.2亿美元。市场对算力的需求促使企业购买服务器,直接拉动AI服务器市场规模大幅增长。