
年全球边缘AI芯片市场规模达到688亿美元,2022-2026年CAGR将达到16.9%。2022年我国边缘计算市场规模已达到622.41亿元,据观研天下预测,随着物联网应用的逐渐深入,以边缘计算为核心技术构建的运算平台将越来越普遍,边缘计算渗透率将进一步提升,预计在未来三年将稳定保持45%以上的增速,在2025年可达1987.68亿元,市场前景广阔。此外,边缘硬件市场规模占比为66.18%,边缘软件市场规模占比为33.82%。
生成式AI落地终端,AI重心向边缘转移。在生成式AI出现之前,AI处理便持续向边缘转移,越来越多的AI推理工作负载在手机、笔记本电脑、XR头显、汽车和其他边缘终端上运行。随着生成式AI的出现并不断落地终端侧,具备AI功能的手机、PC和其他品类的便携终端数量已达到数十亿台,其中高性能手机占据了70%的消费应用边缘AI芯片市场。当AI便携终端数量不断提升、模型参数不断扩张时,云端算力想要继续增长的代价极大,数量可观的生成式AI模型可从云端分流到终端上运行。目前,性能十分强大的生成式AI模型正在变小,同时终端侧处理能力正在持续提升。可以在终端侧运行的丰富的生成式AI功能的模型参数在10亿至100亿之间。如Stable Diffusion等参数超过10亿的模型已经能够在手机上运行,且性能和精确度达到与云端处理类似的水平。