从服务器内部来看,近几年,AI训练集正以每年10倍左右的速度增长,即使是在边缘设备中,对芯片算力的要求也在飞增,而目前芯片算力虽然变高了,内存性能却逐渐拖了后腿,造成两者间的不匹配,在现有高算力的基础之上,很多的GPU资源其实并没有得到充分的占用和利用,更高带宽和更低延迟的内存就成为关键。由此,接口行业新技术方案蓬勃发展,其中重点包括HBM,GDDR,DDR5及MCR内存等,此外,如PCIe等非内存技术等蓬勃发展也造就了CXL等内存方案的兴起与发展。下述为与澜起科技相关的技术方案。