
我们认为,随着PyTorch 2.0的升级,其在分布式训练和量化推理效率上的显著进步,预计将吸引更多企业采用此框架部署大模型,推动市场份额的进一步抬升。目前Microsoft运用PyTorch进行语言建模;丰田利用PyTorch处理自动汽车驾驶的视频;Airbnb在对话助手中采用PyTorch部署神经网络翻译技术,增强了客户服务体验;而Genentech则应用PyTorch在癌症治疗和药物发现领域。这些案例共同证明了PyTorch在推动工业界创新和解决实际问题中的关键作用。
Llama注重算法优化,为商家提供性价比较高的服务,以相对少量的参数,获得接近超大模型的效果,目前第三代性能已媲美ChatGPT-4和Gemini Pro。虽推出时间较晚,开源战略加速模型迭代,并抢占市场。开源以来,通过Hugging Face的Llama模型下载量超过3000万次,社区已在Hugging Face上微调并发布了7000多个衍生品,Google Cloud和AWS总共有超过3,500个企业项目基于Llama模型启动。此外各大硬件平台(英伟达、英特尔、高通、AMD)和行业巨头(DoorDash、Dropbox、IBM、Shopify、Zoom)也快速适配和采用Llama模型。