酷搜科技 科技品牌 PyTorch+N腾 共促AI生态创新发展

PyTorch+N腾 共促AI生态创新发展

  2023年10月5日(北京时间),PyTorch社区正式发布2.1版本,经过PyTorch社区与N腾的持续合作和共同努力,Pytorch 2.1版本已同步支持N腾NPU,意味着开发者可直接在PyTorch 2.1上基于N腾进行模型开发。未来,通过持续的社区技术贡献,N腾将与PyTorch社区版本同步演进及发布,共促AI技术创新和开源生态发展。

  

图注:PyTorch 社区2.1版本的官方发布声明中宣布N腾NPU已成功对接

  PyTorch在新版本中发布了更加完善的第三方设备接入机制,该特性由N腾主导,与PyTorch社区的核心维护者共同完成。基于该特性,三方AI算力设备无需对原有框架代码进行修改就能对接PyTorch框架,N腾也提供了官方认证的Torch NPU参考实现,可以指导三方设备便捷接入。

  在早前版本中,由于缺少对于N腾算力设备的原生支持,开发者如果想在主流框架下调用N腾NPU实现加速,还需要花费数周时间进行模型迁移。而现在,基于新版本,用户可以在N腾NPU上直接享受原生PyTorch的开发体验,获得可以高效运行在N腾算力设备上的模型和应用。

  基于PyTorch,N腾已经适配了BLOOM、GPT-3、LLaMA等业界主流大模型,深度优化后性能可持平业界,在最新的PyTorch版本上,N腾将与社区紧密合作,同步演进,不断提升模型加速能力。

  未来,N腾将通过持续的技术贡献,积极推动PyTorch社区多样性算力改进,优化PyTorch框架,帮助释放N腾算力,与PyTorch社区贡献者一起,共促AI技术创新和开源生态的快速发展。

免责声明:本文上述内容出于传递更多信息之目的,并不意味着赞同其观点或证实其描述,也不构成任何其他建议。其文中陈述文字和内容来源于第三方或网络,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。如有稿件内容、版权等问题请及时联系我们进行处理。http://www.kusoukeji.com/20296.html
上一篇
下一篇

发表评论

联系我们

联系我们

微信:nvshen2168

在线咨询: QQ交谈

邮箱: 8253665@qq.com

工作时间:周一至周五,9:00-17:30,节假日休息

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

返回顶部