新闻资讯
分类
AI推理框架软件ONNX Runtime正式支持龙架构
发布日期:2024-03-13 15:10:59
据龙芯中科官微消息,近日,知名AI推理框架开源社区ONNX Runtime正式发布支持龙架构的版本1.17.0。今后,用户可以直接使用ONNX Runtime开源社区发布的版本在龙芯平成AI推理类应用的开发和部署,标志着龙架构软件生态得到进一步完善。
据悉,ONNX Runtime(ORT)是近年来兴起的AI推理框架软件,被大量AI应用作为基础AI推理引擎。可支持PyTorch、Tensorflow、TFLite等多种格式的模型输入,以及CPU、GPU、IoT、NPU、FPGA等多样化算力后端。龙芯中科技术团队与社区保持紧密合作,期间向ONNX Runtime社区代码仓库提交了7697行代码,对矩阵乘法、卷积、转置等核心算子进行深度向量优化。
本站部分文章为转载或网友发布,目的在于传递和分享信息,并不代表本网赞同其观点和对其真实性负责;文章版权归原作者及原出处所有,如涉及作品内容、版权和其它问题,我们将根据著作权人的要求,第一时间更正或删除。
Cadence 扩充 Tensilica Vision 产品线,新增毫米波雷达加速器及针对汽车应用优化的新款 DSP
龙芯 LoongArch 在 Linux 6.8 内核中首次支持 Rust
英特尔任命Justin Hotard为执行副总裁, 兼任数据中心与AI事业部总经理CQ9电子 CQ9电子游戏CQ9电子 CQ9电子游戏





