79、avx2 向量指令集优化卷积运算

发布时间：2024年01月21日

上一节 介绍了 avx2 向量指令集中的 load/store 操作，本节介绍如何使用 avx2 的向量指令集来实现乘累加运算。

因为我们实战中用到的 resnet50 神经网络中，卷积运算在整个模型中的比例占据是相当高，而卷积运算的核心计算就是乘累加计算。因此，只要将最核心的乘累加计算效率提高，那么整个模型的性能就会有大幅度的提高。

这一节在介绍向量寄存器的时候，举了一个例子来说明向量加法的计算，向量乘法和向量加法一样，下面我们就用实际的代码来展示，如何完成向量乘法的计算。

avx2 完成向量乘法

完成向量乘法的运算过程也很简单：

首先利用load指令将数据从内存中 load 到向量寄存器中；

然后调用 __mm256_mul_ps 指令，完成两个向量的乘法，返回结果，最后对结果进行累加操作。

由于在卷积运算中，需要累加的都是 channel 维度，除了一层卷积channle维度是 3 之外，其余层的卷积

文章来源:https://blog.csdn.net/dongtuoc/article/details/135736420
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
最新文章