本文不是GEMM优化教程!!!
只适合已经学过GEMM理论,但是在实践过程中对thredidx,blockidx与矩阵中数据的对应关系还有困惑的同学。
可以先看完其他教程再来本文巩固一下。
本文以CUDA矩阵乘法的优化中的gemm_128x128为示例画出线程与数据中的对应关系,先看完链接中的内容再来看这个比较好。
这里压缩画质了,可以访问link下载
此示例中m,n,k必须是32的倍数,无法计算通用的矩阵,后续会添加,敬请期待。
这是作者第一次写文章,明明脑子里面想的很好,但就是表达不出来,写下来的要么唠唠叨叨一大堆,要么十分简洁,只有自己才能看懂。从小到大最害怕的就是写文章了┭┮﹏┭┮。
作者水平疏浅,还请见谅。如果您在阅读的过程中发现错误或者觉得哪里还需要完善,欢迎联系作者。