一种结合了空间(spatial)和通道(channel)的注意力机制模块。
将特征图先后经过通道注意块和空间注意块,得到一个新的特征图。
特征图经过通道注意块会得到一个值,将这个值与原来的特征图的值相乘得到第二个值,将第二个值进入空间通道,会在次得到一个值,将这个值与第二个值相乘,得到第三个值,最后输出第三个值。
将特征图并行通过最大池化和平均池化得到的特征,在经过一个共享MLP,从而得到两个权重,将这两个权重相加在经过sigmoid激活函数,最后得到一个通道权重。
将通道注意块中得到权重乘以输入特征F得到新的特征F‘作为空间注意块的输入。在空间维度上,重复通道注意块中的池化,然后将两种不同池化得到的特征进行拼接,通过一个卷积层,学习空间的相关性,最后通过sigmoid激活函数,得到空间注意力。