注意力机制(数学公式)

发布时间:2023年12月25日

人类视觉注意力机制极大地提高了视觉信息处理的效率与准确性

计算机注意力机制是为了让卷积神经网络注意到他更加需要注意的地方 ,而不是什么都关注 。

分为三种注意力机制,空间注意力机制,通道注意力机制,以及两者的结合。 ?????????????????????????????????????????????????

Attention(Q,K,V) = softmax( \frac{QKT}{\sqrt{dk}} )V

Q:query(查询)

K:key(键)

V:value(值)??????????????????????????????????????????????

文章来源:https://blog.csdn.net/New___dream/article/details/135208862
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。