介绍
摘要
空间注意力已被广泛用于提升卷积神经网络的性能。然而，它存在一定的局限性。在本文中，我们提出了一个关于空间注意力有效性的新视角，即空间注意力机制本质上是解决卷积核参数共享的问题。然而，由空间注意力生成的注意力图中包含的信息对于大尺寸卷积核来说并不充分。因此，我们提出了一种名为感受野注意力（Receptive-Field Attention，简称RFA）的新型注意力机制。现有的空间注意力，如卷积块注意力模块（Convolutional Block Attention Module，简称CBAM）和协调注意力（Coordinated Attention，简称CA）只关注空间特征，这并没有完全解决卷积核参数共享问题。相比之下，RFA不仅关注感受野空间特征，而且为大尺寸卷积核提供有效的注意力权重。RFA开发的感受野注意力卷积操作（Receptive-Field Attention convolutional operation，简称RFAConv）代表了一种替代标准卷积操作的新方法。它几乎不增加计算成本和参数，同时显著提升了网络性能。我们在ImageNet-1k、COCO和VOC数据集上进行了一系列实验，以证明我们方法的优越性。特别重要的是，我们认为现在是时候从空间特征转向感受野空间特征，以改进当前的空间注意力机制。通过这种方式，我们可以进一步提高网络性能，取得更好的结果。
