网站关键词优化教程,凡客建站登录入口,成都网站改版,天宁寺网站建设【深度学习#xff1a;SENet】信道注意力和挤压激励网络#xff08;SENet#xff09;#xff1a;图像识别的新突破 为什么有效如何实现工作原理应用案例 挤压和激励网络#xff08;SENets#xff09;为卷积神经网络#xff08;CNN#xff09;引入了一个新的构建模块SENet】信道注意力和挤压激励网络SENet图像识别的新突破 为什么有效如何实现工作原理应用案例 挤压和激励网络SENets为卷积神经网络CNN引入了一个新的构建模块该模块能在几乎不增加计算成本的情况下显著改善通道间的相互依赖性。它们在今年的ImageNet比赛中大放异彩并帮助将去年的成绩提升了25%。除了巨大的性能提升SENets还可以轻松集成到现有的架构中。其主要思想是 为卷积块的每个通道添加参数让网络能够自适应地调整每个特征图的权重。 这听起来很简单实际上也确实如此。下面让我们详细了解为什么它如此有效以及如何用几行简单的代码改进任何模型。
为什么有效
CNN通过其卷积滤波器从图像中提取分层信息。较低层次的网络可以检测简单的上下文特征如边缘或纹理而较高层次则能识别人脸、文字或其他复杂的几何形状。它们提取的信息对解决特定任务至关重要。
这些成果是通过融合图像的空间和通道信息实现的。不同的过滤器会首先在每个输入通道中寻找空间特征然后在所有输出通道中整合这些信息。我在另一篇文章中对此进行了更详细的介绍。
您需要了解的是在创建输出特征图时网络对其每个通道的权重是相等的。SENets的目标是改变这一点通过引入一种内容感知机制自适应地加权每个通道。最基本的形式是为每个通道添加一个参数并赋予它一个线性标量值。
然而作者更进一步。他们首先通过全局平均池化将每个特征图压缩成一个单一数值全面了解每个通道的信息。这样就产生了一个长度为卷积通道数量的向量。然后该向量被输入到一个由两层神经网络组成的结构中输出一个相同长度的向量。这些新的值现在可以作为原始特征图的权重根据它们的重要性调整每个通道。
如何实现
您可能认为这听起来并不像我最初承诺的那样简单。但事实上实现SE块的过程是直接且简洁的。下面是一个示例代码
def se_block(in_block, ch, ratio16):x GlobalAveragePooling2D()(in_block)x Dense(ch//ratio, activationrelu)(x)x Dense(ch, activationsigmoid)(x)return multiply()([in_block, x])此函数接收一个输入卷积块及其通道数。我们使用全局平均池化将每个通道压缩成单个数值。通过一个全连接层加上ReLU激活函数引入非线性并降低输出通道的复杂度。紧接着是第二个全连接层使用Sigmoid激活函数为每个通道提供平滑的门控功能。最后我们根据侧边网络的输出对卷积块的每个特征图进行加权。
这五个步骤几乎不会增加额外的计算成本少于1%且可以轻松添加到任何模型中。
Vanilla ResNet模块与集成了SE块的ResNet模块对比图 Vanilla ResNet 模块与建议的 SE-ResNet 模块 作者指出通过向ResNet-50添加SE块可以达到与ResNet-101几乎相同的精度。这对于计算成本仅为一半的模型来说是令人印象深刻的。本文还探讨了其他架构如Inception、Inception-ResNet和ResNeXt这些架构通过集成SE块在ImageNet上展现了更低的错误率。 SENets 如何改进现有架构 SENets令人惊讶的是其简单性和有效性。能够几乎免费地将这种方法应用于任何模型应该会激励您重新审视并训练您之前构建的所有模型。
工作原理
SENet主要通过以下三个步骤实现其目标 挤压Squeeze 通过全局平均池化层将空间维度的信息压缩为一个通道描述符这有助于凸显每个通道的全局重要性。 激励Excitation 使用全连接层学习通道间的依赖关系并应用sigmoid激活函数以获取每个通道的重要性权重。 重标定Re-calibration 将计算得出的权重与原始特征图相乘实现对特征图的动态调整。
应用案例
SENet已在图像识别、目标检测和图像分割等多种任务中得到广泛应用并显著提高了性能。例如在图像识别任务中通过集成SE模块模型能更准确地识别图像中的关键对象。
