宝塔织梦网站建设,dedecms网站地图模板怎么,池州专业网站建设怎么样,摄影设计网站文章目录 NiN块 NiN块
NiN的想法是在每个像素位置#xff08;针对每个高度和宽度#xff09;应用一个全连接层。果我们将权重连接到每个空间位置#xff0c;我们可以将其视为1x1卷积层#xff0c;或作为在每个像素位置上独立作用的全连接层。 从另一个角度看#xff0c;即… 文章目录 NiN块 NiN块
NiN的想法是在每个像素位置针对每个高度和宽度应用一个全连接层。果我们将权重连接到每个空间位置我们可以将其视为1x1卷积层或作为在每个像素位置上独立作用的全连接层。 从另一个角度看即将空间维度中的每个像素视为单个样本将通道维度视为不同特征。 其卷积核的大小为1×1。这种卷积层的主要作用是改变输入特征图的通道数同时保留空间信息不变。1×1卷积层在网络中通常用于增加或减少通道数、调整网络的深度、以及进行特征融合或分离。
def nin_block(in_channels, out_channels, kernel_size, strides, padding):return nn.Sequential(nn.Conv2d(in_channels, out_channels, kernel_size, strides, padding),nn.ReLU(),nn.Conv2d(out_channels, out_channels, kernel_size1), nn.ReLU(),nn.Conv2d(out_channels, out_channels, kernel_size1), nn.ReLU())net nn.Sequential(nin_block(1, 96, kernel_size11, strides4, padding0),nn.MaxPool2d(3, stride2),nin_block(96, 256, kernel_size5, strides1, padding2),nn.MaxPool2d(3, stride2),nin_block(256, 384, kernel_size3, strides1, padding1),nn.MaxPool2d(3, stride2),nn.Dropout(0.5),# 标签类别数是10nin_block(384, 10, kernel_size3, strides1, padding1),nn.AdaptiveAvgPool2d((1, 1)),# 将四维的输出转成二维的输出其形状为(批量大小,10)nn.Flatten())
