大连住房城乡建设网站,上海企业网络推广公司,微盟小程序是什么,公司简介视频制作【MNIST数据集包含若干尺寸为28*28的8位灰度图像#xff0c;总共有0~9共10个类别。以MNIST的分类为例#xff0c;一个简单的单层ANN网络如下
我们也可以用完全类似结构的SNN来进行分类任务。就这个网络而言#xff0c;只需要先去掉所有的激活函数#xff0c;再将尖峰神经元…【MNIST数据集包含若干尺寸为28*28的8位灰度图像总共有0~9共10个类别。以MNIST的分类为例一个简单的单层ANN网络如下
我们也可以用完全类似结构的SNN来进行分类任务。就这个网络而言只需要先去掉所有的激活函数再将尖峰神经元添加到原来激活函数的位置这里我们选择的是LIF神经元。神经元之间的连接层需要用 spikingjelly.activation_based.layer包装
在 spikingjelly 中我们约定只能输出脉冲即0或1的神经元都可以称之为“脉冲神经元”。使用脉冲神经元的网络进而也可以称之为脉冲神经元网络(Spiking Neural Networks, SNNs)。这里使用了 neuron.IFNode() 来构建 IF 神经元层该神经元层有如下构造函数v_threshold – 神经元的阈值电压v_reset – 神经元的重置电压。surrogate_function – 反向传播时用来计算脉冲函数梯度的替代函数 神经元的数量是在初始化或调用 reset() 函数重新初始化后根据第一次接收的输入的 shape 自动决定的。此处则是10个神经元。其中膜电位衰减常数 需要通过参数tau设置替代函数这里选择surrogate.ATan。 然后是训练SNN网络指定好训练参数如学习率等以及若干其他配置优化器默认使用Adam以及使用泊松编码器在每次输入图片时进行脉冲编码。
】
【训练代码的编写需要遵循以下三个要点 脉冲神经元的输出是二值的而直接将单次运行的结果用于分类极易受到编码带来的噪声干扰。因此一般认为脉冲网络的输出是输出层一段时间内的发放频率或称发放率发放率的高低表示该类别的响应大小。因此网络需要运行一段时间即使用T个时刻后的平均发放率作为分类依据。 我们希望的理想结果是除了正确的神经元以最高频率发放其他神经元保持静默。常常采用交叉熵损失或者MSE损失这里我们使用实际效果更好的MSE损失。 每次网络仿真结束后需要重置网络状态 】 # 保存绘图用数据net.eval()# 注册钩子output_layer net.layer[-1] # 输出层output_layer.v_seq []output_layer.s_seq []def save_hook(m, x, y):m.v_seq.append(m.v.unsqueeze(0))m.s_seq.append(y.unsqueeze(0))output_layer.register_forward_hook(save_hook)with torch.no_grad():img, label test_dataset[0]img img.to(args.device)out_fr 0.for t in range(args.T):encoded_img encoder(img)out_fr net(encoded_img)out_spikes_counter_frequency (out_fr / args.T).cpu().numpy()print(fFiring rate: {out_spikes_counter_frequency})output_layer.v_seq torch.cat(output_layer.v_seq)output_layer.s_seq torch.cat(output_layer.s_seq)v_t_array output_layer.v_seq.cpu().numpy().squeeze() # v_t_array[i][j]表示神经元i在j时刻的电压值np.save(v_t_array.npy,v_t_array)s_t_array output_layer.s_seq.cpu().numpy().squeeze() # s_t_array[i][j]表示神经元i在j时刻释放的脉冲为0或1np.save(s_t_array.npy,s_t_array) 【在PyTorch中钩子hooks是一种强大的工具允许你在模型的前向传播forward pass或反向传播backward pass过程中插入自定义操作。这些操作可以用于调试、可视化、保存中间状态等目的而不需要修改模型的定义。 钩子的类型 前向钩子Forward Hooks在层的前向传播执行完毕后立即执行。它们通常用于检查、修改或记录从层输出的数据。 反向钩子Backward Hooks在层的梯度计算过程中执行。它们用于检查或修改梯度值。 这段代码中的钩子使用 在提供的代码段中使用了一个前向钩子save_hook来保存神经网络某层在前向传播过程中的电压值v和脉冲值s。 这个钩子函数save_hook接收三个参数 m注册钩子的模块在这个例子中是输出层。 x输入到该模块的数据。 y从该模块输出的数据。 在钩子函数内部它将模块m的电压值v和输出脉冲y保存到列表中。这里使用unsqueeze(0)是为了增加一个批次维度使得每次迭代的数据可以被堆叠起来。 钩子的注册 这行代码将save_hook函数注册为output_layer网络的最后一层的前向钩子。这意味着每当output_layer完成前向传播时save_hook函数都会被调用。 数据的保存 在所有测试图像通过网络并且钩子函数被调用之后v_seq和s_seq列表中的数据被合并使用torch.cat并转换为NumPy数组然后通过np.save保存到文件中。这些文件包含了在整个测试集上输出层神经元的电压值和脉冲发放情况可以用于进一步的分析和可视化。】 这段代码通过注册一个前向钩子来捕获并保存神经网络最后一层在前向传播过程中的电压和脉冲数据。这种方法非常有用因为它允许在不修改网络结构的情况下收集内部状态信息对于理解和分析网络的行为非常有帮助。
