网站数据库如何导入,photoshop在线制作,蚌埠市建设银行官方网站,wordpress排版教程文章目录 一、实验介绍二、实验环境1. 配置虚拟环境2. 库版本介绍 三、实验内容0. 理论介绍a. 认知神经学中的注意力b. 注意力机制 1. 注意力权重矩阵可视化#xff08;矩阵热图#xff09;2. 掩码Softmax 操作3. 打分函数——加性注意力模型1. 初始化2. 前向传播3. 内部组件… 文章目录 一、实验介绍二、实验环境1. 配置虚拟环境2. 库版本介绍 三、实验内容0. 理论介绍a. 认知神经学中的注意力b. 注意力机制 1. 注意力权重矩阵可视化矩阵热图2. 掩码Softmax 操作3. 打分函数——加性注意力模型1. 初始化2. 前向传播3. 内部组件4. 实现细节5. 模拟实验6. 代码整合
一、实验介绍 注意力机制作为一种模拟人脑信息处理的关键工具在深度学习领域中得到了广泛应用。本系列实验旨在通过理论分析和代码演示深入了解注意力机制的原理、类型及其在模型中的实际应用。 本文将介绍打分函数——加性注意力模型 二、实验环境 本系列实验使用了PyTorch深度学习框架相关操作如下
1. 配置虚拟环境
conda create -n DL python3.7 conda activate DLpip install torch1.8.1cu102 torchvision0.9.1cu102 torchaudio0.8.1 -f https://download.pytorch.org/whl/torch_stable.htmlconda install matplotlibconda install scikit-learn2. 库版本介绍
软件包本实验版本目前最新版matplotlib3.5.33.8.0numpy1.21.61.26.0python3.7.16scikit-learn0.22.11.3.0torch1.8.1cu1022.0.1torchaudio0.8.12.0.2torchvision0.9.1cu1020.15.2
三、实验内容
0. 理论介绍
a. 认知神经学中的注意力 人脑每个时刻接收的外界输入信息非常多包括来源于视 觉、听觉、触觉的各种各样的信息。单就视觉来说眼睛每秒钟都会发送千万比特的信息给视觉神经系统。人脑通过注意力来解决信息超载问题注意力分为两种主要类型
聚焦式注意力Focus Attention 这是一种自上而下的有意识的注意力通常与任务相关。在这种情况下个体有目的地选择关注某些信息而忽略其他信息。在深度学习中注意力机制可以使模型有选择地聚焦于输入的特定部分以便更有效地进行任务例如机器翻译、文本摘要等。 基于显著性的注意力Saliency-Based Attention 这是一种自下而上的无意识的注意力通常由外界刺激驱动而不需要主动干预。在这种情况下注意力被自动吸引到与周围环境不同的刺激信息上。在深度学习中这种注意力机制可以用于识别图像中的显著物体或文本中的重要关键词。 在深度学习领域注意力机制已被广泛应用尤其是在自然语言处理任务中如机器翻译、文本摘要、问答系统等。通过引入注意力机制模型可以更灵活地处理不同位置的信息提高对长序列的处理能力并在处理输入时动态调整关注的重点。
b. 注意力机制 注意力机制Attention Mechanism 作为资源分配方案注意力机制允许有限的计算资源集中处理更重要的信息以应对信息超载的问题。在神经网络中它可以被看作一种机制通过选择性地聚焦于输入中的某些部分提高了神经网络的效率。 基于显著性的注意力机制的近似 在神经网络模型中最大汇聚Max Pooling和门控Gating机制可以被近似地看作是自下而上的基于显著性的注意力机制这些机制允许网络自动关注输入中与周围环境不同的信息。 聚焦式注意力的应用 自上而下的聚焦式注意力是一种有效的信息选择方式。在任务中只选择与任务相关的信息而忽略不相关的部分。例如在阅读理解任务中只有与问题相关的文章片段被选择用于后续的处理减轻了神经网络的计算负担。 注意力的计算过程注意力机制的计算分为两步。首先在所有输入信息上计算注意力分布然后根据这个分布计算输入信息的加权平均。这个计算依赖于一个查询向量Query Vector通过一个打分函数来计算每个输入向量和查询向量之间的相关性。 注意力分布Attention Distribution注意力分布表示在给定查询向量和输入信息的情况下选择每个输入向量的概率分布。Softmax 函数被用于将分数转化为概率分布其中每个分数由一个打分函数计算得到。 打分函数Scoring Function打分函数衡量查询向量与输入向量之间的相关性。文中介绍了几种常用的打分函数包括加性模型、点积模型、缩放点积模型和双线性模型。这些模型通过可学习的参数来调整注意力的计算。 加性模型 s ( x , q ) v T tanh ( W x U q ) \mathbf{s}(\mathbf{x}, \mathbf{q}) \mathbf{v}^T \tanh(\mathbf{W}\mathbf{x} \mathbf{U}\mathbf{q}) s(x,q)vTtanh(WxUq) 点积模型 s ( x , q ) x T q \mathbf{s}(\mathbf{x}, \mathbf{q}) \mathbf{x}^T \mathbf{q} s(x,q)xTq 缩放点积模型 s ( x , q ) x T q D \mathbf{s}(\mathbf{x}, \mathbf{q}) \frac{\mathbf{x}^T \mathbf{q}}{\sqrt{D}} s(x,q)D xTq 缩小方差增大softmax梯度 双线性模型 s ( x , q ) x T W q \mathbf{s}(\mathbf{x}, \mathbf{q}) \mathbf{x}^T \mathbf{W} \mathbf{q} s(x,q)xTWq 非对称性 软性注意力机制 定义软性注意力机制通过一个“软性”的信息选择机制对输入信息进行汇总允许模型以概率形式对输入的不同部分进行关注而不是强制性地选择一个部分。 加权平均软性注意力机制中的加权平均表示在给定任务相关的查询向量时每个输入向量受关注的程度通过注意力分布实现。 Softmax 操作注意力分布通常通过 Softmax 操作计算确保它们成为一个概率分布。
1. 注意力权重矩阵可视化矩阵热图
【深度学习实验】注意力机制一注意力权重矩阵可视化矩阵热图heatmap 2. 掩码Softmax 操作
【深度学习实验】注意力机制二掩码Softmax 操作 PS记录~一天两上热搜榜
3. 打分函数——加性注意力模型 s ( x , q ) v T tanh ( W x U q ) \mathbf{s}(\mathbf{x}, \mathbf{q}) \mathbf{v}^T \tanh(\mathbf{W}\mathbf{x} \mathbf{U}\mathbf{q}) s(x,q)vTtanh(WxUq)
class AdditiveAttention(nn.Module):加性注意力def __init__(self, key_size, query_size, num_hiddens, dropout, **kwargs):super(AdditiveAttention, self).__init__(**kwargs)self.W_k nn.Linear(key_size, num_hiddens, biasFalse)self.W_q nn.Linear(query_size, num_hiddens, biasFalse)self.w_v nn.Linear(num_hiddens, 1, biasFalse)self.dropout nn.Dropout(dropout)def forward(self, queries, keys, values, valid_lens):queries, keys self.W_q(queries), self.W_k(keys)# queries的形状(batch_size查询的个数1num_hidden)# key的形状(batch_size1“键值”对的个数num_hiddens)# 使用广播方式进行求和features queries.unsqueeze(2) keys.unsqueeze(1)features torch.tanh(features)# self.w_v仅有一个输出因此从形状中移除最后那个维度。# scores的形状(batch_size查询的个数“键-值”对的个数)scores self.w_v(features).squeeze(-1)self.attention_weights masked_softmax(scores, valid_lens)# values的形状(batch_size“键值”对的个数值的维度)return torch.bmm(self.dropout(self.attention_weights), values)AdditiveAttention 类实现了加性注意力机制。下面对该类的主要组件和功能进行详细介绍
1. 初始化
参数: key_size: 键的维度。query_size: 查询的维度。num_hiddens: 隐藏层的维度。dropout: Dropout 正则化的概率。 说明: 定义了模型的各个组件包括线性变换层和 Dropout 层。
2. 前向传播
参数: queries: 查询张量形状为 (batch_size, num_queries, query_size).keys: 键张量形状为 (batch_size, num_kv_pairs, key_size).values: 值张量形状为 (batch_size, num_kv_pairs, value_size).valid_lens: 有效长度张量形状为 (batch_size,). 返回值: 加权平均后的值张量形状为 (batch_size, num_queries, value_size)。
3. 内部组件
W_q: 将查询进行线性变换的层。W_k: 将键进行线性变换的层。w_v: 将特征进行线性变换的层该层输出的形状为 (batch_size, num_queries, num_kv_pairs, 1)并通过 squeeze(-1) 操作得到注意力分数。dropout: Dropout 正则化层。
4. 实现细节
使用线性变换将查询和键映射到相同的隐藏维度。通过广播方式计算注意力得分。使用 tanh 激活函数将得分映射到 (-1, 1) 范围。计算注意力分数并通过 masked_softmax 函数计算注意力权重。对注意力权重进行 Dropout 正则化。将注意力权重应用到值上得到最终的加权平均结果。 此加性注意力实现的目标是通过学习注意力权重根据输入的查询和键对值进行加权平均用于处理序列数据中的关联信息。
5. 模拟实验 模拟输入数据并使用上述AdditiveAttention模型进行前向传播。
# 创建模拟的输入数据
queries, keys torch.normal(0, 1, (2, 1, 20)), torch.ones((2, 10, 2))queries: 一个形状为 (2, 1, 20) 的张量表示两个查询。这个张量的第一个维度是批量大小第二个维度是查询的个数第三个维度是查询的特征维度。 keys: 一个形状为 (2, 10, 2) 的张量表示两个样本每个样本包含10个键值对。每个键值对的维度为2。
# 创建模拟的values数据
values torch.arange(40, dtypetorch.float32).reshape(1, 10, 4).repeat(2, 1, 1)values: 一个形状为 (2, 10, 4) 的张量表示两个样本每个样本包含10个值。每个值的维度为4。
# 创建模拟的有效长度数据
valid_lens torch.tensor([2, 6])valid_lens: 一个形状为 (2,) 的张量表示两个样本的有效长度。在注意力机制中这用于指定每个查询关注的键值对数量。
# 创建 AdditiveAttention 模型
attention AdditiveAttention(key_size2, query_size20, num_hiddens8, dropout0.1)
attention.eval()创建了一个 AdditiveAttention 的实例指定了键的维度 key_size、查询的维度 query_size、隐藏层的维度 num_hiddens 和 Dropout 的概率 dropout。
# 使用模型进行前向传播
attention(queries, keys, values, valid_lens)调用 attention 模型的前向传播方法传入查询 queries、键 keys、值 values 和有效长度 valid_lens。模型返回加权平均后的值形状为 (2, 1, 4)表示两个查询的输出。 绘制矩阵热图
show_heatmaps(attention.attention_weights.reshape((1, 1, 2, 10)),xlabelKeys, ylabelQueries)6. 代码整合
# 导入必要的库
import torch
from torch import nn
from d2l import torch as d2ldef show_heatmaps(matrices, xlabel, ylabel, titlesNone, figsize(2.5, 2.5), cmapReds):显示矩阵热图d2l.use_svg_display()num_rows, num_cols matrices.shape[0], matrices.shape[1]fig, axes d2l.plt.subplots(num_rows, num_cols, figsizefigsize,sharexTrue, shareyTrue, squeezeFalse)for i, (row_axes, row_matrices) in enumerate(zip(axes, matrices)):for j, (ax, matrix) in enumerate(zip(row_axes, row_matrices)):pcm ax.imshow(matrix.detach().numpy(), cmapcmap)if i num_rows - 1:ax.set_xlabel(xlabel)if j 0:ax.set_ylabel(ylabel)if titles:ax.set_title(titles[j])fig.colorbar(pcm, axaxes, shrink0.6)def masked_softmax(X, valid_lens):通过在最后一个轴上掩蔽元素来执行softmax操作# X:3D张量valid_lens:1D或2D张量if valid_lens is None:return nn.functional.softmax(X, dim-1)else:shape X.shapeif valid_lens.dim() 1:valid_lens torch.repeat_interleave(valid_lens, shape[1])else:valid_lens valid_lens.reshape(-1)# 最后一轴上被掩蔽的元素使用一个非常大的负值替换从而其softmax输出为0X d2l.sequence_mask(X.reshape(-1, shape[-1]), valid_lens, value-1e6)return nn.functional.softmax(X.reshape(shape), dim-1)class AdditiveAttention(nn.Module):加性注意力def __init__(self, key_size, query_size, num_hiddens, dropout, **kwargs):super(AdditiveAttention, self).__init__(**kwargs)self.W_k nn.Linear(key_size, num_hiddens, biasFalse)self.W_q nn.Linear(query_size, num_hiddens, biasFalse)self.w_v nn.Linear(num_hiddens, 1, biasFalse)self.dropout nn.Dropout(dropout)def forward(self, queries, keys, values, valid_lens):queries, keys self.W_q(queries), self.W_k(keys)# queries的形状(batch_size查询的个数1num_hidden)# key的形状(batch_size1“键值”对的个数num_hiddens)# 使用广播方式进行求和features queries.unsqueeze(2) keys.unsqueeze(1)features torch.tanh(features)# self.w_v仅有一个输出因此从形状中移除最后那个维度。# scores的形状(batch_size查询的个数“键-值”对的个数)scores self.w_v(features).squeeze(-1)self.attention_weights masked_softmax(scores, valid_lens)# values的形状(batch_size“键值”对的个数值的维度)return torch.bmm(self.dropout(self.attention_weights), values)queries, keys torch.normal(0, 1, (2, 1, 20)), torch.ones((2, 10, 2))values torch.arange(40, dtypetorch.float32).reshape(1, 10, 4).repeat(2, 1, 1)
valid_lens torch.tensor([2, 6])attention AdditiveAttention(key_size2, query_size20, num_hiddens8, dropout0.1)
attention.eval()
attention(queries, keys, values, valid_lens)
weights attention.attention_weights
show_heatmaps(attention.attention_weights.reshape((1, 1, 2, 10)),xlabelKeys, ylabelQueries)
