网站建设交流论坛,有名的网站,设计ui,seo刷点击软件本章代码#xff1a;https://github.com/zhangxiann/PyTorch_Practice/blob/master/lesson1/linear_regression.py张量的操作拼接torch.cat()torch.cat(tensors, dim0, outNone)功能#xff1a;将张量按照 dim 维度进行拼接tensors: 张量序列dim: 要拼接的维度代码示例#… 本章代码https://github.com/zhangxiann/PyTorch_Practice/blob/master/lesson1/linear_regression.py张量的操作拼接torch.cat()torch.cat(tensors, dim0, outNone)功能将张量按照 dim 维度进行拼接tensors: 张量序列dim: 要拼接的维度代码示例t torch.ones((2, 3))t_0 torch.cat([t, t], dim0)t_1 torch.cat([t, t], dim1)print(t_0:{} shape:{}\nt_1:{} shape:{}.format(t_0, t_0.shape, t_1, t_1.shape))输出是t_0:tensor([[1., 1., 1.], [1., 1., 1.], [1., 1., 1.], [1., 1., 1.]]) shape:torch.Size([4, 3])t_1:tensor([[1., 1., 1., 1., 1., 1.], [1., 1., 1., 1., 1., 1.]]) shape:torch.Size([2, 6])torch.stack()torch.stack(tensors, dim0, outNone)功能将张量在新创建的 dim 维度上进行拼接tensors: 张量序列dim: 要拼接的维度代码示例t torch.ones((2, 3))# dim 2t_stack torch.stack([t, t, t], dim2)print(\nt_stack.shape:{}.format(t_stack.shape))# dim 0t_stack torch.stack([t, t, t], dim0)print(\nt_stack.shape:{}.format(t_stack.shape))输出为t_stack.shape:torch.Size([2, 3, 3])t_stack.shape:torch.Size([3, 2, 3])第一次指定拼接的维度 dim 2结果的维度是 [2, 3, 3]。后面指定拼接的维度 dim 0由于原来的 tensor 已经有了维度 0因此会把 tensor 往后移动一个维度变为 [1,2,3]再拼接变为 [3,2,3]。切分torch.chunk()torch.chunk(input, chunks, dim0)功能将张量按照维度 dim 进行平均切分。若不能整除则最后一份张量小于其他张量。input: 要切分的张量chunks: 要切分的份数dim: 要切分的维度代码示例a torch.ones((2, 7)) # 7list_of_tensors torch.chunk(a, dim1, chunks3) # 3for idx, t in enumerate(list_of_tensors):print(第{}个张量{}, shape is {}.format(idx1, t, t.shape))输出为第1个张量tensor([[1., 1., 1.], [1., 1., 1.]]), shape is torch.Size([2, 3])第2个张量tensor([[1., 1., 1.], [1., 1., 1.]]), shape is torch.Size([2, 3])第3个张量tensor([[1.], [1.]]), shape is torch.Size([2, 1])由于 7 不能整除 37/3 再向上取整是 3因此前两个维度是 [2, 3]所以最后一个切分的张量维度是 [2,1]。torch.split()torch.split(tensor, split_size_or_sections, dim0)功能将张量按照维度 dim 进行平均切分。可以指定每一个分量的切分长度。tensor: 要切分的张量split_size_or_sections: 为 int 时表示每一份的长度如果不能被整除则最后一份张量小于其他张量为 list 时按照 list 元素作为每一个分量的长度切分。如果 list 元素之和不等于切分维度 (dim) 的值就会报错。dim: 要切分的维度代码示例t torch.ones((2, 5))list_of_tensors torch.split(t, [2, 1, 2], dim1)for idx, t in enumerate(list_of_tensors):print(第{}个张量{}, shape is {}.format(idx1, t, t.shape))结果为第1个张量tensor([[1., 1.], [1., 1.]]), shape is torch.Size([2, 2])第2个张量tensor([[1.], [1.]]), shape is torch.Size([2, 1])第3个张量tensor([[1., 1.], [1., 1.]]), shape is torch.Size([2, 2])索引torch.index_select()torch.index_select(input, dim, index, outNone)功能在维度 dim 上按照 index 索引取出数据拼接为张量返回。input: 要索引的张量dim: 要索引的维度index: 要索引数据的序号代码示例# 创建均匀分布t torch.randint(0, 9, size(3, 3))# 注意 idx 的 dtype 不能指定为 torch.floatidx torch.tensor([0, 2], dtypetorch.long)# 取出第 0 行和第 2 行t_select torch.index_select(t, dim0, indexidx)print(t:\n{}\nt_select:\n{}.format(t, t_select))输出为t:tensor([[4, 5, 0], [5, 7, 1], [2, 5, 8]])t_select:tensor([[4, 5, 0], [2, 5, 8]])torch.mask_select()torch.masked_select(input, mask, outNone)功能按照 mask 中的 True 进行索引拼接得到一维张量返回。要索引的张量mask: 与 input 同形状的布尔类型张量代码示例t torch.randint(0, 9, size(3, 3))mask t.le(5) # ge is mean greater than or equal/ gt: greater than le lt# 取出大于 5 的数t_select torch.masked_select(t, mask)print(t:\n{}\nmask:\n{}\nt_select:\n{} .format(t, mask, t_select))结果为t:tensor([[4, 5, 0], [5, 7, 1], [2, 5, 8]])mask:tensor([[ True, True, True], [ True, False, True], [ True, True, False]])t_select:tensor([4, 5, 0, 5, 1, 2, 5])最后返回的是一维张量。变换torch.reshape()torch.reshape(input, shape)功能变换张量的形状。当张量在内存中是连续时返回的张量和原来的张量共享数据内存改变一个变量时另一个变量也会被改变。input: 要变换的张量shape: 新张量的形状代码示例# 生成 0 到 8 的随机排列t torch.randperm(8)# -1 表示这个维度是根据其他维度计算得出的t_reshape torch.reshape(t, (-1, 2, 2))print(t:{}\nt_reshape:\n{}.format(t, t_reshape))结果为t:tensor([5, 4, 2, 6, 7, 3, 1, 0])t_reshape:tensor([[[5, 4], [2, 6]], [[7, 3], [1, 0]]])在上面代码的基础上修改原来的张量的一个元素新张量也会被改变。代码示例# 修改张量 t 的第 0 个元素张量 t_reshape 也会被改变t[0] 1024print(t:{}\nt_reshape:\n{}.format(t, t_reshape))print(t.data 内存地址:{}.format(id(t.data)))print(t_reshape.data 内存地址:{}.format(id(t_reshape.data)))结果为t:tensor([1024, 4, 2, 6, 7, 3, 1, 0])t_reshape:tensor([[[1024, 4], [ 2, 6]], [[ 7, 3], [ 1, 0]]])t.data 内存地址:2636803119936t_reshape.data 内存地址:2636803119792torch.transpose()torch.transpose(input, dim0, dim1)功能交换张量的两个维度。常用于图像的变换比如把c*h*w变换为h*w*c。input: 要交换的变量dim0: 要交换的第一个维度dim1: 要交换的第二个维度代码示例#把 c * h * w 变换为 h * w * ct torch.rand((2, 3, 4))t_transpose torch.transpose(t, dim01, dim12) # c*h*w h*w*cprint(t shape:{}\nt_transpose shape: {}.format(t.shape, t_transpose.shape))结果为t shape:torch.Size([2, 3, 4])t_transpose shape: torch.Size([2, 4, 3])torch.t()功能2 维张量转置对于 2 维矩阵而言等价于torch.transpose(input, 0, 1)。torch.squeeze()torch.squeeze(input, dimNone, outNone)功能压缩长度为 1 的维度。dim: 若为 None则移除所有长度为 1 的维度若指定维度则当且仅当该维度长度为 1 时可以移除。代码示例 # 维度 0 和 3 的长度是 1 t torch.rand((1, 2, 3, 1)) # 可以移除维度 0 和 3 t_sq torch.squeeze(t) # 可以移除维度 0 t_0 torch.squeeze(t, dim0) # 不能移除 1 t_1 torch.squeeze(t, dim1) print(t.shape: {}.format(t.shape)) print(t_sq.shape: {}.format(t_sq.shape)) print(t_0.shape: {}.format(t_0.shape)) print(t_1.shape: {}.format(t_1.shape))结果为t.shape: torch.Size([1, 2, 3, 1])t_sq.shape: torch.Size([2, 3])t_0.shape: torch.Size([2, 3, 1])t_1.shape: torch.Size([1, 2, 3, 1])torch.unsqueeze()torch.unsqueeze(input, dim)功能根据 dim 扩展维度长度为 1。张量的数学运算主要分为 3 类加减乘除对数指数幂函数 和三角函数。这里介绍一下常用的几种方法。torch.add()torch.add(input, other, outNone)torch.add(input, other, *, alpha1, outNone)功能逐元素计算 input alpha * other。因为在深度学习中经常用到先乘后加的操作。input: 第一个张量alpha: 乘项因子other: 第二个张量torch.addcdiv()torch.addcdiv(input, tensor1, tensor2, *, value1, outNone)计算公式为out valuetorch.addcmul()torch.addcmul(input, tensor1, tensor2, *, value1, outNone)计算公式为out input value tensor tensor线性回归线性回归是分析一个变量 () 与另外一 (多) 个变量 () 之间的关系的方法。一般可以写成 。线性回归的目的就是求解参数 。线性回归的求解可以分为 3 步确定模型选择损失函数一般使用均方误差 MSE。其中 是预测值 是真实值。使用梯度下降法求解梯度 (其中 是学习率)并更新参数代码如下import torchimport matplotlib.pyplot as plttorch.manual_seed(10)lr 0.05 # 学习率# 创建训练数据x torch.rand(20, 1) * 10 # x data (tensor), shape(20, 1)# torch.randn(20, 1) 用于添加噪声y 2*x (5 torch.randn(20, 1)) # y data (tensor), shape(20, 1)# 构建线性回归参数w torch.randn((1), requires_gradTrue) # 设置梯度求解为 trueb torch.zeros((1), requires_gradTrue) # 设置梯度求解为 true# 迭代训练 1000 次for iteration in range(1000): # 前向传播计算预测值 wx torch.mul(w, x) y_pred torch.add(wx, b) # 计算 MSE loss loss (0.5 * (y - y_pred) ** 2).mean() # 反向传播 loss.backward() # 更新参数 b.data.sub_(lr * b.grad) w.data.sub_(lr * w.grad) # 每次更新参数之后都要清零张量的梯度 w.grad.zero_() b.grad.zero_() # 绘图每隔 20 次重新绘制直线 if iteration % 20 0: plt.scatter(x.data.numpy(), y.data.numpy()) plt.plot(x.data.numpy(), y_pred.data.numpy(), r-, lw5) plt.text(2, 20, Loss%.4f % loss.data.numpy(), fontdict{size: 20, color: red}) plt.xlim(1.5, 10) plt.ylim(8, 28) plt.title(Iteration: {}\nw: {} b: {}.format(iteration, w.data.numpy(), b.data.numpy())) plt.pause(0.5) # 如果 MSE 小于 1则停止训练 if loss.data.numpy() break训练的直线的可视化如下在 80 次的时候Loss 已经小于 1 了因此停止了训练。参考资料深度之眼 PyTorch 框架班如果你觉得这篇文章对你有帮助不妨点个赞让我有更多动力写出好文章。
