当前位置: 首页 > news >正文

阿里网站注册wordpress版权信息 插件

阿里网站注册,wordpress版权信息 插件,网站的规划方案,cc插件 wordpress参考了官方文档#xff0c; torch.nn.parallel.DataParallel 以及https://zhuanlan.zhihu.com/p/102697821 在运行此DataParallel模块之前#xff0c;并行化模块必须在device_ids [0]上具有其参数和缓冲区。在执行DataParallel之前#xff0c;会首先把其模型的参数放在devi…参考了官方文档 torch.nn.parallel.DataParallel 以及https://zhuanlan.zhihu.com/p/102697821 在运行此DataParallel模块之前并行化模块必须在device_ids [0]上具有其参数和缓冲区。在执行DataParallel之前会首先把其模型的参数放在device_ids[0]上一看好像也没有什么毛病其实有个小坑。我举个例子服务器是八卡的服务器刚好前面序号是0的卡被别人占用着于是你只能用其他的卡来比如你用2和3号卡如果你直接指定device_ids[2, 3]的话会出现模型初始化错误类似于module没有复制到在device_ids[0]上去。 os.environ[CUDA_DEVICE_ORDER] PCI_BUS_ID os.environ[CUDA_VISIBLE_DEVICES] 2, 3当你添加这两行代码后那么device_ids[0]默认的就是第2号卡你的模型也会初始化在第2号卡上了而不会占用第0号卡了。这里简单说一下设置上面两行代码后那么对这个程序而言可见的只有2和3号卡和其他的卡没有关系这是物理上的号卡逻辑上来说其实是对应0和1号卡即device_ids[0]对应的就是第2号卡device_ids[1]对应的就是第3号卡。当然你要保证上面这两行代码需要定义在 device_ids [0, 1] net torch.nn.DataParallel(net, device_idsdevice_ids)而且不要以为添加了to(device)或者.cuda 就运行在卡0上了其实不然 这只是将模型暂时放到了卡0上第二步系统会复制模型和参数的 而且并行和to、cuda是缺一不可的 代码测试 import torch import torch.nn as nn import torch.nn.functional as F import osos.environ[CUDA_DEVICE_ORDER] PCI_BUS_ID #指定程序可见的devices 也就是其它设备都不可见 os.environ[CUDA_VISIBLE_DEVICE] 0, 1 #设置当前使用的GPU设备为1,0号两个设备,名称依次为/gpu:0、/gpu:1。表示优先使用1号设备,然后使用0号设备## 看起来没事但是有坑的 如果我们和别人一块使用的话别人在用卡0因为程序会默认将模型参数和缓存放到卡0那么你不改上面的话就会出现问题device torch.device(cuda:0 if torch.cuda.is_available() else cpu)class Model(nn.Module):def __init__(self):super(Model, self).__init__()self.conv1 nn.Conv2d(1, 20, 5)self.conv2 nn.Conv2d(20, 20, 5)def forward(self, x):x F.relu(self.conv1(x))return F.relu(self.conv2(x))input torch.randn(128, 1, 256, 128) net Model() if torch.cuda.device_count() 1:# model.to(device)device_ids [0, 1, 2]net torch.nn.parallel.DataParallel(net, device_idsdevice_ids)net.cuda()# net.to(device) //两种方法都可以 只不是这种方法考虑了不能用的情况for param in next(net.parameters()):print(param, param.device)print(next(net.parameters()).device) net net(input) print(net)
http://www.pierceye.com/news/673128/

相关文章:

  • 数据服务网站开发国家重点建设裤网站
  • 做兼职上哪个网站wordpress相册灯箱弹窗
  • 微信编辑器做网站网页设计专业开设院校
  • 网站建设衤金手指谷哥十四wordpress电商主题数据库
  • 网站开发要会英语吗app手机网站设计
  • 青岛海诚互联做网站好吗typo wordpress theme
  • 有关大学生做兼职的网站有哪些网站规划建设方案模板
  • 深圳珠宝网站建设分析报告做电影网站 需要进那些群
  • 哪些网站可以做翻译兼职成都编程培训机构排名前十
  • 网站html有趣代码做暖暖视频网站大全
  • 最新淘宝客网站程序长春网站运做思路
  • 一个网站的建设需要什么手续phpcms旅游网站模板下载
  • 昆明做网站费用做网站的一些话术
  • sae 网站备案信息汽车配件加工网
  • 做游戏网站要备案吗群晖做网站需要备案吗
  • 网站制作教程为什么语音转文字里面没有海南的
  • 怎么让别人看到自己做的网站地信的网站建设
  • 网站主体注销泰安新闻视频在线
  • 怀柔网站建设优化seo瓯北网站制作公司
  • 福田住房和建设局网站官网做自己点击网站
  • 临沂市建设局网站简介佛山建网站
  • 哪种类型的网站比较难做阿里云宝塔安装wordpress
  • 购物网站起名网站建设皿金手指排名
  • 河北省住房和城市建设厅网站怎么做cpa网站
  • 网站备案 取名资讯通不过软文投放平台有哪些?
  • 民治做网站多少钱好看的企业网站首页
  • 腾讯域名怎么建设网站客户管理系统免费
  • 承德网站建设报价网站建设中企动力最佳a5
  • 图书馆第一代网站建设海口会计报名网站
  • 网站设计师简介中国工厂网站官方网站