河北通信网站建设,易语言怎么做网站自动登录,wordpress 积分兑换,优化方案2021版英语大家好#xff0c;我是虎哥#xff0c;今天远程帮助几个小伙伴在A200 控制器上安装PyTorch v1.9.0 torchvision v0.10.0#xff0c;中间也是经历了很多波折#xff0c;当然#xff0c;大部分是网络问题和版本适配问题#xff0c;所以完事后#xff0c;将自己完整可用的过… 大家好我是虎哥今天远程帮助几个小伙伴在A200 控制器上安装PyTorch v1.9.0 torchvision v0.10.0中间也是经历了很多波折当然大部分是网络问题和版本适配问题所以完事后将自己完整可用的过程做个记录分享给大家。我的硬件环境是A200控制器。核心是TX1系统环境是jetpack4.6.2 Ubuntu18.04大家注意对应和区分。
目录
一、PyTorch 介绍
PyTorch的特性
二、安装环境确认说明
1.1 确认系统版本
1.2 确认L4T版本版本
1.3 确认Jetson版本
1.4 PYthon 版本
三、安装环境步骤
3.1 PyTorch for Jetson v1.9.0下载安装
3.2 安装 torchvision v0.10.0 1、调大一些环境参数
2、调高虚拟内存建议总内存至少大于10G
3、源码编译安装
3.3 验证安装
四、总结 一、PyTorch 介绍 Pytorch是torch的python版本是由Facebook开源的神经网络框架专门针对 GPU 加速的深度神经网络(DNN)编程。Torch 是一个经典的对多维矩阵数据进行操作的张量(tensor )库在机器学习和其他数学密集型应用有广泛应用。与Tensorflow的静态计算图不同pytorch的计算图是动态的可以根据计算需要实时改变计算图。但由于Torch语言采用 Lua导致在国内一直很小众并逐渐被支持 Python 的 Tensorflow 抢走用户。作为经典机器学习库 Torch 的端口PyTorch 为 Python 语言使用者提供了舒适的写代码选择。著名的avatarify替身的python版本是用pytorch实现的项目见https://github.com/alievk/avata
其官网入口为https://pytorch.org/
中文教程入口https://pytorch.apachecn.org/#/docs/1.4/README PyTorch既可以看做加入了GPU支持的numpy同时也可以看成一个拥有自动求导功能的强大的深度神经网络除了Facebook之外它还已经被Twitter、CMU和Salesforce等机构采用。 TensorFlow和Caffe都是命令式的编程语言而且是静态的首先必须构建一个神经网络然后一次又一次使用相同的结构如果想要改 变网络的结构就必须从头开始。但是对于PyTorch通过反向求导技术可以让你零延迟地任意改变神经网络的行为而且其实现速度 快。正是这一灵活性是PyTorch对比TensorFlow的最大优势。 另外PyTorch的代码对比TensorFlow而言更加简洁直观底层代码也更容易看懂这对于使用它的人来说理解底层肯定是一件令人激 动的事。所以总结一下PyTorch的优点 支持GPU 灵活支持动态神经网络 底层代码易于理解 命令式体验 自定义扩展 当然现今任何一个深度学习框架都有其缺点PyTorch也不例外对比TensorFlow其全面性处于劣势目前PyTorch还不支持快速傅里 叶、沿维翻转张量和检查无穷与非数值张量;针对移动端、嵌入式部署以及高性能服务器端的部署其性能表现有待提升;其次因为这个框 架较新使得他的社区没有那么强大在文档方面其C库大多数没有文档。
PyTorch的特性 PyTorch的祖先是Chainer,HIPS autograd,twitter-autograd.
这些库有以下两个鲜明的特征 动态的运行时定义一个动态框架仅仅通过运行期望的操作来对函数求导这与实现一个预先符号求导的静态的图结构再多次运行的方式恰恰相反。这样一来就允许用户使用任何想要的宿主语言特性(如各种控制流结构)以每次迭代都要求执行的求导为代价。动态执行将PyTorch和TensorFlow,Caffe这样的静态架构区分开来了。
A dynamic framework defines the function to be differentinated simply by running the desired computation,as opposed to specifying a static graph structure which is differentiated symbolically ahead of time and then run many times.This permits users to use any host-language features they want(e.g.,arbirary control flow constructs),at the cost of requiring differentiation to be carried out every iteration.Dynamic execution distinguishes PyTorch from static frameworks like TensorFlow,Caffe,etc. 简言之动态计算图不容易优化当不同输入的网路结构不一致时难以并行计算但是灵活性比较高。 立即的迫切的执行一个迫切的框架在遇到张量运算时才会运行它甚至避免去实现一个“前向的图”仅仅记录下对于求导运算必要的内容。这就站在DyNet的对立面上了DyNet采用懒评估的方式在每一次训练迭代中都会真实地重建前向和反向图。立即执行允许CPU和GPU运算被管道化但是放弃了整个网络进行优化和批处理。
An eager framework runs tensor computations as it encounters them;it avoids ever materializing a forward graph, recording only what is necessary to differentiate the computation.This stands in contrast to DyNet,which employs lazy evaluation,literally rebuilding the forwards and backwards graph every training iteration.Immediate execution allows CPU and GPU computation to be pipelined,but gives up the opportunity for whole-network optimization and batching. 但是让PyTorch从所有动态迫切执行地自动求导库中成了实现最快的一个还要依赖于它地以下设计和实现选择 原地运算原地运算会给自动求导带来危害因为原地运算会使得在微分阶段将要用到的数据失效。此外它们要求执行特殊的tape转换操作。针对这些问题PyTorch实现了简单但有效的机制。
In-place operations pose a hazard for automatic differentiation,because an in-place operation can invalidate data that would be needed in the differentiation phase.Additionally,they require nontrivial tape transformations to be performed.PyTorch implements simple but effective mechanisms that address both of these problems. 没有tape传统反转模式求导记录一个tape(也叫Wengert列表)其作用是描述最初的执行操作的顺序这个优化允许避免一个拓扑分类的实现。PyTorch(以及Chainer)避免了这个tape取而代之的是每一个中间结果只记录和它们计算有关子集。这也就意味着PyTorch的用户可以随心所欲地混合与匹配独立的图以任何想要的方式(没有直接的同步)。以这种方式结构化图的另一个好处是当图的一部分死去就会被自动释放这对于我们想要尽快释放大的内存块来说是一个重要的考虑。
Traditional reverse-mode differentiation records a tape(also known as a Wengert list) describing the order in which operations were originally executed;this optimization allows implementations to avoid a topological sort.PyTorch (and Chainer) eschew this tape;instead,every intermediate result records only the subset of the computation graph that was relevant to their computaion.This means PyTorch users can mix and match indepedent graphs however they like,in whatever threads they like(without explicit synchronization).An added benefit of structuring graphs this way is that when a portion of the graph becomes dead,it is automatically freed;an important consideration when we want to free large memory chunks as quickly as possible. 用C写核心逻辑PyTorch起源于Python的库但是高昂的转换器消耗对于核心AD逻辑来说很快凸显出来。今天大多数的核心逻辑都是用C写的并且将核心操作定义转化成C仍在进行中。小心调优的C代码是PyTorch能够实现相比其他框架低得多的开销的首要愿意。
PyTorch started its life as a Python library;however,it quickly became clear that interpreter overhead is too high for core AD logic.Today,most of it is written in C,and we are in the process of moving core operator definitions to C.Carefully tuned C code is one of the primary reasons PyTorch can achieve much lower overhead compared to other frameworks.二、安装环境确认说明 Jetpack默认已安装opencv、cuda、cudnn故只需再安装pytorch即可留意jetson是arm架构需要下载对应的安装文件加以安装
1.1 确认系统版本
sudo lsb_release -a
1.2 确认L4T版本版本
head -n 1 /etc/nv_tegra_release
nvidiaTX1-A200:~$ head -n 1 /etc/nv_tegra_release
# R32 (release), REVISION: 7.2, GCID: 30192233, BOARD: t210ref, EABI: aarch64, DATE: Wed Apr 20 21:34:48 UTC 2022
说明使用的是jetpack4.6.2。
1.3 确认Jetson版本
jetson_release -v EdgeBox_tx1_A200 系统 TX1核心我们已经安装了CUDA、cuDNN、等具体的安装方法使用官方对应的工具刷机安装具体可以参考之前的文章。
https://blog.csdn.net/cau_weiyuhu/article/details/128026029
https://blog.csdn.net/cau_weiyuhu/article/details/128152847
1.4 PYthon 版本
nvidianvidia-desktop:~$ python --version
Python 2.7.17
nvidianvidia-desktop:~$ python3 --version
Python 3.6.9
三、安装环境步骤
TX1专用下载地址一定和jetpack的版本对应好,但是这个里面有些其实照着装也不能成功主要是中间有些细节和出现错误后没有说明怎么解决。不过是很重要的参考。
https://forums.developer.nvidia.com/t/pytorch-for-jetson/72048
但是上面的对应关系我自己安装总是在 torchvision出错。所以我决定找找官方容器是怎么安装的搭配的。功夫不负有心人终于找到了。
网址入口https://catalog.ngc.nvidia.com/orgs/nvidia/containers/l4t-pytorch 所以其实有好几组版本可以选择但是一定要找好对应关系我们自己安装也使用这个搭配来安装PyTorch v1.9.0 torchvision v0.10.0 按照这个组合试试。虽然只给了4.6.1的版本对应但是还是在32.7.X的系统下的对应我们按照这个来就可以。
3.1 PyTorch for Jetson v1.9.0下载安装
我们的环境是
Jetpack 4.6.2 [L4T 32.7.2]
网址入口https://forums.developer.nvidia.com/t/pytorch-for-jetson/72048 下载后拷贝到A200系统。我是在WIN主机上用迅雷下载的。 然后使用TFTP拷贝到了控制器上。 当然也可以再A200控制系统系统内直接用命令下载
wget https://nvidia.box.com/shared/static/p57jwntv436lfrd78inwl7iml6p13fzh.whl -O torch-1.9.0-cp36-cp36m-linux_aarch64.whl
注意以上下载方法我自己没有实验过去我是公司网443端口是封锁的。
安装
sudo apt-get install python3-pip libopenblas-base libopenmpi-dev libomp-dev
pip3 install Cython
sudo pip3 install numpy torch-1.9.0-cp36-cp36m-linux_aarch64.whl 这个过程如果网不好可能要多次尝试重复包括换网等操作。 支持PyTorch v1.9.0安装成功。
3.2 安装 torchvision v0.10.0 1、调大一些环境参数
nvidianvidia-desktop:~$ ulimit -a
core file size (blocks, -c) 0
data seg size (kbytes, -d) unlimited
scheduling priority (-e) 0
file size (blocks, -f) unlimited
pending signals (-i) 13929
max locked memory (kbytes, -l) 65536
max memory size (kbytes, -m) unlimited
open files (-n) 1024
pipe size (512 bytes, -p) 8
POSIX message queues (bytes, -q) 819200
real-time priority (-r) 0
stack size (kbytes, -s) 8192
cpu time (seconds, -t) unlimited
max user processes (-u) 13929
virtual memory (kbytes, -v) unlimited
file locks (-x) unlimited
sudo gedit /etc/security/limits.conf
#end 后增加这4条 主要是修改 max number of open files
nvidia soft nofile 65535
nvidia hard nofile 65535
root soft nofile 65535
root hard nofile 65535修改后重启sudo reboot,重启后查看环境量
nvidianvidia-desktop:~$ ulimit -a
core file size (blocks, -c) 0
data seg size (kbytes, -d) unlimited
scheduling priority (-e) 0
file size (blocks, -f) unlimited
pending signals (-i) 13929
max locked memory (kbytes, -l) 65536
max memory size (kbytes, -m) unlimited
open files (-n) 65535
pipe size (512 bytes, -p) 8
POSIX message queues (bytes, -q) 819200
real-time priority (-r) 0
stack size (kbytes, -s) 8192
cpu time (seconds, -t) unlimited
max user processes (-u) 13929
virtual memory (kbytes, -v) unlimited
file locks (-x) unlimited
2、调高虚拟内存建议总内存至少大于10G
jtop 先加10G的总计12G的内存 此处注意如果之前已经操作过记得到根目录把之前的swapfile 删除掉再重来一遍。不要重启重启后就没有了
3、源码编译安装
#前提环境
sudo apt-get install libjpeg-dev zlib1g-dev libpython3-dev libavcodec-dev libavformat-dev libswscale-dev
#这个官方教程没写
pip3 install setuptools
#sudo -H pip3 install -U pillow
#这步使用国内源也是可以过去的就是费点时间需要耐心
#sudo -H pip3 install pillow --user -i http://pypi.douban.com/simple/ --trusted-host pypi.douban.com
#执行这个
sudo pip3 uninstall pillow
sudo pip3 install pillow7
#如果上面一直安装不成功超时可以直接再WIN端迅雷下载然后导入控制器进行手动安装
#下载链接
https://files.pythonhosted.org/packages/b3/d0/a20d8440b71adfbf133452d4f6e0fe80de2df7c2578c9b498fb812083383/Pillow-6.2.2.tar.gz
sudo pip3 install Pillow-6.2.2.tar.gz
#或者用8的版本但是官方推荐用7以下的所以这个可以预留尝试
#下载链接可以迅雷下载挺快的然后然后导入控制器进行手动安装
http://pypi.doubanio.com/packages/7d/2a/2fc11b54e2742db06297f7fa7f420a0e3069fdcf0e4b57dfec33f0b08622/Pillow-8.4.0.tar.gz#sha256b8e2f83c56e141920c39464b852de3719dfbfb6e3c99a2d8da0edf4fb33176ed
#官网----克隆源代码----国内可能不好用
git clone --branch v0.10.0 https://github.com/pytorch/vision torchvision
cd torchvision/
git checkout -b v0.10.0
#查看当前分支
git branch -a
#国内用gitee
git clone --branch v0.10.0 https://gitee.com/zldtb/vision.git torchvision
cd torchvision/
git checkout -b v0.10.0
#查看当前分支
git branch -a
setuptools安装过程截图 pillow 安装过程图 torchvision 安装过程截图 #进入克隆后的目录
cd /home/nvidia/pytorch/torchvision
#设置环境变量后编译安装之前记得增加虚拟内存总内存需要至少大于10G才保险
export BUILD_VERSION0.10.0
sudo python3 setup.py install --user
安装过程截图 这就是调大虚拟内存的原因不然控制器就死机了。 验证通过
nvidiaTX1-A200:~/pytorch/torchvision$ python3
Python 3.6.9 (default, Mar 10 2023, 16:46:00)
[GCC 8.4.0] on linux
Type help, copyright, credits or license for more information.import torchvision
/home/nvidia/pytorch/torchvision/torchvision/__init__.py:26: UserWarning: You are importing torchvision within its own root folder (/home/nvidia/pytorch/torchvision). This is not expected to work and may give errors. Please exit the torchvision project source and relaunch your python interpreter.warnings.warn(message.format(os.getcwd()))print(torchvision.__version__)
0.10.0a0300a8a4那个报警应该是权限的问题如果有影响处理一下权限就可以
3.3 验证安装
To verify that PyTorch has been installed correctly on your system, launch an interactive Python interpreter from terminal (python command for Python 2.7 or python3 for Python 3.6) and run the following commands:
python3import torchprint(torch.__version__)print(CUDA available: str(torch.cuda.is_available()))print(cuDNN version: str(torch.backends.cudnn.version()))a torch.cuda.FloatTensor(2).zero_()print(Tensor a str(a))b torch.randn(2).cuda()print(Tensor b str(b))c a bprint(Tensor c str(c))
nvidianvidia-desktop:~/Workspace/Pytorch$ python3
Python 3.6.9 (default, Nov 25 2022, 14:10:45)
[GCC 8.4.0] on linux
Type help, copyright, credits or license for more information.import torchprint(torch.__version__)
1.7.0print(CUDA available: str(torch.cuda.is_available()))
CUDA available: Trueprint(cuDNN version: str(torch.backends.cudnn.version()))
cuDNN version: 8201a torch.cuda.FloatTensor(2).zero_()print(Tensor a str(a))
Tensor a tensor([0., 0.], devicecuda:0)b torch.randn(2).cuda()print(Tensor b str(b))
Tensor b tensor([-0.3136, -0.3914], devicecuda:0)c a bprint(Tensor c str(c))
Tensor c tensor([-0.3136, -0.3914], devicecuda:0)
验证版本
python3import torchvisionprint(torchvision.__version__)
四、总结
整体我自己安装的时候中间还是遇到很大麻烦事但是好在都找到了对应的解决方案分享一个小技巧
我在文档中留了很多链接可以直接用迅雷下载后转到控制器内再安装可以省不少事。
纠错,疑问,交流: 911946883qq.com
