天津做网站多少钱,沈阳seo排名优化软件,网站模板 整站源码,苏州百度推广服务中心1 Scrapy安装
Scrapy的安装有多种方式#xff0c;它支持Python2.7版本及以上或Python3.3版本及以上。下面说明Python3环境下的安装。 Scrapy依赖的库比较多#xff0c;至少需要依赖库有Twisted14.0,lxml 3.4,pyOpenSSL 0.14。而在不同平台环境又各不相同#xff0c;所以在安…1 Scrapy安装
Scrapy的安装有多种方式它支持Python2.7版本及以上或Python3.3版本及以上。下面说明Python3环境下的安装。 Scrapy依赖的库比较多至少需要依赖库有Twisted14.0,lxml 3.4,pyOpenSSL 0.14。而在不同平台环境又各不相同所以在安装之前最好确保把一些基本库安装好尤其是Windows。
2 Anaconda
安装命令如下
conda install Scrapy3 Windows
安装lxml
最后通过wheel安装。 查找https://www.lfd.uci.edu/~gohlke/pythonlibs/ 安装命令
pip3 install wheel
pip3 install lxml‑3.7.2‑cp35‑cp35m‑win_amd64.whl安装pyOpenSSL
下载网页https://pypi.python.org/pypi/pyOpenSSL#downloads 安装命令:
pip3 install pyOpenSSL-16.2.0-py2.py3-none-any.whl安装Twisted
安装命令
pip3 install Twisted‑17.1.0‑cp35‑cp35m‑win_amd64.whl安装pywin32
从官方网站https://github.com/mhammond/pywin32/releases/下载对应版本
安装Scrapy
pip3 install Scrapy验证安装成功
4 CentOS̵ RedHat̵ Fedora
依赖库安装
确保一些必须的类库已经安装运行如下命令
sudo yum groupinstall development tools
sudo yum install python34-devel epel-release libxslt-devel libxml2-devel openssl-devel安装Scrapy
pip3 install Scrapy5 Ubuntu̵ Debian̵ Deepin
依赖库安装
确保一些必须的类库已经安装运行如下命令
sudo apt-get install build-essential python3-dev libssl-dev libffi-dev libxml2
libxml2-dev libxslt1-dev zlib1g-dev安装Scrapy
pip3 install Scrapy6 Mac OS
依赖库安装
在Mac上构建Scrapy的依赖库需要C编译器以及开头头文件它一般由Xcode提供运行如下命令
xcode-select --install安装Scrapy
pip3 install Scrapy7 常见错误
pkg_resources.VersionConflict: (six 1.5.2 (/usr/lib/python3/dist-packages), Requirement.parse(‘six1.6.0’))
six包版本过低six包是一个提供兼容Python2和Python3的库升级six包即可。
sudo pip3 install -U sixc/_cffi_backend.c:15:17: fatal error: ffi.h: No such file or directory
缺少Libffi这个库。什么是Libffi“FFI的全名是Foreign Function Interface通常指的是允许以一种语言编写的代码调用另一种语言的代码。而Libffi库只提供了最底层的与架构相关的完整的FFI”。 安装相应的库即可。 Ubuntu̵ Debian
sudo apt-get install build-essential libssl-dev libffi-dev python3-devCentOS̵ RedHat:
sudo yum install gcc libffi-devel python-devel openssl-develImportError: No module named ‘cryptography’
这是缺少加密的相关组件利用pip安装即可。
sudo pip3 install cryptographyImportError: No module named ‘packaging’
缺少packaging这个包它提供了Python包的核心功能利用pip安装即可。
sudo pip3 install packagingImportError: No module named ‘appdirs’
缺少appdirs这个包它用来确认文件目录利用pip单独安装即可。
sudo pip3 install appdirs
