能免费做封面的网站,滨州网站建设制作,iis如何用ip地址做域名访问网站,网站站内推广python爬虫学习-批量爬取图片 爬虫步骤爬取前十页图片到本地根据页码获取网络源码使用xpath解析网页解析网页并下载图片主函数如下 爬取的网站为站长素材#xff08;仅做学习使用#xff09; 爬取的目标网站为
https://sc.chinaz.com/tupian/qinglvtupian.html如果爬取多页仅做学习使用 爬取的目标网站为
https://sc.chinaz.com/tupian/qinglvtupian.html如果爬取多页需要依次遍历每一页经过分析跳转其它页面的规律如下
https://sc.chinaz.com/tupian/qinglvtupian_N.html
N从2开始除了第一页不同后面跳转其它页面规律相同爬虫步骤
根据请求url地址获取网页源码使用requests库通过xpath解析源码获取需要的数据获取到数据下载到本地
爬取前十页图片到本地
根据页码获取网络源码
def create_request(page):if page 1:url https://sc.chinaz.com/tupian/qinglvtupian.htmlelse:url https://sc.chinaz.com/tupian/qinglvtupian_str(page).htmlheader {User-Agent: Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/119.0.0.0 Safari/537.36}request urllib.request.Request(url,headersheader)#获取网络源码response urllib.request.urlopen(request)content response.read().decode(utf-8)return content使用xpath解析网页 使用xpath需要在chrome中安装此插件安装xpath完成后按altshiftx就会出现黑框 //img[classlazy]/alt #获取图片名称
//img[classlazy]/data-original #获取图片地址解析网页并下载图片
下载图片、网页、视频使用的函数为urllib.request.urlretrieve()
def down_load(content):tree etree.HTML(content) #解析网页数据 解析本地的html文件 etree.parse(D:/pages/test.html)name_list tree.xpath(//img[classlazy]/alt)# 图片会进行懒加载src_list tree.xpath(//img[classlazy]/data-original)for i in range(len(name_list)):name name_list[i]src src_list[i]url https:srcurllib.request.urlretrieve(url,filename../loveImg/name.jpg)#先在当前目录下创建loveImg文件夹主函数如下
if __name__ __main__:start_page int(input(开始页))end_page int(input(结束页))for page in range(start_page,end_page1):context create_request(page)down_load(context)下载的图片会在loveImg目录
