网站开发答辩,深圳php网站开发,对招聘网站页面设计做建议,网站开发企业公司很早之前#xff0c;学习Python web编程的时候#xff0c;就涉及一个Python的urllib。可以用urllib.urlopen(“url”)。read()可以轻松读取页面上面的静态信息。但是#xff0c;随着时代的发展#xff0c;也来越多的网页中更多的使用javascript、jQuery、PHP等语言动态生成…很早之前学习Python web编程的时候就涉及一个Python的urllib。可以用urllib.urlopen(“url”)。read()可以轻松读取页面上面的静态信息。但是随着时代的发展也来越多的网页中更多的使用javascript、jQuery、PHP等语言动态生成页面信息。因此用urllib再去抓取页面HTML就不足以达到我们想要的效果。解决思路有一个思路最为简单的思路可以动态解析页面信息。urllib不可以解析动态信息但是浏览器可以。在浏览器上展现处理的信息其实是处理好的HTML文档。这为我们抓取动态页面信息提供了很好的思路。在Python中有一个很有名的图形库——PyQt。PyQt虽然是图形库但是他里面 QtWebkit。这个很实用。谷歌的Chrome和苹果的Safari都是基于WebKit内核开发的所以我们可以通过PyQt中得QtWebKit 把页面中的信息读取加载到HTML文档中再解析HTML文档从HTML文档中提取我们想用得信息。作者本人实用Mac OS X。应该在Windows和Linux平台也可以采用相同的办法。1、Qt4 libraryLibrary而不是Creator。Library在Mac的默认安装路径下应该是/home/username/Developor/不要改变Qt4的默认安装路径。否则可能安装失败。官方网址http://qt-project.org/downloads2、SIP、PyQt4这两个软件可以在在PyQt的官网找到。下载的是它的源码。Mac和Linux需要自己编译。下载地址是http://www.riverbankcomputing.co.uk/software/pyqt/download在终端切换到文件解压后的目录中。在终端中输入python configure.pymakesudo make install进行安装编译。SIP和PyQt4两个安装方法相同。但是PyQt4依赖SIP。所以先安装SIP再安装PyQt41、2两步完成之后Python的PyQt4的模块就安装好了。在Python shell中输入import PyQt4看看能不能找到PyQt4的模块。3、Spynnerspynner是一个QtWebKit的客户端它可以模拟浏览器完成加载页面、引发事件、填写表单等操作。这个模块可以在Python的官网找到。下载地址 https://pypi.python.org/pypi/spynner/2.5解压后cd到安装目录然后输入sudo python configure.py install安装该模块。这样Spynner模块就安装完成了在python shell中试试import spynner看看该模块有没有安装完成。回到顶部Spynner的简单使用Spynner的功能十分强大但是由于本人能力有限就介绍一下如何显示网页的源码吧。#! /usr/bin/python#-*-coding: utf-8 -*-import spynnerbrowser spynner.Browser()#创建一个浏览器对象browser.hide()#打开浏览器并隐藏。browser.load(“http://www.baidu.com”)#browser 类中有一个类方法load可以用webkit加载你想加载的页面信息。#load(是你想要加载的网址的字符串形式)print browser.html.encode(“utf-8”)#browser 类中有一个成员是html是页面进过处理后的源码的字符串。#将其转码为UTF-8编码open(“Test.html”, w‘)。write(browser.html.encode(“utf-8”))#你也可以将它写到文件中用浏览器打开。browser.close()#关闭该浏览器通过这个程序就可以比较容易的显示webkit处理的页面HTML源码了。回到顶部spynner应用下面介绍一下spynner的简单应用通过简单的程序可以获取你在浏览器中看到的页面的全部图片。用HTMLParser、BeautifulSoup等都可以完成HTMLParser文档的解析。而我选择HTMParser。#!/usr/bin/pythonimport spynnerimport HTMLParserimport osimport urllibclass MyParser(HTMLParser.HTMLParser)def handle_starttag(self, tag, attrs)if tag img:url dict(attrs)[src]name os.path.basename(dict(attrs)[src])if name.endswith(.jpg’) or name.endswith(‘.png’) or name.endswith(‘gif’)print “Download……”, nameurllib.urlretrieve(url, name)if __name__ “__main__”:browser spynner.Browser()browser.show()browser.load(“http://www.artist.cn/snakewu1994/StyleBasis_Four/en_album_607236.shtml”)Parser MyParser()Parser.feed(browser.html)print “Done”browser.close()通过这个程序可以下载你在页面上看到的全部图片。简单的几行程序就完成了这个艰巨的任务。实现了图片的批量处理。这真是Python语言的优势再艰巨的任务交给第三方吧。
