有一个思路最为简单的思路可以动态解析页面信息。urllib不可以解析动态信息，但是浏览器可以。在浏览器上展现处理的信息其实是处理好的HTML文
档。这为我们抓取动态页面信息提供了很好的思路。在Python中有一个很有名的图形库——PyQt。PyQt虽然是图形库，但是他里面
QtWebkit。这个很实用。谷歌的Chrome和苹果的Safari都是基于WebKit内核开发的，所以我们可以通过PyQt中得QtWebKit
把页面中的信息读取加载到HTML文档中，再解析HTML文档，从HTML文档中提取我们想用得信息。
所需材料：
作者本人实用Mac OS X。应该在Windows和Linux平台也可以采用相同的办法。
1、Qt4 library
Library，而不是Creator。Library在Mac的默认安装路径下，应该是/home/username/Developor/，不要改变Qt4的默认安装路径。否则可能安装失败。
官方网址：http://qt-project.org/downloads
2、SIP、PyQt4
这两个软件可以在在PyQt的官网找到。下载的是它的源码。Mac和Linux需要自己编译。
下载地址是：http://www.riverbankcomputing.co.uk/software/pyqt/download
在终端切换到文件解压后的目录中。
在终端中输入
python configure.py
make
sudo make install
进行安装编译。
SIP和PyQt4两个安装方法相同。但是PyQt4依赖SIP。所以先安装SIP再安装PyQt4
1、2两步完成之后，Python的PyQt4的模块就安装好了。在Python shell中输入import PyQt4看看能不能找到PyQt4的模块。
3、Spynner
spynner是一个QtWebKit的客户端，它可以模拟浏览器，完成加载页面、引发事件、填写表单等操作。
这个模块可以在Python的官网找到。
下载地址: https://pypi.python.org/pypi/spynner/2.5
解压后，cd到安装目录，然后输入sudo python configure.py install安装该模块。
这样Spynner模块就安装完成了，在python shell中试试import spynner看看该模块有没有安装完成。
Spynner的简单使用
Spynner的功能十分强大，但是由于本人能力有限，就介绍一下如何显示网页的源码吧。
#! /usr/bin/python
#-*-coding: utf-8 -*-
import spynner
browser = spynner.Browser()
#创建一个浏览器对象
browser.hide()
#打开浏览器，并隐藏。
browser.load("http://www.baidu.com")
#browser 类中有一个类方法load，可以用webkit加载你想加载的页面信息。
#load(是你想要加载的网址的字符串形式)
print browser.html.encode("utf-8")
#browser 类中有一个成员是html，是页面进过处理后的源码的字符串.
#将其转码为UTF-8编码
open("Test.html", 'w+').write(browser.html.encode("utf-8"))
#你也可以将它写到文件中，用浏览器打开。
browser.close()
#关闭该浏览器
通过这个程序，就可以比较容易的显示webkit处理的页面HTML源码了。
spynner应用
下面介绍一下spynner的简单应用，通过简单的程序，可以获取你在浏览器中看到的页面的全部图片。用HTMLParser、BeautifulSoup等都可以完成HTMLParser文档的解析。而我选择HTMParser。
#!/usr/bin/python
import spynner
import HTMLParser
import os
import urllib
class MyParser(HTMLParser.HTMLParser):
def handle_starttag(self, tag, attrs):
if tag == 'img':
url = dict(attrs)['src']
name = os.path.basename(dict(attrs)['src'])
if name.endswith('.jpg') or name.endswith('.png') or name.endswith('gif'):
print "Download.....", name
urllib.urlretrieve(url, name)
if __name__ == "__main__":
browser = spynner.Browser()
browser.show()
browser.load("http://www.artist.cn/snakewu1994/StyleBasis_Four/en_album_607236.shtml")
Parser = MyParser()
Parser.feed(browser.html)
print "Done"
browser.close()
通过这个程序，可以下载你在页面上看到的全部图片。简单的几行程序就完成了这个艰巨的任务。实现了图片的批量处理。这真是Python语言的优势，再艰巨的任务交给第三方吧。
最简单的办法，不需要任何第三方库，获取网页源代码，进行正则匹配： import urllib,re url = "http://www.163.com" #网页地址 wp = urllib.urlopen(url) #打开连接 content = wp.read() #获取页面内容 m = re.match(r"^你的单词$", content) le<html><body>
<form>
可获取码列表：
<select
name="liscode">
<option
value="01">123456</option>
<option
value="02">123457</option>
<option
value="03">123458</option>
<option
value="04">123459</option>
<option
value="05">123460</option>
<option
value="06">123461</option>
</select>
<input
type="submit"
value="确认获取"/>
</form>
</body>
</html>
其中所有liscode是从一个txt文档上提取的，当用户点击获取一个的时候，该项即被删除。
如何用python实现呢？
做一个py脚本或exe给用户实现的话大概像下面这样：
Python
code
infile
=
open('codelist.txt','r')
codelist
=
infile.readlines()
used_code
=
codelist[0]
#remove用掉的code（删除行）
codelist.remove(codelist[0])
infile.close()
#重写文件（我不知道是否有能直接删除一行的文件操作方法）
outfile
=
open('codelist.txt','w')
for
code
in
codelist:
outfile.write(code
+
'\n')
outfile.close()
used_code
