1.《Python 网络爬虫开发实战》:这本书介绍了Python爬虫的基本原理,以及如何使用Python编写爬虫程序,实现网络爬虫的功能。
2.《Python爬虫技术实战》:这本书介绍了Python爬虫的基本原理,以及如何使用Python编写爬虫程序,实现网络爬虫的功能。
3.《Python爬虫数据分析》:这本书介绍了如何分析爬取到的数据,以及如何使用Python编写爬虫程序,实现网络爬虫的功能。
4.《Python爬虫实战:深入理解Web抓取》:这本书介绍了如何使用Python编写爬虫程序,实现网络爬虫的功能,以及如何深入理解Web抓取。
5.《Python网络爬虫实战》:这本书介绍了如何使用Python编写爬虫程序,实现网络爬虫的功能,以及如何解决爬虫程序遇到的问题。
以上就是我推荐的几本Python爬虫的入门教程,可以帮助初学者快速掌握Python爬虫的基本技术。
HTTP “请求头信息” Request Header 是向服务端提供客户端的信息,“响应头信息” Response Header 是服务端向客户端提供请求文档信息或服务器的状态信息,服务端判断服务端的身份,就是通过 Header 来判断的,所以爬虫通过设置 Header 来隐藏自己相当重要。
一个完整的HTTP请求包含以下部分:
请求方法 URL HTTP版本
请求头信息
请求数据
<一个空行,请求的结束行>
常见的请求头:
Accept :客户端接收的数据类型,如:Accept:text/html
User Agent :客户端软件类型
Authorization :认证消息,包括用户名和口令
Referer :用户获取的Web页面
真实的请求头信息会更多,下面是豆瓣某短评的真实请求头:
一个完整的HTTP响应包含以下部分:
状态行
响应头
响应数据
常见的状态行:
更多状态码查看: HTTP状态码
常见的响应头:
Server :Web服务器程序的信息
Date :当前服务器的日期和时间
Last Modified :请求文档最近一次修改的时间
Expires :请求文档过期时间
Content-length :数据长度(字节)
Content-type :数据MIME类型
WWW-authenticate :用于通知客户方需要的认证信息,如用户名,口令等
下面是豆瓣某短评的真实响应头:
Python使用Requests来请求的时候,如果没有设置Header,Header是空的,设置Header的方法如下: