之前有分享过一些python爬取网站的不同方式，今天就重点来给大家介绍下使用这Python Requests爬虫如何进行数据的获取，这里我们就以求取关键词页面为学习目标。
首先需求是爬取搜狗首页的页面数据，在这个过程中我们会使用的一些爬虫技术，比如使用UA伪装请求页面数据。面对网站封IP的情况会在爬取过程中加上代理IP的使用。代理的选择比较这里直接使用的是由亿牛云提供的爬虫代理，相对传统的api获取方式要方便的多，使用也有示例可以参考，这里我们在实践中给大家展示下使用的方式。爬取搜狗页面数据的代码示例如下：
在整个爬取过程中我们使用的ua要随机更换，不能一直使用一个进行访问，这样很容易被目标网站识别，也会对代理IP的使用效果有一定的影响。在使用代理过程中有其他需求的可以详细去官网咨询https://www.16yun.cn/。