python爬虫入门之简单爬取百度页面

内容导读

互联网集市收集整理的这篇技术教程文章主要介绍了python爬虫入门之简单爬取百度页面，小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含1212字，纯文字阅读大概需要2分钟。

内容图文

初学人，尝试爬取百度引擎。

打开百度

谷歌浏览器下点击右键打开检查工具

点击第三行的ALL
可以看到右边的状态栏发生了变化，向上划，找到第一个文件，点击查看。

查看之后可以看到我们想要的数据。
所需的url以及request method方式为get方式。
以及得知content-type为text：

翻到最底，获知user-agent（这个可以逮住一个使劲薅）

需要的数据差不多都齐了，接下来开始怼代码：
首先导入requests包。

import  requests

第一步
指定好URL：

if __name__ == '__main__':
    #step1:指定url
    url = 'https://www.baidu.com/'

第二步
发起请求

#step2:发起请求
response =  requests.get(url=url)

第三步
获取到相应数据

#step3:获取相应数据,text返回的是以字符串形式地响应数据
wenben = response.text
print(wenben)

第四步
持久化存储

#step4:持久化存储
with open('./baidu.html','w',encoding='utf-8') as fp:
    fp.write(wenben)
print("爬取结束")

源代码：

import  requests
if __name__ == '__main__':
    #step1:指定url
    url = 'https://www.baidu.com/'
    #step2:发起请求
    response =  requests.get(url=url)
    #step3:获取相应数据,text返回的是以字符串形式地响应数据
    wenben = response.text
    print(wenben)
    #step4:持久化存储
    with open('./baidu.html','w',encoding='utf-8') as fp:
        fp.write(wenben)
    print("爬取结束")

本地运行代码，会发现同目录下出现一个名为baidu.html的文件。
点开运行。

勉强算是成功了吧。。。

内容总结

以上是互联网集市为您收集整理的python爬虫入门之简单爬取百度页面全部内容，希望文章能够帮你解决python爬虫入门之简单爬取百度页面所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。

内容备注

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。

内容手机端

---