介绍python 数据抓取三种方法
内容导读
互联网集市收集整理的这篇技术教程文章主要介绍了介绍python 数据抓取三种方法，小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含1960字，纯文字阅读大概需要3分钟。
内容图文
免费学习推荐：python视频教程
三种数据抓取的方法
- 正则表达式（re库）
- BeautifulSoup（bs4）
- lxml
*利用之前构建的下载网页函数，获取目标网页的html，我们以https://guojiadiqu.bmcx.com/AFG__guojiayudiqu/为例，获取html。
from get_html import download url = 'https://guojiadiqu.bmcx.com/AFG__guojiayudiqu/'page_content = download(url)
*假设我们需要爬取该网页中的国家名称和概况，我们依次使用这三种数据抓取的方法实现数据抓取。
1.正则表达式
from get_html import downloadimport re
url = 'https://guojiadiqu.bmcx.com/AFG__guojiayudiqu/'page_content = download(url)country = re.findall('class="h2dabiaoti">(.*?)</h2>', page_content) #注意返回的是listsurvey_data = re.findall('<tr><td bgcolor="#FFFFFF" id="wzneirong">(.*?)</td></tr>', page_content)survey_info_list = re.findall('<p> (.*?)</p>', survey_data[0])survey_info = ''.join(survey_info_list)print(country[0],survey_info)2.BeautifulSoup（bs4）
from get_html import downloadfrom bs4 import BeautifulSoup
url = 'https://guojiadiqu.bmcx.com/AFG__guojiayudiqu/'html = download(url)#创建 beautifulsoup 对象soup = BeautifulSoup(html,"html.parser")#搜索country = soup.find(attrs={'class':'h2dabiaoti'}).text
survey_info = soup.find(attrs={'id':'wzneirong'}).textprint(country,survey_info)3.lxml
from get_html import downloadfrom lxml import etree #解析树url = 'https://guojiadiqu.bmcx.com/AFG__guojiayudiqu/'page_content = download(url)selector = etree.HTML(page_content)#可进行xpath解析country_select = selector.xpath('//*[@id="main_content"]/h2') #返回列表for country in country_select:
print(country.text)survey_select = selector.xpath('//*[@id="wzneirong"]/p')for survey_content in survey_select:
print(survey_content.text,end='')运行结果：
最后，引用《用python写网络爬虫》中对三种方法的性能对比，如下图：
仅供参考。
相关免费学习推荐：python教程（视频）
以上就是介绍python 数据抓取三种方法的详细内容。
本文系统来源：https://www.php.cn/python-tutorials-470285.html内容总结
以上是互联网集市为您收集整理的介绍python 数据抓取三种方法全部内容，希望文章能够帮你解决介绍python 数据抓取三种方法所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。
内容备注
版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。
内容手机端
扫描二维码推送至手机访问。