首页 / PYTHON / Python3爬取百度百科（配合PHP）

Python3爬取百度百科（配合PHP）

内容导读

互联网集市收集整理的这篇技术教程文章主要介绍了Python3爬取百度百科（配合PHP），小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含1162字，纯文字阅读大概需要2分钟。

内容图文

用PHP写了一个网页，可以获取百度百科词条：http://www.selflink.cn/xiaobaike（只爬取摘要部分）

技术分享

 

那么通过Python来爬取，只需要不断向这个网页POST数据，获取返回值就可以了。由于是我自己的网页，保存返回值我也让PHP在服务器端来完成了，所以Python的任务只需要不断向服务器POST数据。

 

那么POST什么数据呢？暂时找到了一个名词大全的网页。http://cidian.911cha.com/cixing_mingci.html

技术分享

足足20页的名词，足够作为名词POST数据的来源了。

 

下面是获取各种名词的python代码：

zd = []
for i in range(20):
    url = ‘http://cidian.911cha.com/cixing_mingci_p‘+str(i+1)+‘.html‘
    webpage = urllib.request.urlopen(url)
    data = webpage.read()
    data = data.decode(‘utf-8‘)
    ‘‘‘
    file = open(‘d:/Pythoncode/simplecodes/0.html‘,‘w‘,encoding=‘utf-8‘)
    file.write(data)
    file.close()
    ‘‘‘
    k = re.findall(r‘target="_blank">.+?</a>‘,data)
    cou = 0
    cx=[]
    for i in k :
        if cou%2==0:
            cx.append(i)
        cou= cou+1
    for it in cx:
        m = re.search(r‘target="_blank">(.*?)</a>‘,it)
        iturl = m.group(1)
        zd.append(iturl)

 

现在字典里已经保存了足足20页的名词，下一步就是要向服务器POST数据，保存词条内容了。

            for i in zd :
    s=i
    print(i)
    s=urllib.parse.quote(s)
    url = "http://www.selflink.cn/xiaobaike/?name=%s"%(s)
    try:
        urllib.request.urlopen(url,timeout=5)
    except Exception as e:
        pass

 

python开始运行了……

技术分享

 

最后爬到了1902个词条内容0.0

技术分享

 

获取了这么多词条有什么用呢？……我也不知道，不过，获取知识也许是人工智能的开始吧^_^

原文：http://www.cnblogs.com/itlqs/p/5779185.html

内容总结

以上是互联网集市为您收集整理的Python3爬取百度百科（配合PHP）全部内容，希望文章能够帮你解决Python3爬取百度百科（配合PHP）所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。

内容备注

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。

内容手机端

扫描二维码推送至手机访问。

本文链接：https://qyyshop.com/info/1192506.html

来源：【匿名】