Python之多进程根据p站画师id爬取

内容导读

互联网集市收集整理的这篇技术教程文章主要介绍了Python之多进程根据p站画师id爬取，小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含1760字，纯文字阅读大概需要3分钟。

内容图文

Python之p站根据id爬取图片（多进程）

import requests
import os
import time
import re
from multiprocessing import Process
from concurrent.futures import ProcessPoolExecutor
def test(id_p):
#####游览器内核需要自行添加，cookie也需要自己找，然后替换
    head = {
        'Referer': 'https://www.pixiv.net/',
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.142 Safari/537.36',
        'cookie': 'PHPSESSID=43437028_7c06ec1fd0e152e26fa0dab9c9fa919e'
    }

    headss = {
        'Referer': 'https://www.pixiv.net',
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.142 Safari/537.36'
    }
    while True:
        if id_p != '':
            su = 0
            zp = 'https://www.pixiv.net/ajax/user/' + id_p + '/profile/all'

            ####os创建文件夹
            if not os.path.exists(f'H:\图片\P站\作者id：{id_p}'):
                os.mkdir(f'H:\图片\P站\作者id：{id_p}')
            res = requests.get(zp, headers=head)
            date = res.json()
            # 生成图片路径
            url_jpg = []
            for k in date.get('body').get('illusts').keys():
                url_jpg.append('https://www.pixiv.net/member_illust.php?mode=medium&illust_id=' + k)
            # print(url_jpg)
            for i in url_jpg:
                res_id = requests.get(i, headers=head)
                date_id = res_id.text
                url = ''.join(re.findall('"original":"(.*?)"', date_id))
                url = url.replace('\\', '')
                rese = requests.get(url, headers=headss)
                with open(f'H:\图片\P站\作者id：{id_p}\{url.split("/")[-1]}', 'wb') as fw:
                    fw.write(rese.content)
                    fw.flush()
                print(f'\r--------{id_p}--------------{url.split("/")[-1]}------{su + 1}----------------',end='')
                if i == url_jpg[-1]:
                    print('\n')
                su += 1

                time.sleep(0.2)
            time.sleep(0.5)
            print(f'-----------{id_p}作品获取完成----------')
            break



if __name__ == '__main__':
    while True:
        p_id = input('输入作者id生成网址')
        pool = ProcessPoolExecutor(3)
        p = Process(target=test,args=(p_id,))
        p.start()

内容总结

以上是互联网集市为您收集整理的Python之多进程根据p站画师id爬取全部内容，希望文章能够帮你解决Python之多进程根据p站画师id爬取所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。

内容备注

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。

内容手机端