首页 / PYTHON / python 爬虫 定时计划任务
python 爬虫 定时计划任务
内容导读
互联网集市收集整理的这篇技术教程文章主要介绍了python 爬虫 定时计划任务,小编现在分享给大家,供广大互联网技能从业者学习和参考。文章包含1059字,纯文字阅读大概需要2分钟。
内容图文
记得以前的windows 任务定时是可以的正常使用的,今天试了下,发现不能正常使用了,任务计划总是挂起。
接下来记录下python 爬虫定时任务的几种解决方法。
今天是第一篇,后面会陆续更新。
首先最容易的是while true死循环挂起,上代码
import os
import time
import sys
from datetime import datetime, timedelta
def One_Plan(): # 设置启动周期 Second_update_time = 24 * 60 * 60 # 当前时间 now_Time = datetime.now() # 设置 任务启动时间 plan_Time = now_Time.replace(hour=9, minute=0, second=0, microsecond=0) # 设置差值,-1 day, 21:48:53.246576,类似于这样# time.sleep()需要传入int,所以下面使用.total_seconds() # 主要用来计算差值,返回int,具体功能可以自行查阅相关资料 delta = plan_Time - now_Time first_plan_Time = delta.total_seconds() % Second_update_time print("距离第一次执行需要睡眠%d秒" % first_plan_Time) return first_plan_Time # while Ture代码块,挂起程序,睡眠时间结束后调用函数名进行执行while True: s1 = One_Plan() time.sleep(s1) # 下面这里是自己定义的函数,想跑代码的可以换成hellow world函数或者注释掉这行测试下 exe_file(D_list) print("正在执行首次更新程序")
个人感觉使用这种方式进行定时计划的启动如果为单个程序,并且一天执行一次的话没什么问题,如果要考虑到一天执行多个任务并且一天需要执行多次,短板一下就凸显出来了,
在工作的情况中还需要考虑到很多因素,比如爬虫程序需要在晚上12点和早上6点,9点,下午3点执行四次,并且需要同时执行4个爬虫,还需要考虑到网络是否稳定,如果程序挂掉该怎么处理等等因素,后续根据工作中出现的情况继续更新
原文:https://www.cnblogs.com/meipu/p/13049270.html
内容总结
以上是互联网集市为您收集整理的python 爬虫 定时计划任务全部内容,希望文章能够帮你解决python 爬虫 定时计划任务所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错,欢迎将互联网集市网站推荐给程序员好友。
内容备注
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 gblab@vip.qq.com 举报,一经查实,本站将立刻删除。
内容手机端
扫描二维码推送至手机访问。