使用twisted将mysql插入变成异步执行
内容导读
互联网集市收集整理的这篇技术教程文章主要介绍了使用twisted将mysql插入变成异步执行,小编现在分享给大家,供广大互联网技能从业者学习和参考。文章包含2184字,纯文字阅读大概需要4分钟。
内容图文
![使用twisted将mysql插入变成异步执行](/upload/InfoBanner/zyjiaocheng/510/1dcae2815ada4253b8d94f7b2e8b4b1b.jpg)
对于异步框架而言,这些延迟是无法接受的。因此, Twisted 提供了 twisted.enterprise.adbapi, 遵循DB-API 2.0协议的一个异步封装。
adbapi 在单独的线程里面进行阻塞数据库操作, 当操作完成的时候仍然通过这个线程来进行回调。同事,原始线程能继续进行正常的工作,服务其他请求。
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 |
# 用twisted库将数据进行异步插入到数据库
import pymysql
from twisted.enterprise import adbapi
from twisted.internet import reactor
class MysqlTwistedPipeline( object ):
def __init__( self , dbpool):
self .dbpool = dbpool
@classmethod
def from_settings( cls , settings):
# 需要在setting中设置数据库配置参数
dbparms = dict (
host = settings[ ‘MYSQL_HOST‘ ],
db = settings[ ‘MYSQL_DBNAME‘ ],
user = settings[ ‘MYSQL_USER‘ ],
passwd = settings[ ‘MYSQL_PASSWORD‘ ],
charset = ‘utf8‘ ,
cursorclass = pymysql.cursors.DictCursor,
use_unicode = True ,
)
# 连接ConnectionPool(使用MySQLdb连接,或者pymysql)
dbpool = adbapi.ConnectionPool( "MySQLdb" , * * dbparms) # **让参数变成可变化参数
return cls (dbpool) # 返回实例化对象
def process_item( self , item, spider):
# 使用twisted将MySQL插入变成异步执行
query = self .dbpool.runInteraction( self .do_insert, item)
# 添加异常处理
query.addCallback( self .handle_error)
def handle_error( self , failure):
# 处理异步插入时的异常
print (failure)
def do_insert( self , cursor, item):
# 执行具体的插入
insert_sql = """
insert into jobbole_artitle(name, base_url, date, comment)
VALUES (%s, %s, %s, %s)
"""
cursor.execute(insert_sql, (item[ ‘name‘ ], item[ ‘base_url‘ ], item[ ‘date‘ ], item[ ‘coment‘ ],))
|
使用twisted将mysql插入变成异步执行
标签:协议 rom reac setting host cell mysql query use
本文系统来源:https://www.cnblogs.com/ellisonzhang/p/11113280.html
内容总结
以上是互联网集市为您收集整理的使用twisted将mysql插入变成异步执行全部内容,希望文章能够帮你解决使用twisted将mysql插入变成异步执行所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错,欢迎将互联网集市网站推荐给程序员好友。
内容备注
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 gblab@vip.qq.com 举报,一经查实,本站将立刻删除。
内容手机端
扫描二维码推送至手机访问。